M谩s

    Wolfram Research: inyectando confiabilidad en la IA generativa

    - Advertisement -

    El revuelo en torno a la IA generativa y el potencial de los grandes modelos de lenguaje (LLM), encabezados por ChatGPT de OpenAI, pareci贸 en un momento ser pr谩cticamente insuperable. Ciertamente era ineludible. M谩s de uno de cada cuatro d贸lares se invirti贸 en startups estadounidenses este a帽o fue a una empresa relacionada con la IAmientras que OpenAI revel贸 en su reciente conferencia de desarrolladores que ChatGPT sigue siendo uno de los servicios de m谩s r谩pido crecimiento de todos los tiempos.

    Sin embargo, algo sigue andando mal. O mejor dicho, se sigue a帽adiendo algo que no est谩 bien.

    Uno de los mayores problemas de los LLM es su capacidad para alucinar. En otras palabras, inventa cosas. Las cifras var铆an, pero una tasa que se cita con frecuencia es del 15% al 鈥嬧20%. Un sistema de Google subi贸 un 27%. Esto no ser铆a tan malo si no se mostrara tan asertivo al hacerlo. Jon McLoone, director de estrategia y comunicaci贸n t茅cnica de Wolfram Research, lo compara con el 芦sabelotodo bocazas que te encuentras en el pub禄. 芦Dir谩 cualquier cosa que lo haga parecer inteligente禄, dice McLoone. Noticias de IA. 芦No tiene por qu茅 ser correcto禄.

    Sin embargo, la verdad es que este tipo de alucinaciones son inevitables cuando se trata de estudiantes de maestr铆a en Derecho. Como explica McLoone, todo es una cuesti贸n de prop贸sito. 芦Creo que una de las cosas que la gente olvida, en esta idea de la ‘m谩quina pensante’, es que todas estas herramientas est谩n dise帽adas con un prop贸sito en mente, y la maquinaria se ejecuta con ese prop贸sito禄, dice McLoone. 鈥淵 el prop贸sito no era conocer los hechos.

    鈥淓l prop贸sito que impuls贸 su creaci贸n fue ser fluido; decir el tipo de cosas que uno esperar铆a que dijera un ser humano; parece plausible鈥, a帽ade McLoone. 鈥淒ecir la respuesta correcta, decir la verdad, es algo muy plausible, pero no es un requisito de plausibilidad.

    芦As铆 que obtienes estas cosas divertidas en las que puedes decir ‘explica por qu茅 a las cebras les gusta comer cactus’, y eso est谩 haciendo su trabajo de plausibilidad禄, dice McLoone. 芦Dice el tipo de cosas que pueden parecer correctas, pero, por supuesto, todo es una tonter铆a, porque simplemente se pide que suene plausible禄.

    Por lo tanto, lo que se necesita es una especie de intermediario que sea capaz de inyectar un poco de objetividad en los procedimientos, y aqu铆 es donde entra en juego Wolfram. En marzo, la empresa lanz贸 un complemento ChatGPTcuyo objetivo es 芦hacer que ChatGPT sea m谩s inteligente d谩ndole acceso a c谩lculos potentes y matem谩ticas precisas禄.[s], conocimiento curado, datos en tiempo real y visualizaci贸n’. Adem谩s de ser una extensi贸n general de ChatGPT, el complemento Wolfram tambi茅n puede sintetizar c贸digo.

    芦Le ense帽a al LLM a reconocer los tipos de cosas que Wolfram|Alpha podr铆a saber: nuestro motor de conocimiento禄, explica McLoone. 鈥淣uestro enfoque al respecto es completamente diferente. No raspamos la web. Contamos con curadores humanos que dan significado y estructura a los datos, y aplicamos c谩lculos sobre ellos para sintetizar nuevos conocimientos, de modo que usted pueda hacer preguntas sobre los datos. Tenemos unos cuantos miles de conjuntos de datos integrados en eso鈥.

    鉂 Tambi茅n te interesa:Microsoft contrata al ex director ejecutivo de OpenAI, Sam Altman, y al cofundador Greg BrockmanMicrosoft contrata al ex director ejecutivo de OpenAI, Sam Altman, y al cofundador Greg Brockman

    Wolfram siempre ha estado del lado de la tecnolog铆a computacional, y McLoone, quien se describe a s铆 mismo como una 芦persona de computaci贸n de toda la vida禄, ha estado en la compa帽铆a durante casi 32 de sus 36 a帽os de historia. Por lo tanto, cuando se trata de IA, Wolfram se ubica en el lado simb贸lico de la valla, que se adapta a los casos de uso de razonamiento l贸gico, en lugar de la IA estad铆stica, que se adapta al reconocimiento de patrones y la clasificaci贸n de objetos.

    Los dos sistemas parecen directamente opuestos, pero tienen m谩s puntos en com煤n de lo que piensas. 鈥淒onde lo veo, [approaches to AI] Todos tienen algo en com煤n: utilizar la maquinaria inform谩tica para automatizar el conocimiento鈥, afirma McLoone. 鈥淟o que ha cambiado durante ese tiempo es el concepto de en qu茅 nivel se est谩 automatizando el conocimiento.

    鈥淓n el antiguo mundo de la computaci贸n de la IA, los humanos crean reglas de comportamiento y luego la m谩quina automatiza la ejecuci贸n de esas reglas鈥, agrega McLoone. 鈥淒e la misma manera que el palo ampl铆a el alcance del cavern铆cola, la computadora ampl铆a la capacidad del cerebro para hacer estas cosas, pero todav铆a estamos resolviendo el problema de antemano.

    鈥淐on la IA generativa, ya no se trata de decir ‘centr茅monos en un problema y descubramos las reglas del problema’. Ahora estamos empezando a decir: ‘descubramos las reglas del mundo’, y entonces tenemos un modelo que podemos intentar aplicar a diferentes problemas en lugar de a problemas espec铆ficos.

    芦As铆 que a medida que la automatizaci贸n ha ido avanzando en el espectro intelectual, las cosas se han vuelto m谩s generales, pero al final, todo se trata simplemente de ejecutar reglas禄, dice McLoone.

    Es m谩s, as铆 como los diferentes enfoques de la IA comparten un objetivo com煤n, tambi茅n lo comparten las empresas de ambos lados. Mientras OpenAI desarrollaba su arquitectura de complementos, se le pidi贸 a Wolfram que fuera uno de los primeros proveedores. 芦Cuando comenz贸 la revoluci贸n del LLM, comenzamos a hacer muchos an谩lisis sobre lo que realmente eran capaces de hacer禄, explica McLoone. 鈥淵 luego, cuando llegamos a comprender cu谩les eran las fortalezas y debilidades, fue en ese momento que OpenAI comenz贸 a trabajar en su arquitectura de complementos.

    芦Se acercaron a nosotros desde el principio, porque ten铆an un poco m谩s de tiempo para pensar en esto que nosotros, ya que lo hab铆an visto venir durante dos a帽os禄, a帽ade McLoone. 芦Ellos mismos ya entendieron exactamente este problema禄.

    McLoone demostrar谩 el complemento con ejemplos en la pr贸xima Exposici贸n mundial de inteligencia artificial y big data evento en Londres del 30 de noviembre al 1 de diciembre, donde hablar谩. Sin embargo, desea enfatizar que existen casos de uso m谩s variados que pueden beneficiarse de la combinaci贸n del dominio del lenguaje no estructurado de ChatGPT y el dominio de las matem谩ticas computacionales de Wolfram.

    Un ejemplo de ello es la realizaci贸n de ciencia de datos en registros m茅dicos de m茅dicos de cabecera no estructurados. Esto abarca desde corregir transcripciones peculiares en el lado de LLM (reemplazando ‘pacificador’ por ‘marcapasos’ como un ejemplo) hasta usar c谩lculos anticuados y buscar correlaciones dentro de los datos. 鈥淓stamos centrados en el chat, porque es lo m谩s sorprendente en este momento que podemos hablar con una computadora. Pero el LLM no se trata s贸lo de chatear鈥, afirma McLoone. 芦Son realmente geniales con datos no estructurados禄.

    鉂 Tambi茅n te interesa:Transformar el trabajo en la era GenAITransformar el trabajo en la era GenAI

    驴C贸mo ve McLoone el desarrollo de los LLM en los pr贸ximos a帽os? Habr谩 varias mejoras incrementales y las mejores pr谩cticas de capacitaci贸n obtendr谩n mejores resultados, sin mencionar una velocidad potencialmente mayor con la aceleraci贸n de hardware. 芦Donde va el gran dinero, van las arquitecturas禄, se帽ala McLoone. Sin embargo, es probable que se pueda descartar un cambio radical de la magnitud de los 煤ltimos 12 meses. En parte debido a los abrumadores costos de computaci贸n, pero tambi茅n porque es posible que hayamos alcanzado su punto m谩ximo en t茅rminos de conjuntos de entrenamiento. Si las sentencias de derechos de autor van en contra de los proveedores de LLM, los conjuntos de capacitaci贸n se reducir谩n en el futuro.

    Sin embargo, el problema de confiabilidad de los LLM estar谩 al frente de la presentaci贸n de McLoone. 芦Las cosas computacionales son donde es absolutamente m谩s d茅bil, no puede seguir reglas m谩s all谩 de cosas realmente b谩sicas禄, explica. 芦Para cualquier cosa en la que est茅s sintetizando nuevos conocimientos, o computando con cosas orientadas a datos en lugar de cosas orientadas a historias, la computaci贸n es realmente la manera de hacerlo禄.

    Todav铆a aunque las respuestas pueden variar 鈥 Despu茅s de todo, hay que tener en cuenta el grado de aleatoriedad de ChatGPT: la combinaci贸n parece estar funcionando, siempre y cuando le des instrucciones estrictas al LLM. 鈥淣o s茅 si alguna vez he visto [an LLM] De hecho, anula un hecho que he proporcionado鈥, dice McLoone. 鈥淐uando lo pones a cargo del complemento, a menudo piensa: ‘No creo que me moleste en llamar a Wolfram para esto, s茅 la respuesta’, e inventar谩 algo.

    芦As铆 que, si est谩 a cargo, hay que ofrecer una ingenier铆a r谩pida y realmente s贸lida禄, a帽ade. 鈥淒iga ‘siempre use la herramienta si tiene algo que ver con esto, no intente hacerlo solo’. Pero cuando es al rev茅s 鈥揷uando la computaci贸n genera el conocimiento y lo inyecta en el LLM鈥 nunca he visto que se ignoren los hechos.

    芦Es como el tipo charlat谩n del pub: si le susurras los hechos al o铆do, felizmente se atribuir谩 el m茅rito禄.

    馃摲 Google amplia su asociacion con Anthropic para mejorar la seguridad

    Wolfram estar谩 en AI & Big Data Expo Global. 驴Quiere aprender m谩s sobre IA y big data de la mano de los l铆deres de la industria? Verificar Exposici贸n de IA y Big Data que tendr谩 lugar en Amsterdam, California y Londres. El evento integral comparte ubicaci贸n con Exposici贸n de seguridad cibern茅tica y nube y Semana de la Transformaci贸n Digital.

    Explore otros pr贸ximos eventos y seminarios web de tecnolog铆a empresarial impulsados 鈥嬧媝or TechForge aqu铆.

    Etiquetas: IA, inteligencia artificial, IA generativa, LLM, wolfram alpha

    鉂 Tambi茅n te interesa:Anthropic aumenta el tama帽o de Claude 2.1 a 200.000 tokens, casi duplicando GPT-4Anthropic aumenta el tama帽o de Claude 2.1 a 200.000 tokens, casi duplicando GPT-4

    Fuente: Wolfram Research: inyectando confiabilidad en la IA generativa

    Populares

    M谩s de esta categor铆a

    DEJA UNA RESPUESTA

    Por favor ingrese su comentario!
    Por favor ingrese su nombre aqu铆

    Este sitio usa Akismet para reducir el spam. Aprende c贸mo se procesan los datos de tus comentarios.