Inflexiónuna startup de IA que tiene como objetivo crear «IA personal para todos», ha anunciado un nuevo modelo de lenguaje de gran tamaño denominado Inflexión-2 que supera al PaLM 2 de Google.
Inflection-2 se entrenó en más de 5000 GPU NVIDIA para alcanzar 1,025 mil billones de operaciones de punto flotante (FLOP), lo que lo coloca en la misma liga que PaLM 2 Large. Sin embargo, los primeros puntos de referencia muestran que Inflection-2 supera al modelo de Google en pruebas de capacidad de razonamiento, conocimiento fáctico y destreza estilística.
En una variedad de puntos de referencia académicos comunes de IA, Inflection-2 logró puntuaciones más altas que PaLM 2 en la mayoría. Esto incluyó superar al buque insignia del gigante de las búsquedas en las diversas pruebas multitarea de comprensión del lenguaje en la escuela secundaria (MMLU), así como en los puntos de referencia TriviaQA, HellaSwag y Grade School Math (GSM8k):
El nuevo modelo de la startup pronto impulsará su aplicación de asistente personal Pi para permitir conversaciones más naturales y funciones útiles.
Inflection dijo que su transición de las GPU NVIDIA A100 a H100 para inferencia, combinada con el trabajo de optimización, aumentará la velocidad de servicio y reducirá los costos a pesar de que Inflection-2 es mucho más grande que su predecesor.
Un portavoz de Inflection dijo que este último modelo les acerca “un gran hito” hacia el cumplimiento de la misión de proporcionar asistentes de IA para todos. Agregaron que el equipo «ya está deseando» entrenar modelos aún más grandes en su supercúmulo de 22.000 GPU.
Se dice que la seguridad es una máxima prioridad para los investigadores, siendo Inflection uno de los primeros signatarios de los compromisos voluntarios de IA de la Casa Blanca de julio de 2023. La compañía dijo que su equipo de seguridad continúa trabajando para garantizar que los modelos sean evaluados rigurosamente y se basen en las mejores prácticas para su alineación.
Con impresionantes puntos de referencia y planes para escalar aún más, el último esfuerzo de Inflection plantea un serio desafío para los gigantes tecnológicos como Google y Microsoft, que hasta ahora han dominado el campo de los grandes modelos de lenguaje. La carrera para ofrecer la próxima generación de IA ha comenzado.
(Foto por Juan Walter Bantz en desempaquetar)
Ver también: Anthropic aumenta el tamaño de Claude 2.1 a 200.000 tokens, casi duplicando GPT-4
¿Quiere aprender más sobre IA y big data de la mano de los líderes de la industria? Verificar Exposición de IA y Big Data que tendrá lugar en Amsterdam, California y Londres. El evento integral comparte ubicación con Semana de la Transformación Digital.
Explore otros próximos eventos y seminarios web de tecnología empresarial impulsados por TechForge aquí.
Fuente: Inflection-2 supera al PaLM 2 de Google en puntos de referencia comunes