Ilya Sutskever, ex científico jefe de OpenAI, reveló su próximo gran proyecto después de dejar la empresa de investigación de IA que cofundó en mayo.
Junto con el ex alumno de OpenAI, Daniel Levy, y el ex líder de IA de Apple, Daniel Gross, se formó el trío. Superinteligencia segura Inc. (SSI), una startup centrada únicamente en la construcción de sistemas superinteligentes seguros.
La formación de SSI se produce tras el breve derrocamiento en noviembre de 2023 del director ejecutivo de OpenAI, Sam Altman, en el que Sutskever desempeñó un papel central antes de expresar su pesar por la situación.
En un mensaje en el sitio web de SSI, los fundadores afirman:
“Abordamos la seguridad y las capacidades en conjunto, como problemas técnicos que deben resolverse mediante ingeniería revolucionaria y avances científicos. Planeamos mejorar las capacidades lo más rápido posible mientras nos aseguramos de que nuestra seguridad siempre esté por delante. De esta manera, podremos escalar en paz.
Nuestro enfoque singular significa que no hay distracciones por gastos generales de gestión o ciclos de productos, y nuestro modelo de negocio significa que la seguridad, la protección y el progreso están todos aislados de las presiones comerciales a corto plazo”.
El trabajo de Sutskever en SSI representa una continuación de sus esfuerzos en OpenAI, donde formó parte del equipo de superalineación encargado de diseñar métodos de control para nuevos y potentes sistemas de IA. Sin embargo, ese grupo se disolvió tras la destacada salida de Sutskever.
Según SSI, buscará una superinteligencia segura en “un tiro directo, con un enfoque, un objetivo y un producto”. Este enfoque singular contrasta con la diversificación observada en los principales laboratorios de IA como OpenAI, DeepMind y Anthropic en los últimos años.
Sólo el tiempo dirá si el equipo de Sutskever podrá lograr avances sustanciales hacia su elevado objetivo de lograr una IA superinteligente segura. Los críticos argumentan que el desafío representa tanto una cuestión de filosofía como de ingeniería. Sin embargo, el pedigrí de los fundadores de SSI significa que sus esfuerzos serán seguidos con gran interés.
Mientras tanto, esperemos ver un resurgimiento del «¿Qué vio Ilya?» meme:
¿Qué vio Ilya? pic.twitter.com/2Vhn2OXBMt
– Mateo Zeits (@MatthewZ73671) 13 de junio de 2024
Ver también: Meta presenta cinco modelos de IA para procesamiento multimodal, generación de música y más
¿Quiere aprender más sobre IA y big data de la mano de los líderes de la industria? Verificar Exposición de IA y Big Data que tendrá lugar en Ámsterdam, California y Londres. El evento integral comparte ubicación con otros eventos importantes, incluidos Conferencia de automatización inteligente, bloquex, Semana de la Transformación Digitaly Exposición de seguridad cibernética y nube.
Explore otros próximos eventos y seminarios web de tecnología empresarial impulsados por TechForge aquí.
Fuente: La nueva startup del cofundador de OpenAI, Ilya Sutskever, apunta a una ‘superinteligencia segura’