Abierto AI se enfrenta a una ola de conflictos internos y críticas externas sobre sus prácticas y los riesgos potenciales que plantea su tecnología.
En mayo, varios empleados de alto perfil abandonaron la empresa, incluido Jan Leike, exdirector de los esfuerzos de “súper alineación” de OpenAI para garantizar que los sistemas avanzados de IA sigan alineados con los valores humanos. La salida de Leike se produjo poco después de que OpenAI presentara su nuevo modelo insignia GPT-4o, que promocionó como «mágico» en su evento Spring Update.
Según los informes, la salida de Leike fue impulsada por constantes desacuerdos sobre las medidas de seguridad, las prácticas de monitoreo y la priorización de lanzamientos de productos llamativos sobre consideraciones de seguridad.
La salida de Leike ha abierto la caja de Pandora para la empresa de IA. Ex miembros de la junta directiva de OpenAI han presentado acusaciones de abuso psicológico contra el director ejecutivo Sam Altman y el liderazgo de la empresa.
La creciente agitación interna en OpenAI coincide con las crecientes preocupaciones externas sobre los riesgos potenciales que plantea la tecnología de IA generativa, como los propios modelos lingüísticos de la empresa. Los críticos han advertido sobre la inminente amenaza existencial de que la IA avanzada supere las capacidades humanas, así como sobre riesgos más inmediatos como el desplazamiento de puestos de trabajo y el uso de la IA como arma para campañas de desinformación y manipulación.
En respuesta, un grupo de empleados actuales y anteriores de OpenAI, Anthropic, DeepMind y otras empresas líderes en inteligencia artificial han escrito una carta abierta abordando estos riesgos.
“Somos empleados actuales y anteriores de empresas de inteligencia artificial de vanguardia y creemos en el potencial de la tecnología de inteligencia artificial para brindar beneficios sin precedentes a la humanidad. También entendemos los graves riesgos que plantean estas tecnologías”, afirma la carta.
“Estos riesgos van desde un mayor afianzamiento de las desigualdades existentes, pasando por la manipulación y la desinformación, hasta la pérdida de control de los sistemas autónomos de IA, lo que podría provocar la extinción humana. Las propias empresas de IA han reconocido estos riesgos, al igual que los gobiernos de todo el mundo y otros expertos en IA”.
La carta, firmada por 13 empleados y respaldada por los pioneros de la IA, Yoshua Bengio y Geoffrey Hinton, describe cuatro demandas principales destinadas a proteger a los denunciantes y fomentar una mayor transparencia y responsabilidad en torno al desarrollo de la IA:
«Ellos y otros han aceptado el enfoque de ‘moverse rápido y romper cosas’ y eso es lo opuesto a lo que se necesita para una tecnología tan poderosa y tan poco entendida», dijo Daniel Kokotajlo, un ex empleado de OpenAI que se fue debido a preocupaciones sobre el los valores de la empresa y la falta de responsabilidad.
Las demandas se producen en medio de informes de que OpenAI ha obligado a los empleados salientes a firmar acuerdos de confidencialidad que les impiden criticar a la empresa o correr el riesgo de perder su capital adquirido. El director ejecutivo de OpenAI, Sam Altman, admitió estar «avergonzado» por la situación, pero afirmó que la empresa nunca había recuperado el capital adquirido de nadie.
A medida que avanza la revolución de la IA, las luchas internas y las demandas de los denunciantes en OpenAI subrayan los dolores crecientes y los dilemas éticos no resueltos que rodean a la tecnología.
Ver también: OpenAI interrumpe cinco operaciones de influencia encubiertas
¿Quiere aprender más sobre IA y big data de la mano de los líderes de la industria? Verificar Exposición de IA y Big Data que tendrá lugar en Ámsterdam, California y Londres. El evento integral comparte ubicación con otros eventos importantes, incluidos Conferencia de automatización inteligente, bloquex, Semana de la Transformación Digitaly Exposición de seguridad cibernética y nube.
Explore otros próximos eventos y seminarios web de tecnología empresarial impulsados por TechForge aquí.
Fuente: Los pioneros de la IA se convierten en denunciantes y exigen salvaguardias