M谩s

    Los pioneros de la IA se convierten en denunciantes y exigen salvaguardias

    - Advertisement -

    Abierto AI se enfrenta a una ola de conflictos internos y cr铆ticas externas sobre sus pr谩cticas y los riesgos potenciales que plantea su tecnolog铆a.

    En mayo, varios empleados de alto perfil abandonaron la empresa, incluido Jan Leike, exdirector de los esfuerzos de 鈥渟煤per alineaci贸n鈥 de OpenAI para garantizar que los sistemas avanzados de IA sigan alineados con los valores humanos. La salida de Leike se produjo poco despu茅s de que OpenAI presentara su nuevo modelo insignia GPT-4o, que promocion贸 como 芦m谩gico禄 en su evento Spring Update.

    Seg煤n los informes, la salida de Leike fue impulsada por constantes desacuerdos sobre las medidas de seguridad, las pr谩cticas de monitoreo y la priorizaci贸n de lanzamientos de productos llamativos sobre consideraciones de seguridad.

    La salida de Leike ha abierto la caja de Pandora para la empresa de IA. Ex miembros de la junta directiva de OpenAI han presentado acusaciones de abuso psicol贸gico contra el director ejecutivo Sam Altman y el liderazgo de la empresa.

    La creciente agitaci贸n interna en OpenAI coincide con las crecientes preocupaciones externas sobre los riesgos potenciales que plantea la tecnolog铆a de IA generativa, como los propios modelos ling眉铆sticos de la empresa. Los cr铆ticos han advertido sobre la inminente amenaza existencial de que la IA avanzada supere las capacidades humanas, as铆 como sobre riesgos m谩s inmediatos como el desplazamiento de puestos de trabajo y el uso de la IA como arma para campa帽as de desinformaci贸n y manipulaci贸n.

    En respuesta, un grupo de empleados actuales y anteriores de OpenAI, Anthropic, DeepMind y otras empresas l铆deres en inteligencia artificial han escrito una carta abierta abordando estos riesgos.

    鉂 Tambi茅n te interesa:DuckDuckGo lanza un portal que brinda acceso privado a modelos de IADuckDuckGo lanza un portal que brinda acceso privado a modelos de IA

    鈥淪omos empleados actuales y anteriores de empresas de inteligencia artificial de vanguardia y creemos en el potencial de la tecnolog铆a de inteligencia artificial para brindar beneficios sin precedentes a la humanidad. Tambi茅n entendemos los graves riesgos que plantean estas tecnolog铆as鈥, afirma la carta.

    鈥淓stos riesgos van desde un mayor afianzamiento de las desigualdades existentes, pasando por la manipulaci贸n y la desinformaci贸n, hasta la p茅rdida de control de los sistemas aut贸nomos de IA, lo que podr铆a provocar la extinci贸n humana. Las propias empresas de IA han reconocido estos riesgos, al igual que los gobiernos de todo el mundo y otros expertos en IA鈥.

    La carta, firmada por 13 empleados y respaldada por los pioneros de la IA, Yoshua Bengio y Geoffrey Hinton, describe cuatro demandas principales destinadas a proteger a los denunciantes y fomentar una mayor transparencia y responsabilidad en torno al desarrollo de la IA:

  • Que las empresas no aplicar谩n cl谩usulas de no menosprecio ni tomar谩n represalias contra los empleados por plantear inquietudes relacionadas con riesgos.
  • Que las empresas faciliten un proceso an贸nimo verificable para que los empleados planteen sus inquietudes a las juntas directivas, reguladores y expertos independientes.
  • Que las empresas apoyen una cultura de cr铆tica abierta y permitan a los empleados compartir p煤blicamente inquietudes relacionadas con riesgos, con la protecci贸n adecuada de los secretos comerciales.
  • Que las empresas no tomar谩n represalias contra los empleados que compartan informaci贸n confidencial relacionada con riesgos despu茅s de que otros procesos hayan fallado.
  • 芦Ellos y otros han aceptado el enfoque de ‘moverse r谩pido y romper cosas’ y eso es lo opuesto a lo que se necesita para una tecnolog铆a tan poderosa y tan poco entendida禄, dijo Daniel Kokotajlo, un ex empleado de OpenAI que se fue debido a preocupaciones sobre el los valores de la empresa y la falta de responsabilidad.

    Las demandas se producen en medio de informes de que OpenAI ha obligado a los empleados salientes a firmar acuerdos de confidencialidad que les impiden criticar a la empresa o correr el riesgo de perder su capital adquirido. El director ejecutivo de OpenAI, Sam Altman, admiti贸 estar 芦avergonzado禄 por la situaci贸n, pero afirm贸 que la empresa nunca hab铆a recuperado el capital adquirido de nadie.

    A medida que avanza la revoluci贸n de la IA, las luchas internas y las demandas de los denunciantes en OpenAI subrayan los dolores crecientes y los dilemas 茅ticos no resueltos que rodean a la tecnolog铆a.

    鉂 Tambi茅n te interesa:Musk pone fin a la demanda de OpenAI mientras critica los planes ChatGPT de AppleMusk pone fin a la demanda de OpenAI mientras critica los planes ChatGPT de Apple

    Ver tambi茅n: OpenAI interrumpe cinco operaciones de influencia encubiertas

    驴Quiere aprender m谩s sobre IA y big data de la mano de los l铆deres de la industria? Verificar Exposici贸n de IA y Big Data que tendr谩 lugar en 脕msterdam, California y Londres. El evento integral comparte ubicaci贸n con otros eventos importantes, incluidos Conferencia de automatizaci贸n inteligente, bloquex, Semana de la Transformaci贸n Digitaly Exposici贸n de seguridad cibern茅tica y nube.

    Explore otros pr贸ximos eventos y seminarios web de tecnolog铆a empresarial impulsados 鈥嬧媝or TechForge aqu铆.

    Etiquetas: ai, antr贸pico, inteligencia artificial, mente profunda, 茅tica, openai, sociedad

    Fuente: Los pioneros de la IA se convierten en denunciantes y exigen salvaguardias

    鉂 Tambi茅n te interesa:Seg煤n se informa, Apple obtendr谩 acceso gratuito a ChatGPTSeg煤n se informa, Apple obtendr谩 acceso gratuito a ChatGPT

    Populares

    M谩s de esta categor铆a

    DEJA UNA RESPUESTA

    Por favor ingrese su comentario!
    Por favor ingrese su nombre aqu铆

    Este sitio usa Akismet para reducir el spam. Aprende c贸mo se procesan los datos de tus comentarios.