El Reino Unido y Estados Unidos han firmado un acuerdo histórico para colaborar en el desarrollo de pruebas rigurosas para sistemas avanzados de IA, lo que representa un gran paso adelante para garantizar sus implementaciones seguras.
El Memorando de Entendimiento, firmado el lunes por la Secretaria de Tecnología del Reino Unido, Michelle Donelan, y la Secretaria de Comercio de Estados Unidos, Gina Raimondo, establece una asociación para alinear los enfoques científicos de ambos países en la iteración rápida de métodos de evaluación sólidos para modelos, sistemas y agentes de inteligencia artificial de vanguardia.
Según el acuerdo, el nuevo Reino Unido Instituto de seguridad de IA y la próxima organización estadounidense intercambiará experiencia en investigación con el objetivo de mitigar los riesgos de la IA, incluida la forma de evaluar de forma independiente modelos privados de IA de empresas como OpenAI. La asociación se basa en la colaboración de seguridad entre GCHQ y la Agencia de Seguridad Nacional.
«Este acuerdo representa un momento histórico, ya que el Reino Unido y los Estados Unidos profundizan nuestra relación especial duradera para abordar el desafío tecnológico que define a nuestra generación», afirmó Donelan. «Sólo trabajando juntos podremos abordar los riesgos de la tecnología de frente y aprovechar su enorme potencial para ayudarnos a todos a vivir una vida más fácil y saludable».
La asociación da cumplimiento a los compromisos asumidos en la Cumbre de Seguridad de la IA celebrada en el Reino Unido en noviembre pasado. Los institutos planean desarrollar un enfoque común para las pruebas de seguridad de la IA y compartir capacidades para abordar los riesgos de manera efectiva. Tienen la intención de realizar al menos un ejercicio público conjunto de pruebas sobre un modelo de IA de acceso abierto y explorar intercambios de personal.
Raimondo enfatizó la importancia de la colaboración y afirmó: “La IA es la tecnología que define a nuestra generación. Esta asociación acelerará el trabajo de nuestros dos institutos en todo el espectro de riesgos, ya sea para nuestra seguridad nacional o para nuestra sociedad en general”.
Ambos gobiernos reconocen el rápido desarrollo de la IA y la necesidad urgente de un enfoque global compartido de seguridad que pueda seguir el ritmo de los riesgos emergentes. La asociación entra en vigor de inmediato, lo que permite una cooperación fluida entre las organizaciones.
«Al trabajar juntos, estamos promoviendo la relación especial duradera entre EE. UU. y el Reino Unido y sentando las bases para garantizar que mantenemos la IA segura tanto ahora como en el futuro», añadió Raimondo.
Además de las pruebas conjuntas y el intercambio de capacidades, el Reino Unido y los EE. UU. intercambiarán información vital sobre las capacidades, los riesgos y la investigación técnica fundamental del modelo de IA. Esto tiene como objetivo apuntalar una base científica común para las pruebas de seguridad de la IA que puedan adoptar investigadores de todo el mundo.
A pesar de centrarse en el riesgo, Donelan insistió en que el Reino Unido no tiene planes de regular la IA de manera más amplia en el corto plazo. Por el contrario, el presidente Joe Biden ha adoptado una posición más estricta sobre los modelos de IA que amenazan la seguridad nacional, y la Ley de IA de la UE ha adoptado regulaciones más estrictas.
Los expertos de la industria acogieron con satisfacción la colaboración como esencial para promover la confianza y la seguridad en el desarrollo y la adopción de la IA en sectores como el marketing, las finanzas y el servicio al cliente.
«Es primordial garantizar que el desarrollo y el uso de la IA se rijan por la confianza y la seguridad», afirmó Ramprakash Ramamoorthy, de Zoho. «Tomar medidas de seguridad para proteger los datos de capacitación mitiga los riesgos y refuerza la confianza entre quienes implementan soluciones de inteligencia artificial».
Dr. Henry Balani de Abarcar añadió: «Mitigar los riesgos de la IA, a través de este acuerdo de colaboración con los EE. UU., es un paso clave para mitigar los riesgos de delitos financieros, fomentar la colaboración y apoyar la innovación en un área tecnológica crucial y en avance».
(Foto por Arte Lasovsky)
Ver también: IPPR: 8 millones de carreras en el Reino Unido corren el riesgo de sufrir un ‘apocalipsis laboral’ debido a la IA
¿Quiere aprender más sobre IA y big data de la mano de los líderes de la industria? Verificar Exposición de IA y Big Data que tendrá lugar en Ámsterdam, California y Londres. El evento integral comparte ubicación con otros eventos importantes, incluidos bloquex, Semana de la Transformación Digitaly Exposición de seguridad cibernética y nube.
Explore otros próximos eventos y seminarios web de tecnología empresarial impulsados por TechForge aquí.
Fuente: Reino Unido y Estados Unidos firman un pacto para desarrollar pruebas de seguridad de IA