El Gobierno del Reino Unido ha presentado una amplia papel abordar las capacidades y los riesgos asociados con la IA de frontera.
El Primer Ministro del Reino Unido, Rishi Sunak, habló hoy sobre la responsabilidad global de enfrentar los riesgos destacados en el informe y aprovechar el potencial de la IA. Sunak enfatizó la necesidad de un diálogo honesto sobre la doble naturaleza de la IA: ofrece oportunidades sin precedentes, pero al mismo tiempo plantea peligros importantes.
“La IA traerá nuevos conocimientos, nuevas oportunidades de crecimiento económico, nuevos avances en la capacidad humana y la posibilidad de resolver problemas que alguna vez pensábamos que estaban fuera de nuestro alcance. Pero también trae consigo nuevos peligros y nuevos temores”, afirmó Sunak.
“Entonces, lo responsable que debo hacer es abordar esos temores de frente, brindándoles la tranquilidad de que los mantendremos a salvo y al mismo tiempo nos aseguraremos de que ustedes y sus hijos tengan todas las oportunidades para un futuro mejor que la IA puede brindarles. .
«Hacer lo correcto, no lo fácil, significa ser honesto con la gente acerca de los riesgos de estas tecnologías».
El informe profundiza en los rápidos avances de la IA de vanguardia, basándose en numerosas fuentes. Destaca las diversas perspectivas dentro de las comunidades científicas, de expertos y globales con respecto a los riesgos asociados con la rápida evolución de la tecnología de IA.
La publicación consta de tres secciones clave:
El informe, basado en información desclasificada de agencias de inteligencia, se centra en la IA generativa, la tecnología que sustenta los populares chatbots y el software de generación de imágenes. Prevé un futuro en el que los terroristas podrían explotar la IA para planificar ataques biológicos o químicos, lo que generaría serias preocupaciones sobre la seguridad global.
Sjuul van der Leeuw, director ejecutivo de Implementarteqcomentó: “Es bueno ver que el gobierno adopta un enfoque serio y ofrece un informe antes de la Cumbre de Seguridad de la próxima semana, aunque hay que hacer más.
«Se necesita un esfuerzo continuo para abordar los riesgos de la IA y esperamos que la cumbre aporte la claridad que tanto se necesita, permitiendo a las empresas y a los especialistas en marketing disfrutar de los beneficios que ofrece esta tecnología emergente, sin preocuparse de reacciones negativas».
El informe destaca que la IA generativa podría utilizarse para recopilar conocimientos sobre ataques físicos por parte de actores violentos no estatales, incluida la creación de armas químicas, biológicas y radiológicas.
Aunque las empresas están trabajando para implementar salvaguardias, el informe enfatiza la diferente efectividad de estas medidas. Los obstáculos para obtener el conocimiento, las materias primas y el equipo necesarios para tales ataques están disminuyendo, y la IA puede acelerar este proceso.
Además, el informe advierte sobre la probabilidad de que los ciberataques impulsados por IA sean más rápidos, más efectivos y de mayor escala para 2025. La IA podría ayudar a los piratas informáticos a imitar el lenguaje oficial y superar los desafíos anteriores enfrentados en esta área.
Sin embargo, algunos expertos han cuestionado el enfoque del Gobierno del Reino Unido.
Rashik Parmar MBE, director ejecutivo de BCS, el Instituto Colegiado de TIdijo: “Más de 1.300 tecnólogos y líderes firmaron nuestra carta abierta llamando a la IA una fuerza para el bien en lugar de una amenaza existencial para la humanidad.
“La IA no crecerá como Terminator. Si tomamos las medidas adecuadas, será un copiloto de confianza desde nuestros primeros días escolares hasta nuestra jubilación.
La Cumbre sobre Seguridad de la IA tendrá como objetivo fomentar un debate saludable sobre cómo abordar los riesgos fronterizos de la IA, que abarca el uso indebido por parte de actores no estatales para ataques cibernéticos o diseño de armas biológicas y preocupaciones relacionadas con los sistemas de IA que actúan de forma autónoma en contra de las intenciones humanas. Las discusiones en la cumbre también se extenderán a impactos sociales más amplios, como la interrupción de las elecciones, los prejuicios, el crimen y la seguridad en línea.
Claire Trachet, directora ejecutiva de Traquet, comentó: “La naturaleza de rápido crecimiento de la IA ha dificultado que los gobiernos equilibren la creación de una regulación efectiva que salvaguarde los intereses de las empresas y los consumidores sin sofocar las oportunidades de inversión. Aunque ahora existen algunas formas de gestión de riesgos y diferentes informes, ninguno de ellos es un verdadero enfoque coordinado.
«El compromiso del gobierno del Reino Unido con la seguridad de la IA es encomiable, pero las críticas en torno a la cumbre sirven como recordatorio de la importancia de un enfoque equilibrado, constructivo y con visión de futuro para la regulación de la IA».
Si nos basamos en el informe del gobierno del Reino Unido, la necesidad de colaboración en torno a medidas proporcionadas pero rigurosas para gestionar los riesgos que plantea la IA es más imperativa que nunca.
Lo global Cumbre de seguridad de IA se llevará a cabo en el histórico Bletchley Park del 1 al 2 de noviembre de 2023.
(Credito de imagen: GOBIERNO REINO UNIDO)
Ver también: BSI: Cerrar la ‘brecha de confianza en la IA’ es clave para desbloquear beneficios
¿Quiere aprender más sobre IA y big data de la mano de los líderes de la industria? Verificar Exposición de IA y Big Data que tendrá lugar en Amsterdam, California y Londres. El evento integral comparte ubicación con Exposición de seguridad cibernética y nube y Semana de la Transformación Digital.
Explore otros próximos eventos y seminarios web de tecnología empresarial impulsados por TechForge aquí.
Fuente: Un documento del Reino Unido destaca los riesgos de la IA antes de la Cumbre Mundial de Seguridad