La Comisión de Mercado Interior y la Comisión de Libertades Civiles del Parlamento Europeo han aprobado nuevas normas de transparencia y gestión de riesgos para los sistemas de inteligencia artificial conocidas como Ley de IA.
Esto marca un paso importante en el desarrollo de la regulación de la IA en Europa, ya que estas son las primeras reglas para la IA. Las reglas tienen como objetivo garantizar que los sistemas de IA sean seguros, transparentes, rastreables y no discriminatorios.
Después de la votación, coponente Brando Benifei (S&D, Italia) dicho:
“Estamos a punto de implementar una legislación histórica que debe resistir el desafío del tiempo. Es fundamental fomentar la confianza de los ciudadanos en el desarrollo de la IA, establecer el camino europeo para hacer frente a los cambios extraordinarios que ya están ocurriendo, así como orientar el debate político sobre la IA a nivel mundial.
Confiamos en que nuestro texto equilibre la protección de los derechos fundamentales con la necesidad de brindar seguridad jurídica a las empresas y estimular la innovación en Europa”.
co-ponente Dragos Tudorache (Renew, Rumanía) agregado:
“Dado el profundo impacto transformador que la IA tendrá en nuestras sociedades y economías, la Ley de IA es muy probablemente la pieza legislativa más importante en este mandato. Es la primera legislación de este tipo en todo el mundo, lo que significa que la UE puede liderar el camino para hacer que la IA sea confiable, segura y centrada en el ser humano.
Hemos trabajado para apoyar la innovación de la IA en Europa y para dar espacio a las empresas emergentes, las pymes y la industria para crecer e innovar, al mismo tiempo que protegemos los derechos fundamentales, fortalecemos la supervisión democrática y garantizamos un sistema maduro de gobernanza y aplicación de la IA”.
Las reglas se basan en un enfoque basado en el riesgo y establecen obligaciones para los proveedores y usuarios en función del nivel de riesgo que el sistema de IA pueda generar. Los sistemas de IA con un nivel de riesgo inaceptable para la seguridad de las personas estarían estrictamente prohibidos, incluidos los sistemas que implementan técnicas subliminales o deliberadamente manipuladoras, explotan las vulnerabilidades de las personas o se utilizan para la puntuación social.
Los eurodiputados también modificaron sustancialmente la lista de prácticas de IA prohibidas para incluir la prohibición de usos intrusivos y discriminatorios de los sistemas de IA, como los sistemas de identificación biométrica remota en tiempo real en espacios de acceso público, los sistemas de identificación biométrica posteriores a la distancia (excepto para fines policiales), sistemas de categorización biométrica que utilizan características sensibles, sistemas policiales predictivos, sistemas de reconocimiento de emociones en las fuerzas del orden, la gestión de fronteras, el lugar de trabajo y las instituciones educativas, y el raspado indiscriminado de datos biométricos de las redes sociales o imágenes de CCTV para crear bases de datos de reconocimiento facial.
Los eurodiputados también ampliaron la clasificación de áreas de alto riesgo para incluir daños a la salud, la seguridad, los derechos fundamentales o el medio ambiente de las personas. También agregaron sistemas de inteligencia artificial que influyen en los votantes en campañas políticas y sistemas de recomendación utilizados por las plataformas de redes sociales a la lista de alto riesgo.
Para impulsar la innovación en IA, los eurodiputados agregaron exenciones a estas reglas para actividades de investigación y componentes de IA proporcionados bajo licencias de código abierto. La nueva ley también promueve sandboxes regulatorios, o entornos controlados establecidos por las autoridades públicas, para probar la IA antes de su implementación.
Los eurodiputados quieren impulsar el derecho de los ciudadanos a presentar quejas sobre los sistemas de IA y recibir explicaciones de las decisiones basadas en sistemas de IA de alto riesgo que afectan significativamente sus derechos. Los eurodiputados también reformaron el papel de la Oficina de IA de la UE, que se encargaría de monitorear cómo se implementa el reglamento de IA.
Tim Wright, socio regulador de tecnología e IA en un bufete de abogados con sede en Londres Puerta de banderacomentó:
“Los desarrolladores de IA con sede en EE. UU. probablemente se adelantarán a sus competidores europeos dada la noticia de que los comités parlamentarios de la UE han dado luz verde a su innovadora Ley de IA, donde los sistemas de IA deberán clasificarse de acuerdo con su potencial de daño desde el principio.
El enfoque tecnológico de los EE. UU. suele ser experimentar primero y, una vez que se establece la adecuación del producto y el mercado, adaptarse a otros mercados y su marco regulatorio. Este enfoque fomenta la innovación, mientras que los desarrolladores de IA con sede en la UE deberán tomar nota de las nuevas reglas y desarrollar sistemas y procesos que puedan reducir su capacidad de innovación.
El Reino Unido está adoptando un enfoque similar al de los EE. UU., aunque la proximidad del mercado de la UE significa que es más probable que los desarrolladores con sede en el Reino Unido se ajusten al conjunto de reglas de la UE desde el principio. Sin embargo, el potencial para experimentar en un espacio seguro, un sandbox regulatorio, puede resultar muy atractivo”.
Antes de que puedan comenzar las negociaciones con el Consejo sobre la forma final de la ley, este proyecto de mandato de negociación debe ser aprobado por todo el Parlamento, y se espera que se vote durante la sesión del 12 al 15 de junio.
(Foto por Denis Sebastián Tamas en Unsplash)
Relacionado: El Reino Unido detalla el enfoque ‘pro-innovación’ para la regulación de la IA
¿Quiere aprender más sobre IA y big data de los líderes de la industria? Verificar Exposición de IA y Big Data teniendo lugar en Ámsterdam, California y Londres. El evento es co-ubicado con Semana de la Transformación Digital.
Explore otros próximos eventos y seminarios web de tecnología empresarial impulsados por TechForge aquí.
Ryan es editor senior en TechForge Media con más de una década de experiencia cubriendo la última tecnología y entrevistando a figuras líderes de la industria. A menudo se lo puede ver en conferencias tecnológicas con un café fuerte en una mano y una computadora portátil en la otra. Si es geek, probablemente le guste. Encuéntralo en Twitter (@Gadget_Ry) o Mastodon (@[email protected])
Ver todas las publicaciones
Fuente: Los comités de la UE dan luz verde a la Ley de IA