M谩s

    Un grupo de expertos pide un sistema de notificaci贸n de incidentes con inteligencia artificial

    - Advertisement -

    El Centro para la resiliencia a largo plazo (CLTR) ha pedido un sistema integral de notificaci贸n de incidentes para abordar urgentemente una brecha cr铆tica en los planes de regulaci贸n de la IA.

    Seg煤n CLTR, la IA tiene un historial de fallas inesperadas, con m谩s de 10.000 incidentes de seguridad registrados por medios de comunicaci贸n en sistemas de IA desplegados desde 2014. A medida que la IA se integre m谩s en la sociedad, es probable que aumenten la frecuencia y el impacto de estos incidentes. .

    El grupo de expertos sostiene que un r茅gimen de notificaci贸n de incidentes que funcione bien es esencial para una regulaci贸n eficaz de la IA, estableciendo paralelismos con industrias cr铆ticas para la seguridad, como la aviaci贸n y la medicina. Esta opini贸n cuenta con el respaldo de un amplio consenso de expertos, as铆 como de los gobiernos de Estados Unidos y China y la Uni贸n Europea.

    El informe describe tres beneficios clave de implementar un sistema de notificaci贸n de incidentes:

  • Monitoreo de riesgos de seguridad de IA en el mundo real para informar los ajustes regulatorios
  • Coordinar respuestas r谩pidas a incidentes importantes e investigar las causas fundamentales
  • Identificar alertas tempranas de posibles da帽os futuros a gran escala
  • Actualmente, la regulaci贸n de la IA del Reino Unido carece de un marco eficaz para la notificaci贸n de incidentes. Esta brecha deja al Departamento de Ciencia, Innovaci贸n y Tecnolog铆a (DSIT) sin visibilidad sobre varios incidentes cr铆ticos, que incluyen:

    • Problemas con modelos de cimentaci贸n altamente capaces
    • Incidentes derivados del uso de IA por parte del propio gobierno del Reino Unido en servicios p煤blicos
    • Uso indebido de los sistemas de IA con fines maliciosos
    • Da帽os causados 鈥嬧媝or compa帽eros, tutores y terapeutas de IA

    El CLTR advierte que sin un sistema adecuado de notificaci贸n de incidentes, el DSIT puede enterarse de nuevos da帽os a trav茅s de los medios de comunicaci贸n en lugar de a trav茅s de procesos de notificaci贸n establecidos.

    鉂 Tambi茅n te interesa:Estados Unidos reprime las inversiones con destino a ChinaEstados Unidos reprime las inversiones con destino a China

    Para abordar esta brecha, el grupo de expertos recomienda tres pasos inmediatos para el gobierno del Reino Unido:

  • Sistema de notificaci贸n de incidentes del gobierno: Establecer un sistema para reportar incidentes de IA utilizada en servicios p煤blicos. Esto puede ser una simple extensi贸n de la Est谩ndar de grabaci贸n de transparencia algor铆tmica (ATRS) para incluir incidentes de IA del sector p煤blico, alimentarlos a un organismo gubernamental y potencialmente compartirlos con el p煤blico para lograr transparencia.
  • Involucrar a reguladores y expertos: Encargar a los reguladores y consultar con expertos para identificar las brechas m谩s preocupantes, garantizar una cobertura efectiva de los incidentes prioritarios y comprender las necesidades de las partes interesadas para un r茅gimen funcional.
  • Desarrollar capacidad DSIT: Desarrollar la capacidad de DSIT para monitorear, investigar y responder a incidentes, potencialmente a trav茅s de una base de datos piloto de incidentes de IA. Esto formar铆a parte de la funci贸n central del DSIT, centr谩ndose inicialmente en las lagunas m谩s urgentes, pero eventualmente ampli谩ndose para incluir todos los informes de los reguladores del Reino Unido.
  • Estas recomendaciones tienen como objetivo mejorar la capacidad del gobierno para mejorar responsablemente los servicios p煤blicos, garantizar una cobertura efectiva de los incidentes prioritarios y desarrollar la infraestructura necesaria para recopilar y responder a los informes de incidentes de IA.

    Veera Siivonen, CCO y socia de Saidotcoment贸:

    鈥淓ste informe del Centro para la Resiliencia a Largo Plazo llega en el momento oportuno. Mientras el Reino Unido se acerca a las elecciones generales, la pol铆tica de inteligencia artificial del pr贸ximo gobierno ser谩 la piedra angular del crecimiento econ贸mico. Sin embargo, esto requiere precisi贸n a la hora de navegar por el equilibrio entre regulaci贸n e innovaci贸n, proporcionando barreras de seguridad sin limitar el potencial de experimentaci贸n de la industria. Si bien implementar un sistema centralizado de notificaci贸n de incidentes para el uso indebido y el mal funcionamiento de la IA ser铆a un primer paso loable, a煤n quedan muchos m谩s pasos por recorrer.

    El gobierno entrante del Reino Unido deber铆a brindar certeza y comprensi贸n a las empresas con requisitos de gobernanza claros, al mismo tiempo que monitorea y mitiga los riesgos m谩s probables. Al integrar una variedad de estrategias de gobernanza de la IA con informes centralizados de incidentes, el Reino Unido puede aprovechar el potencial econ贸mico de la IA, garantizando que beneficie a la sociedad y al mismo tiempo proteja los procesos democr谩ticos y la confianza p煤blica鈥.

    A medida que la IA contin煤a avanzando e impregnando varios aspectos de la sociedad, la implementaci贸n de un sistema s贸lido de notificaci贸n de incidentes podr铆a resultar crucial para mitigar los riesgos y garantizar el desarrollo y la implementaci贸n seguros de las tecnolog铆as de IA.

    鉂 Tambi茅n te interesa:Microsoft detalla el jailbreak con inteligencia artificial ‘Skeleton Key’Microsoft detalla el jailbreak con inteligencia artificial ‘Skeleton Key’

    Ver tambi茅n: Jefe de SoftBank: Olv铆dese de AGI, ASI estar谩 aqu铆 dentro de 10 a帽os

    驴Quieres aprender m谩s sobre IA y big data de los l铆deres de la industria? Verificar Exposici贸n de IA y Big Data que tendr谩 lugar en 脕msterdam, California y Londres. El evento integral comparte ubicaci贸n con otros eventos importantes, incluidos Conferencia de automatizaci贸n inteligente, bloquex, Semana de la Transformaci贸n Digitaly Exposici贸n de seguridad cibern茅tica y nube.

    Explore otros pr贸ximos eventos y seminarios web de tecnolog铆a empresarial impulsados 鈥嬧媝or TechForge aqu铆.

    Etiquetas: ai, inteligencia artificial, Centro para la Resiliencia a Largo Plazo, cltr, 茅tica, gobierno, legal, regulaci贸n, seguridad, Sociedad

    Fuente: Un grupo de expertos pide un sistema de notificaci贸n de incidentes con inteligencia artificial

    鉂 Tambi茅n te interesa:OpenAI cierra la puerta a ChinaOpenAI cierra la puerta a China

    Populares

    M谩s de esta categor铆a

    DEJA UNA RESPUESTA

    Por favor ingrese su comentario!
    Por favor ingrese su nombre aqu铆

    Este sitio usa Akismet para reducir el spam. Aprende c贸mo se procesan los datos de tus comentarios.