Más

    Un grupo de expertos pide un sistema de notificación de incidentes con inteligencia artificial

    - Advertisement -

    El Centro para la resiliencia a largo plazo (CLTR) ha pedido un sistema integral de notificación de incidentes para abordar urgentemente una brecha crítica en los planes de regulación de la IA.

    Según CLTR, la IA tiene un historial de fallas inesperadas, con más de 10.000 incidentes de seguridad registrados por medios de comunicación en sistemas de IA desplegados desde 2014. A medida que la IA se integre más en la sociedad, es probable que aumenten la frecuencia y el impacto de estos incidentes. .

    El grupo de expertos sostiene que un régimen de notificación de incidentes que funcione bien es esencial para una regulación eficaz de la IA, estableciendo paralelismos con industrias críticas para la seguridad, como la aviación y la medicina. Esta opinión cuenta con el respaldo de un amplio consenso de expertos, así como de los gobiernos de Estados Unidos y China y la Unión Europea.

    El informe describe tres beneficios clave de implementar un sistema de notificación de incidentes:

  • Monitoreo de riesgos de seguridad de IA en el mundo real para informar los ajustes regulatorios
  • Coordinar respuestas rápidas a incidentes importantes e investigar las causas fundamentales
  • Identificar alertas tempranas de posibles daños futuros a gran escala
  • Actualmente, la regulación de la IA del Reino Unido carece de un marco eficaz para la notificación de incidentes. Esta brecha deja al Departamento de Ciencia, Innovación y Tecnología (DSIT) sin visibilidad sobre varios incidentes críticos, que incluyen:

    • Problemas con modelos de cimentación altamente capaces
    • Incidentes derivados del uso de IA por parte del propio gobierno del Reino Unido en servicios públicos
    • Uso indebido de los sistemas de IA con fines maliciosos
    • Daños causados ​​por compañeros, tutores y terapeutas de IA

    El CLTR advierte que sin un sistema adecuado de notificación de incidentes, el DSIT puede enterarse de nuevos daños a través de los medios de comunicación en lugar de a través de procesos de notificación establecidos.

    Para abordar esta brecha, el grupo de expertos recomienda tres pasos inmediatos para el gobierno del Reino Unido:

  • Sistema de notificación de incidentes del gobierno: Establecer un sistema para reportar incidentes de IA utilizada en servicios públicos. Esto puede ser una simple extensión de la Estándar de grabación de transparencia algorítmica (ATRS) para incluir incidentes de IA del sector público, alimentarlos a un organismo gubernamental y potencialmente compartirlos con el público para lograr transparencia.
  • Involucrar a reguladores y expertos: Encargar a los reguladores y consultar con expertos para identificar las brechas más preocupantes, garantizar una cobertura efectiva de los incidentes prioritarios y comprender las necesidades de las partes interesadas para un régimen funcional.
  • Desarrollar capacidad DSIT: Desarrollar la capacidad de DSIT para monitorear, investigar y responder a incidentes, potencialmente a través de una base de datos piloto de incidentes de IA. Esto formaría parte de la función central del DSIT, centrándose inicialmente en las lagunas más urgentes, pero eventualmente ampliándose para incluir todos los informes de los reguladores del Reino Unido.
  • Estas recomendaciones tienen como objetivo mejorar la capacidad del gobierno para mejorar responsablemente los servicios públicos, garantizar una cobertura efectiva de los incidentes prioritarios y desarrollar la infraestructura necesaria para recopilar y responder a los informes de incidentes de IA.

    Veera Siivonen, CCO y socia de Saidotcomentó:

    “Este informe del Centro para la Resiliencia a Largo Plazo llega en el momento oportuno. Mientras el Reino Unido se acerca a las elecciones generales, la política de inteligencia artificial del próximo gobierno será la piedra angular del crecimiento económico. Sin embargo, esto requiere precisión a la hora de navegar por el equilibrio entre regulación e innovación, proporcionando barreras de seguridad sin limitar el potencial de experimentación de la industria. Si bien implementar un sistema centralizado de notificación de incidentes para el uso indebido y el mal funcionamiento de la IA sería un primer paso loable, aún quedan muchos más pasos por recorrer.

    El gobierno entrante del Reino Unido debería brindar certeza y comprensión a las empresas con requisitos de gobernanza claros, al mismo tiempo que monitorea y mitiga los riesgos más probables. Al integrar una variedad de estrategias de gobernanza de la IA con informes centralizados de incidentes, el Reino Unido puede aprovechar el potencial económico de la IA, garantizando que beneficie a la sociedad y al mismo tiempo proteja los procesos democráticos y la confianza pública”.

    A medida que la IA continúa avanzando e impregnando varios aspectos de la sociedad, la implementación de un sistema sólido de notificación de incidentes podría resultar crucial para mitigar los riesgos y garantizar el desarrollo y la implementación seguros de las tecnologías de IA.

    Ver también: Jefe de SoftBank: Olvídese de AGI, ASI estará aquí dentro de 10 años

    ¿Quieres aprender más sobre IA y big data de los líderes de la industria? Verificar Exposición de IA y Big Data que tendrá lugar en Ámsterdam, California y Londres. El evento integral comparte ubicación con otros eventos importantes, incluidos Conferencia de automatización inteligente, bloquex, Semana de la Transformación Digitaly Exposición de seguridad cibernética y nube.

    Explore otros próximos eventos y seminarios web de tecnología empresarial impulsados ​​por TechForge aquí.

    Etiquetas: ai, inteligencia artificial, Centro para la Resiliencia a Largo Plazo, cltr, ética, gobierno, legal, regulación, seguridad, Sociedad

    Fuente: Un grupo de expertos pide un sistema de notificación de incidentes con inteligencia artificial

    Populares

    Más de esta categoría

    DEJA UNA RESPUESTA

    Por favor ingrese su comentario!
    Por favor ingrese su nombre aquí

    This site uses Akismet to reduce spam. Learn how your comment data is processed.