Más

    Senadores investigan a OpenAI sobre prácticas de seguridad y empleo

    - Advertisement -

    Cinco destacados demócratas del Senado han enviado una carta a IA abierta El director ejecutivo, Sam Altman, busca claridad sobre las prácticas de seguridad y empleo de la empresa.

    La carta, firmada por los senadores Brian Schatz, Ben Ray Luján, Peter Welch, Mark R. Warner y Angus S. King, Jr., llega en respuesta a informes recientes que cuestionan el compromiso de OpenAI con sus objetivos declarados de desarrollo de IA seguro y responsable.

    Los senadores destacan la importancia de la seguridad de la IA para la competitividad económica y la posición geopolítica nacionales. Destacan las alianzas de OpenAI con el gobierno de Estados Unidos y las agencias de seguridad nacional para desarrollar herramientas de ciberseguridad, lo que subraya la naturaleza crítica de los sistemas de IA seguros.

    “La seguridad nacional y económica se encuentran entre las responsabilidades más importantes del gobierno de los Estados Unidos, y los sistemas de inteligencia artificial inseguros o vulnerables no son aceptables”, afirma la carta.

    Los legisladores han solicitado información detallada sobre varias áreas clave antes del 13 de agosto de 2024. Entre ellas se incluyen:

    • El compromiso de OpenAI de dedicar el 20% de sus recursos informáticos a la investigación sobre seguridad de la IA.
    • La postura de la empresa sobre los acuerdos de no desprestigio para empleados actuales y anteriores.
    • Procedimientos para que los empleados planteen inquietudes sobre seguridad y ciberseguridad.
    • Protocolos de seguridad para evitar el robo de modelos de IA, investigaciones o propiedad intelectual.
    • Adhesión de OpenAI a su propio Código de conducta de proveedores con respecto a políticas de no represalias y canales de denuncia.
    • Planes para pruebas y evaluaciones por parte de expertos independientes de los sistemas de OpenAI antes del lanzamiento.
    • Compromiso de poner a disposición de las agencias del Gobierno de EE. UU. futuros modelos de base para pruebas previas a su implementación.
    • Prácticas de monitoreo posterior al lanzamiento y aprendizajes de los modelos implementados.
    • Planes para la publicación pública de evaluaciones de impacto retrospectivas sobre los modelos implementados.
    • Documentación sobre el cumplimiento de los compromisos voluntarios de seguridad y protección con la administración Biden-Harris.

    La investigación de los senadores aborda las recientes controversias en torno a OpenAI, incluidos los informes de disputas internas sobre prácticas de seguridad y supuestas violaciones de la ciberseguridad. Preguntan específicamente si OpenAI se “comprometerá a eliminar cualquier otra disposición de los contratos de trabajo que pueda utilizarse para penalizar a los empleados que expresen públicamente sus inquietudes sobre las prácticas de la empresa”.

    Este escrutinio del Congreso llega en un momento de creciente debate sobre la regulación y las medidas de seguridad de la IA. La carta hace referencia a los compromisos voluntarios asumidos por las principales empresas de IA ante la Casa Blanca el año pasado, y los presenta como «un paso importante hacia la construcción de esta confianza» en la seguridad y protección de la IA.

    Esta mañana, cinco senadores demócratas enviaron una carta a Sam Altman con doce preguntas. Ésta era la pregunta número nueve:

    ‘¿Se comprometerá OpenAI a poner su próximo modelo base a disposición de las agencias del gobierno de EE. UU. para pruebas, revisión, análisis y evaluación previas a la implementación?’ foto.twitter.com/Iz1IsvDLuv

    —Andrew Curran (@AndrewCurran_) 23 de julio de 2024

    Kamala Harris podría ser la próxima presidenta de Estados Unidos tras las elecciones de este año. En la Cumbre sobre Seguridad de la IA celebrada en el Reino Unido el año pasado, Harris dijo: “Seamos claros: existen amenazas adicionales que también exigen nuestra acción. Amenazas que actualmente están causando daño y que para muchas personas también son existenciales… cuando la gente de todo el mundo no puede discernir entre los hechos y la ficción debido a una avalancha de mitos y desinformación impulsados ​​por la IA”.

    Chelsea Alves, consultora de Señorita de la ONUcomentó: “El enfoque de Kamala Harris en materia de inteligencia artificial y regulación de las grandes empresas tecnológicas es oportuno y fundamental ahora que se adentra en la carrera presidencial. Sus políticas podrían establecer nuevos estándares sobre cómo abordar las complejidades de la tecnología moderna y la privacidad individual”.

    La respuesta de OpenAI a estas preguntas podría tener implicaciones significativas para el futuro de la gobernanza de la IA y la relación entre las empresas tecnológicas y los organismos de supervisión gubernamental.

    (Foto por Darren Halstead)

    Ver también: OpenResearch revela los posibles impactos de la renta básica universal

    ¿Quieres aprender más sobre IA y big data de los líderes de la industria? Verificar Exposición de IA y Big Data El evento, que se llevará a cabo en Ámsterdam (California) y Londres, se llevará a cabo junto con otros eventos importantes, entre ellos Conferencia sobre automatización inteligente, Bloque X, Semana de la Transformación Digitaly Exposición de ciberseguridad y la nube.

    Explore otros próximos eventos y seminarios web sobre tecnología empresarial impulsados ​​por TechForge aquí.

    Etiquetas: IA, inteligencia artificial, demócratas, ética, gobierno, legal, política, investigación, regulación, seguridad, senado, sociedad, EE.UU.


    Fuente: Senadores investigan a OpenAI sobre prácticas de seguridad y empleo

    Populares

    Más de esta categoría

    DEJA UNA RESPUESTA

    Por favor ingrese su comentario!
    Por favor ingrese su nombre aquí

    Este sitio usa Akismet para reducir el spam. Aprende cómo se procesan los datos de tus comentarios.