La administración Biden-Harris ha Anunciado que ha conseguido una segunda ronda de compromisos voluntarios de seguridad de ocho destacadas empresas de IA.
Representantes de Adobe, Cohere, IBM, Nvidia, Palantir, Salesforce, Scale AI y Stability asistieron a la Casa Blanca para el anuncio. Estas ocho empresas se han comprometido a desempeñar un papel fundamental en la promoción del desarrollo de una IA segura y confiable.
La Administración Biden-Harris está trabajando activamente en una Orden Ejecutiva y aplicando una legislación bipartidista para garantizar que Estados Unidos lidere el desarrollo responsable de la IA que libere su potencial y al mismo tiempo gestione sus riesgos.
Los compromisos asumidos por estas empresas giran en torno a tres principios fundamentales: seguridad, protección y confianza. Se han comprometido a:
Las empresas se comprometen a realizar rigurosas pruebas de seguridad internas y externas de sus sistemas de inteligencia artificial antes de lanzarlos al público. Esto incluye evaluaciones realizadas por expertos independientes, que ayudan a protegerse contra riesgos importantes de la IA, como la bioseguridad, la ciberseguridad y efectos sociales más amplios.
También compartirán activamente información sobre la gestión de riesgos de la IA con los gobiernos, la sociedad civil, el mundo académico y toda la industria. Este enfoque colaborativo incluirá el intercambio de mejores prácticas de seguridad, información sobre intentos de eludir las salvaguardias y cooperación técnica.
Las empresas se han comprometido a invertir en ciberseguridad y salvaguardias contra amenazas internas para proteger los pesos de los modelos propietarios e inéditos. Al reconocer la importancia crítica de estos pesos de modelo en los sistemas de IA, se comprometen a publicarlos solo cuando esté previsto y cuando los riesgos de seguridad se aborden adecuadamente.
Además, las empresas facilitarán el descubrimiento y la notificación de vulnerabilidades en sus sistemas de inteligencia artificial por parte de terceros. Este enfoque proactivo garantiza que los problemas puedan identificarse y resolverse rápidamente incluso después de implementar un sistema de IA.
Para mejorar la transparencia y la rendición de cuentas, las empresas desarrollarán mecanismos técnicos sólidos, como sistemas de marcas de agua, para indicar cuándo el contenido se genera con IA. Este paso tiene como objetivo fomentar la creatividad y la productividad al tiempo que reduce los riesgos de fraude y engaño.
También informarán públicamente sobre las capacidades, limitaciones y áreas de uso apropiado e inapropiado de sus sistemas de IA, cubriendo tanto los riesgos sociales como de seguridad, incluida la equidad y el sesgo. Además, estas empresas se comprometen a priorizar la investigación sobre los riesgos sociales que plantean los sistemas de IA, incluida la lucha contra los prejuicios y la discriminación perjudiciales.
Estas empresas líderes en IA también desarrollarán e implementarán sistemas avanzados de IA para abordar importantes desafíos sociales, desde la prevención del cáncer hasta la mitigación del cambio climático, contribuyendo a la prosperidad, la igualdad y la seguridad de todos.
El compromiso de la Administración Biden-Harris con estos compromisos se extiende más allá de Estados Unidos, con consultas que involucran a numerosos socios y aliados internacionales. Estos compromisos complementan iniciativas globales, incluida la Cumbre del Reino Unido sobre Seguridad de la IA, el liderazgo de Japón en el Proceso de Hiroshima del G-7 y el liderazgo de la India como Presidente de la Asociación Global sobre IA.
El anuncio marca un hito importante en el camino hacia el desarrollo responsable de la IA, en el que los líderes de la industria y el gobierno se unen para garantizar que la tecnología de IA beneficie a la sociedad y al mismo tiempo mitigue sus riesgos inherentes.
(Foto por Tabrez Syed en desempaquetar)
Ver también: El ecosistema de inteligencia artificial del Reino Unido alcanzará los 2,4 billones de libras esterlinas en 2027, el tercero en la carrera mundial
¿Quiere aprender más sobre IA y big data de la mano de los líderes de la industria? Verificar Exposición de IA y Big Data que tendrá lugar en Amsterdam, California y Londres. El evento integral comparte ubicación con Semana de la Transformación Digital.
Explore otros próximos eventos y seminarios web de tecnología empresarial impulsados por TechForge aquí.
Ryan es editor senior en TechForge Media con más de una década de experiencia cubriendo la última tecnología y entrevistando a figuras líderes de la industria. A menudo se le puede ver en conferencias tecnológicas con un café fuerte en una mano y una computadora portátil en la otra. Si es geek, probablemente le guste. Encuéntrelo en Twitter (@Gadget_Ry) o Mastodon (@[email protected])
Ver todas las publicaciones
Fuente: La Casa Blanca obtiene compromisos de seguridad de ocho empresas más de inteligencia artificial