IA abierta El CEO Sam Altman testificó frente a un panel del comité judicial del Senado y enfatizó la importancia de regular la IA.
Altman destacó los beneficios potenciales de las tecnologías de IA como ChatGPT y Dall-E 2 para ayudar a abordar desafíos importantes como el cambio climático y el cáncer, pero también enfatizó la necesidad de mitigar los riesgos asociados con modelos de IA cada vez más potentes.
Altman propuso que los gobiernos consideren implementar requisitos de licencia y prueba para modelos de IA que superen un cierto umbral de capacidades. Destacó el compromiso de OpenAI con la seguridad y las pruebas exhaustivas antes de lanzar cualquier sistema nuevo, enfatizando la creencia de la compañía de que garantizar la seguridad de la IA es crucial.
Los senadores Josh Hawley y Richard Blumenthal expresaron su reconocimiento de la naturaleza transformadora de la IA y la necesidad de comprender sus implicaciones para las elecciones, el empleo y la seguridad. Blumenthal reprodujo una introducción de audio utilizando un software de clonación de voz de IA entrenado en sus discursos, lo que demuestra el potencial de la tecnología.
Blumenthal expresó su preocupación por varios riesgos asociados con la IA, incluidos los deepfakes, la desinformación armada, la discriminación, el acoso y el fraude de suplantación de identidad. También hizo hincapié en el posible desplazamiento de trabajadores ante una nueva revolución industrial impulsada por la IA.
El llamado de regulación de Altman se alinea con las preocupaciones planteadas por expertos en IA y especialistas en ética, incluidos los ex investigadores de Google, el Dr. Timnit Gebru y Meredith Whitaker. Argumentan que la rápida adopción de la IA está sobrevalorada y no ofrece un bien social inherente.
Whitaker destacó la concentración de poder en manos de unas pocas empresas tecnológicas y su capacidad para dar forma a los paisajes sociales y políticos a través de tecnologías de IA. Expresó su preocupación por la dinámica de poder existente y enfatizó la necesidad de una distribución más equitativa de las capacidades de IA.
Whitaker advirtió contra la noción de que la IA conducirá automáticamente al bien social o al acceso igualitario para todos, argumentando que es una fantasía propagada con fines de marketing. Hizo hincapié en la importancia de reconocer la concentración de poder y la necesidad de garantizar que la IA se aproveche en beneficio de la sociedad en su conjunto.
A medida que la IA continúa avanzando, la conversación en torno a su regulación y despliegue responsable se vuelve cada vez más importante. Equilibrar los beneficios potenciales con los riesgos y garantizar el acceso y la distribución equitativos de las tecnologías de IA son desafíos clave que los formuladores de políticas, los investigadores y los líderes de la industria deben abordar de manera colectiva.
¿Quiere aprender más sobre IA y big data de los líderes de la industria? Verificar Exposición de IA y Big Data teniendo lugar en Ámsterdam, California y Londres. El evento es co-ubicado con Semana de la Transformación Digital.
Explore otros próximos eventos y seminarios web de tecnología empresarial impulsados por TechForge aquí.
-
Ryan es editor senior en TechForge Media con más de una década de experiencia cubriendo la última tecnología y entrevistando a figuras líderes de la industria. A menudo se lo puede ver en conferencias tecnológicas con un café fuerte en una mano y una computadora portátil en la otra. Si es geek, probablemente le guste. Encuéntralo en Twitter (@Gadget_Ry) o Mastodon (@[email protected])
Ver todas las publicaciones
Fuente: CEO de OpenAI: la regulación de la IA ‘es esencial’