Geoffrey Hinton, conocido como el «padrino de la IA», expresó su preocupación por los peligros potenciales de la IA y dejó su puesto en Google para discutirlos abiertamente.
Hinton, junto con otros dos, ganó el Premio Turing en 2018 por sentar las bases de la IA. Había estado trabajando en Google desde 2013, pero renunció para hablar sobre el rápido ritmo de desarrollo de la IA y los riesgos que plantea.
En una entrevista con The New York Times, Hinton advirtió que el rápido desarrollo de productos de IA generativa estaba “corriendo hacia el peligro” y que los textos, imágenes y videos falsos creados por IA podrían conducir a una situación en la que la gente promedio “no podría saber qué es cierto más.”
Hinton también expresó su preocupación por el impacto de la IA en el mercado laboral, ya que las máquinas eventualmente podrían reemplazar roles como asistentes legales, asistentes personales y traductores.
“La idea de que estas cosas en realidad podrían volverse más inteligentes que las personas, algunas personas lo creían. Pero la mayoría de la gente pensó que estaba muy lejos. Y pensé que estaba muy lejos. Pensé que faltaban entre 30 y 50 años o incluso más. Obviamente, ya no pienso eso”, dijo Hinton.
Las preocupaciones de Hinton no son infundadas. La IA ya se ha utilizado para crear deepfakes, que son videos que manipulan las expresiones faciales y de voz para que parezca que alguien está diciendo algo que no dijo. Estos deepfakes se pueden usar para difundir información errónea o dañar la reputación de una persona.
Además, la IA tiene el potencial de automatizar muchos trabajos, lo que lleva a la pérdida de puestos de trabajo. Esta semana, el CEO de IBM, Arvind Krishna, dijo que la compañía planea usar IA para reemplazar alrededor del 30 por ciento de los trabajos administrativos, lo que equivale a alrededor de 7800 trabajos.
Hinton no está solo en sus preocupaciones. Otros expertos también han advertido sobre los riesgos de la IA.
Elon Musk, CEO de Tesla y SpaceX, llamó a la IA «nuestra mayor amenaza existencial». Al año siguiente, el legendario astrofísico Neil deGrasse Tyson dijo que comparte la opinión de Musk. En 2018, Stephen Hawking advirtió que la IA podría reemplazar a los humanos como la especie dominante en la Tierra.
En marzo, Musk se unió al cofundador de Apple, Steve Wozniak, y a más de 1000 expertos en firmas. una carta abierta pidiendo que se detenga el desarrollo de IA «fuera de control».
Sin embargo, algunos expertos creen que la IA se puede desarrollar de manera que beneficie a la sociedad. Por ejemplo, la IA se puede utilizar para diagnosticar enfermedades, detectar fraudes y reducir los accidentes de tráfico.
Para garantizar que la IA se desarrolle de manera responsable y ética, muchas organizaciones han desarrollado pautas, incluidas la IEEE, la UE y la OCDE.
Las preocupaciones planteadas por Hinton sobre la IA son significativas y destacan la necesidad de un desarrollo responsable de la IA. Si bien la IA tiene el potencial de brindar muchos beneficios a la sociedad, es crucial que se desarrolle de una manera que minimice sus riesgos y maximice sus beneficios.
(Credito de imagen: Eviatar Bach bajo CC BY-SA 3.0 licencia. Imagen recortada del original.)
¿Quiere aprender más sobre IA y big data de los líderes de la industria? Verificar Exposición de IA y Big Data teniendo lugar en Ámsterdam, California y Londres. El evento es co-ubicado con Semana de la Transformación Digital.
Explore otros próximos eventos y seminarios web de tecnología empresarial impulsados por TechForge aquí.
Ryan es editor senior en TechForge Media con más de una década de experiencia cubriendo la última tecnología y entrevistando a figuras líderes de la industria. A menudo se lo puede ver en conferencias tecnológicas con un café fuerte en una mano y una computadora portátil en la otra. Si es geek, probablemente le guste. Encuéntralo en Twitter (@Gadget_Ry) o Mastodon (@[email protected])
Ver todas las publicaciones
Fuente: El ‘padrino’ de la IA advierte de los peligros y abandona Google