A estudiar realizado por investigadores de informática y ciencias de la información del Reino Unido y Brasil ha planteado preocupaciones sobre la objetividad de ChatGPT.
Los investigadores afirman haber descubierto un sesgo político sustancial en las respuestas de ChatGPT, inclinándose hacia el lado izquierdo del espectro político.
Publicado en la revista Public Choice esta semana, el estudio, realizado por Fabio Motoki, Valdemar Pinho y Victor Rodrigues, argumenta que la presencia de sesgos políticos en el contenido generado por IA podría perpetuar los sesgos existentes que se encuentran en los medios tradicionales.
La investigación destaca el impacto potencial de dicho sesgo en varias partes interesadas, incluidos los encargados de formular políticas, los medios de comunicación, los grupos políticos y las instituciones educativas.
Utilizando un enfoque empírico, los investigadores emplearon una serie de cuestionarios para medir la orientación política de ChatGPT. Se le pidió al chatbot que respondiera preguntas de brújula política, capturando su postura sobre varios temas políticos.
Además, el estudio examinó escenarios en los que ChatGPT se hizo pasar por un demócrata promedio y un republicano, lo que reveló el sesgo inherente del algoritmo hacia las respuestas de tendencia demócrata.
Los hallazgos del estudio indican que el sesgo de ChatGPT se extiende más allá de los EE. UU. y también se nota en sus respuestas con respecto a los contextos políticos de Brasil y Gran Bretaña. En particular, la investigación incluso sugiere que este sesgo no es simplemente un resultado mecánico, sino una tendencia deliberada en la salida del algoritmo.
Determinar la fuente exacta del sesgo político de ChatGPT sigue siendo un desafío. Los investigadores investigaron tanto los datos de entrenamiento como el propio algoritmo y concluyeron que es probable que ambos factores contribuyan al sesgo. Destacaron la necesidad de futuras investigaciones para profundizar en desentrañar estos componentes para una comprensión más clara de los orígenes del sesgo.
IA abierta, la organización detrás de ChatGPT, aún no ha respondido a los hallazgos del estudio. Este estudio se une a una lista creciente de preocupaciones en torno a la tecnología de IA, incluidos los problemas relacionados con la privacidad, la educación y la verificación de identidad en varios sectores.
A medida que la influencia de las herramientas impulsadas por IA como ChatGPT continúa expandiéndose, los expertos y las partes interesadas están lidiando con las implicaciones del contenido sesgado generado por IA.
Este último estudio sirve como recordatorio de que la vigilancia y la evaluación crítica son necesarias para garantizar que las tecnologías de IA se desarrollen y desplieguen de manera justa y equilibrada, sin influencias políticas indebidas.
(Foto por Priscilla Du Preez en Unsplash)
Ver también: Un estudio destaca el impacto de la demografía en el entrenamiento de la IA
¿Quiere aprender más sobre IA y big data de los líderes de la industria? Verificar Exposición de IA y Big Data teniendo lugar en Ámsterdam, California y Londres. El evento integral se ubica junto con Semana de la Transformación Digital.
Explore otros próximos eventos y seminarios web de tecnología empresarial impulsados por TechForge aquí.
Ryan es editor senior en TechForge Media con más de una década de experiencia cubriendo la última tecnología y entrevistando a figuras líderes de la industria. A menudo se lo puede ver en conferencias tecnológicas con un café fuerte en una mano y una computadora portátil en la otra. Si es geek, probablemente le guste. Encuéntralo en Twitter (@Gadget_Ry) o Mastodon (@[email protected])
Ver todas las publicaciones
Fuente: El sesgo político de ChatGPT resaltado en un estudio