Dame Wendy Hall es una fuerza pionera en IA e informática. Como una reconocida oradora ética de IA y una de las principales voces de tecnología, ha dedicado su carrera a dar forma a las dimensiones éticas, técnicas y sociales de las tecnologías emergentes. Es cofundadora de la Iniciativa de Investigación de Ciencias Web, miembro del Consejo de IA y fue nombrada como una de las 100 mujeres más poderosas en el Reino Unido por Hora de la mujer en BBC Radio 4.
Un defensor clave de la gobernanza y la diversidad responsables de la IA en la tecnología, Wendy ha desempeñado un papel crucial en las discusiones globales sobre el futuro de la IA.
En nuestras preguntas y respuestas, le hablamos sobre el desequilibrio de género en la industria de la IA, las implicaciones éticas de las tecnologías emergentes y cómo las empresas pueden aprovechar la IA y garantizar que siga siendo un activo para la humanidad.
El sector de IA sigue siendo muy dominado por los hombres. ¿Puede compartir su experiencia de irrumpir en la industria y los desafíos que enfrentan las mujeres para lograr una mayor representación en IA y tecnología?
Es increíblemente frustrante porque escribí mi primer artículo sobre la falta de mujeres en la informática en 1987, cuando estábamos comenzando a enseñar cursos de grado informático en Southampton. Ese octubre, llegamos a la universidad y nos dimos cuenta de que no teníamos mujeres registradas en el curso, ninguna.
Entonces, aquellos de nosotros que trabajamos en la informática comenzamos a discutir por qué ese era el caso. Hubo varias razones. Un factor importante fue el surgimiento de la computadora personal, que se comercializó como un juguete para los niños, cambiando fundamentalmente la cultura. Desde entonces, en Occidente, aunque no tanto en países como India o Malasia, la informática se ha visto como algo nerd, algo que solo hacen los ‘geeks’. Muchas chicas jóvenes simplemente no quieren asociarse con ese estereotipo. Para cuando alcanzan sus elecciones de GCSE, a menudo no ven la computación como una opción, y ahí es donde comienza el problema.
A pesar de muchos esfuerzos, no hemos logrado cambiar esta cultura. Casi 40 años después, la industria todavía está abrumadoramente dominada por los hombres, a pesar de que las mujeres representan más que
la mitad de la población global. Las mujeres están en gran medida ausentes del diseño y desarrollo de computadoras y software. Los aplicamos, los usamos, pero no somos parte de las conversaciones fundamentales que dan forma a las tecnologías futuras.
La IA es aún peor a este respecto. Si desea trabajar en el aprendizaje automático, necesita un título en matemáticas o informática, lo que significa que estamos canalizando un sector ya dominado por los hombres en una tubería aún más dominada por los hombres.
Pero la IA es algo más que solo aprendizaje automático y programación. Se trata de aplicación, ética, valores, oportunidades y mitigación de riesgos potenciales. Esto requiere una amplia diversidad de voces, no solo en términos de género, sino también en edad, etnia, cultura y accesibilidad. Las personas con discapacidades deben ser parte de estas discusiones, asegurando que la tecnología se desarrolle para todos.
El desarrollo de la IA necesita aportes de muchas disciplinas: ley, filosofía, psicología, negocios e historia, por nombrar solo algunas. Necesitamos todas estas voces diferentes. Es por eso que creo que debemos ver a la IA como un sistema socio-técnico para comprender realmente su impacto. Necesitamos diversidad en todos los sentidos de la palabra.
A medida que las empresas integran cada vez más la IA en sus operaciones, ¿qué pasos deben tomar para garantizar que las tecnologías emergentes se desarrollen y desplegen éticamente?
Tomemos, por ejemplo, reconocimiento facial. Todavía no hemos establecido completamente las reglas y regulaciones para cuándo y cómo se debe aplicar esta tecnología. ¿Alguien le preguntó si quería un reconocimiento facial en su teléfono? Simplemente se ofreció como una actualización del sistema, y podría habilitarla o no.
Sabemos que el reconocimiento facial se usa ampliamente para la vigilancia en China, pero también se está utilizando en Europa y los Estados Unidos. Las fuerzas de seguridad lo adoptan, lo que plantea preocupaciones sobre la privacidad. Al mismo tiempo, aprecio la presencia de cámaras de CCTV en los aparcamientos por la noche, me hacen sentir más seguro.
Esta dualidad se aplica a todas las tecnologías emergentes, incluidas las herramientas de inteligencia artificial que ni siquiera hemos desarrollado. Cada nueva tecnología tiene un lado bueno y malo: el yin y el yang, por así decirlo. Siempre hay beneficios y riesgos.
El desafío es aprender a maximizar los beneficios para la humanidad, la sociedad y los negocios mientras mitigan los riesgos. Eso es en lo que debemos centrarnos, asegurar trabajos de IA al servicio de las personas en lugar de contra ellos.
El rápido avance de la IA está transformando la vida cotidiana. ¿Cómo se imagina el futuro de la IA y qué cambios significativos traerán a la sociedad y la forma en que trabajamos?
Veo un futuro en el que la IA se convierte en parte del proceso de toma de decisiones, ya sea en casos legales, diagnósticos médicos o educación.
La IA ya está profundamente incrustada en nuestra vida diaria. Si usa Google en su teléfono, está usando AI. Si desbloqueas tu teléfono con reconocimiento facial, eso es AI. ¿Google Translate? AI. Procesamiento del habla, análisis de video, reconocimiento de imágenes, generación de texto y procesamiento del lenguaje natural: todas estas son tecnologías impulsadas por la IA.
En este momento, el zumbido está en torno a la IA generativa, particularmente chatgpt. Es como cómo ‘Hoover’ se convirtió en sinónimo de aspiradoras: ChatGPT se ha convertido en taquigrafía para la IA. En realidad, es solo una interfaz inteligente creada por OpenAI para permitir el acceso público a su modelo de IA generativo.
Se siente como si estuviera conversando con el sistema, haciendo preguntas y recibiendo respuestas del lenguaje natural. También funciona con imágenes y videos, lo que hace que parezca increíblemente avanzado. Pero la verdad es que en realidad no es inteligente. No es sensible. Simplemente predice la siguiente palabra en una secuencia basada en datos de entrenamiento. Esa es una distinción crucial.
Con la IA generativa convirtiéndose en una herramienta poderosa para las empresas, ¿qué estrategias deberían adoptar las empresas para aprovechar sus capacidades mientras mantienen la autenticidad humana en sus procesos y toma de decisiones?
La IA generativa no es nada a lo que temer, y creo que todos comenzaremos a usarlo cada vez más. Esencialmente, es el software el que puede ayudar a escribir, resumir y analizar información.
Lo comparo con cuando aparecieron las calculadoras por primera vez. La gente estaba indignada: ‘¿Cómo podemos permitir calculadoras en las escuelas? ¿Podemos confiar en las respuestas que proporcionan? Pero con el tiempo, nos adaptamos. La industria financiera, por ejemplo, ahora está completamente dirigida por computadoras, pero emplea a más personas que nunca. Espero que veamos algo similar con la IA generativa.
La gente se sentirá aliviada de no tener que escribir ensayos interminables. La IA mejorará la creatividad y la eficiencia, pero debe verse como una herramienta para aumentar la inteligencia humana, no reemplazarla, porque simplemente no es lo suficientemente avanzada como para hacerse cargo.
Mira la industria legal. La IA puede resumir grandes cantidades de datos, evaluar la viabilidad de los casos legales y proporcionar un análisis predictivo. En el campo de la medicina, la IA podría apoyar los diagnósticos. En educación, podría ayudar a evaluar a los estudiantes con dificultades.
Imagino que la IA está integrada en equipos de toma de decisiones. Consultaremos la IA, haremos preguntas y usaremos sus respuestas como guía, pero es crucial recordar que la IA no es infalible.
En este momento, los modelos de IA están entrenados en datos sesgados. Si confían en la información de Internet, gran parte de esos datos son inexactos. Los sistemas de IA también ‘alucinan’ generando información falsa cuando no tienen una respuesta definitiva. Es por eso que todavía no podemos confiar plenamente en la IA.
En cambio, debemos tratarlo como un socio colaborativo, uno que nos ayuda a ser más productivos y creativos al tiempo que garantiza que los humanos sigan en control. Quizás la IA incluso allanará el camino para las semanas de trabajo más cortas, dándonos más tiempo para otras actividades.
Foto Igor Omilaev en Sin estelares y Agencia de oradores de IA.
¿Quiere obtener más información sobre AI y Big Data de los líderes de la industria? Verificar AI y Big Data Expo que tiene lugar en Amsterdam, California y Londres. El evento integral está ubicado en otros eventos líderes, incluidos Conferencia de automatización inteligente, Bloqueo, Semana de transformación digitaly Cyber Security & Cloud Expo.
Explore otros próximos eventos y seminarios web tecnológicos empresariales con TechForge aquí.
Fuente: Dame Wendy Hall, Consejo de IA: configurando la IA con ética, diversidad e innovación
