Kay Firth-Butterfield es un líder reconocido a nivel mundial en inteligencia artificial ética y un distinguido Orador de ética de IA. Como ex jefe de IA y aprendizaje automático en el Foro Económico Mundial (WEF) y una de las voces más importantes en la gobernanza de la IA, ha pasado su carrera abogando por la tecnología que mejore, en lugar de daños, sociedad.
Hablamos con Kay para discutir la promesa y las trampas de la IA generativa, el futuro del metaverso y cómo las organizaciones pueden prepararse para una década de transformación digital sin precedentes.
La IA generativa ha capturado la atención global, pero todavía hay una gran cantidad de malentendidos sobre lo que realmente es. ¿Podría guiarnos a través de lo que define la IA generativa, cómo funciona y por qué se considera una evolución tan transformadora de la inteligencia artificial?
Es muy emocionante porque representa la próxima iteración de la inteligencia artificial. Lo que la IA generativa le permite hacer es hacer preguntas a los datos del mundo simplemente escribiendo un aviso. Si pensamos en la ciencia ficción, eso es esencialmente lo que siempre hemos soñado, solo poder hacerle una pregunta a una computadora y hacer que se basa en todo su conocimiento para proporcionar una respuesta.
¿Cómo hace eso? Bueno, predice qué palabra es probable que venga a continuación en una secuencia. Lo hace accediendo a enormes volúmenes de datos. Nos referimos a estos como modelos de idiomas grandes. Esencialmente, la máquina ‘lee’, o al menos accesas, todos los datos disponibles en la web abierta. En algunos casos, y esta es un área de contención legal, también accede a material protegido con IP y con derechos de autor. Podemos esperar una gran cantidad de debate legal en este espacio.
Una vez que el modelo ha ingerido todos estos datos, comienza a predecir qué palabra sigue naturalmente a otro, lo que le permite construir respuestas altamente complejas y matizadas. Cualquiera que haya experimentado con él sabe que puede devolver un contenido sorprendentemente elocuente y perspicaz simplemente a través de esta capacidad predictiva.
Por supuesto, a veces se equivoca. En la comunidad de IA, llamamos a esto ‘alucinación’, esencialmente, el sistema fabrica información. Ese es un problema grave porque para confiar en las salidas generadas por IA, necesitamos alcanzar un punto en el que podamos confiar en las respuestas. El problema es que, una vez que una alucinación ingresa al grupo de datos, el modelo puede repetirlo y reforzarlo.
Si bien se ha dicho mucho sobre el potencial técnico de AI generativo, ¿qué considera que los beneficios sociales y comerciales más significativos que ofrece? ¿Y qué desafíos debemos abordar para garantizar que estas ventajas se realicen de manera equitativa?
La IA ahora es accesible para todos, y eso es increíblemente poderoso. Es una herramienta enormemente democratizante. Significa que las pequeñas y medianas empresas, que anteriormente no podían permitirse aprovechar la IA, ahora puede.
Sin embargo, también debemos ser conscientes de que la mayoría de los datos del mundo se crean primero en los Estados Unidos, seguidos por Europa y China. Hay desafíos claros con respecto a los conjuntos de datos en los que están capacitados en estos modelos de idiomas grandes. No están realmente usando datos ‘globales’. Están trabajando con un subconjunto limitado. Eso ha llevado a discusiones sobre la colonización digital, donde el contenido generado a partir de datos estadounidenses y europeos se proyecta en el resto del mundo, con una expectativa implícita de que otros lo adoptarán y usarán.
Diferentes culturas, por supuesto, requieren diferentes respuestas. Entonces, si bien hay innumerables beneficios para la IA generativa, también hay desafíos significativos que debemos abordar si queremos garantizar resultados justos e inclusivos.
El Metaverse ha visto tanto exageración como dudas en los últimos años. Desde su perspectiva, ¿cuál es la trayectoria actual de la metraveria y cómo ve que su papel evoluciona dentro de los entornos empresariales en los próximos cinco años?
Es interesante. Pasamos por una fase de una gran emoción alrededor del metaverso, donde todos querían involucrarse. Pero ahora hemos ingresado más en un invierno metversal, o tal vez otoño, ya que ha quedado claro lo difícil que es crear contenido convincente para estos espacios inmersivos.
Estamos viendo sólidos casos de uso en aplicaciones industriales, pero todavía estamos lejos de lograr esa visión de jugador listo, donde vivimos, compramos, compramos propiedades e interactúa completamente en entornos virtuales 3D. Eso se debe en gran parte a que el nivel de poder de cálculo y los recursos creativos necesarios para construir experiencias verdaderamente inmersivas es enorme.
Dentro de cinco años, creo que comenzaremos a ver el metal entregando más de sus promesas para los negocios. Los clientes pueden disfrutar de experiencias de compra excepcionales, entrando en tiendas virtuales en lugar de simplemente navegar en línea, donde pueden «sentir» las telas virtualmente y tomar decisiones informadas en tiempo real.
También podemos ver que el trabajo remoto evoluciona, donde los empleados colaboran dentro del metagever como si estuvieran en la misma habitación. Un estudio encontró que los trabajadores más jóvenes a menudo carecen de una supervisión adecuada cuando trabajan de forma remota. En un entorno metaverse, puede ofrecer una supervisión y tutoría genuina e interactiva. También puede ayudar a fomentar las relaciones colegas que a menudo se pierden en entornos de trabajo remoto.
En última instancia, el metaverso elimina las limitaciones físicas y ofrece nuevas formas de trabajar e interactuar, pero necesitaremos equilibrio. Es posible que muchas personas no quieran pasar todo su tiempo en entornos completamente inmersivos.
Mirando hacia el futuro, que las tecnologías emergentes y las tendencias impulsadas por la IA anticipan que tendrá el impacto global más profundo en la próxima década. ¿Y cómo debemos prepararnos para sus implicaciones, tanto económica como éticamente?
Esa es una gran pregunta. Es un poco como sacar una bola de cristal. Pero sin duda, la IA generativa es uno de los cambios más importantes que estamos viendo hoy. A medida que la tecnología se vuelve más refinada, potenciará cada vez más nuevas aplicaciones de IA a través de interacciones del lenguaje natural.
El procesamiento del lenguaje natural (PNL) es el término AI para la capacidad de la máquina para comprender e interpretar el lenguaje humano. En el futuro cercano, solo los desarrolladores de élite deberán codificar manualmente. El resto de nosotros interactuará con las máquinas escribiendo o hablan solicitudes. Estos sistemas no solo proporcionarán respuestas, sino que también escribirán código en nuestro nombre. Es una tecnología increíblemente poderosa y transformadora.
Pero hay inconvenientes. Una preocupación importante es que AI a veces fabrica información. Y a medida que la IA generativa se vuelve más prolífica, está generando volúmenes masivos de datos 24/7. Con el tiempo, los datos generados por la máquina pueden superar en número a los datos humanos, lo que podría distorsionar el panorama digital. Debemos asegurarnos de que la IA no perpetúa las falsedades que ha generado previamente.
Mirando más adelante, este cambio plantea preguntas profundas sobre el futuro del trabajo humano. Si los sistemas de IA pueden superar a los humanos en muchas tareas sin fatiga, ¿qué pasa de nuestro papel? Puede haber ahorros de costos, pero también el riesgo muy real de desempleo generalizado.
La IA también alimenta el metaverso, por lo que el progreso allí está vinculado a mejoras en las capacidades de IA. También estoy muy entusiasmado con la biología sintética, que podría ver grandes avances impulsados por la IA. También es probable que haya una interacción significativa entre la computación cuántica y la IA, lo que podría traer beneficios y desafíos serios.
También veremos más dispositivos de Internet de las cosas (IoT), pero eso introduce nuevos problemas en torno a la seguridad y la protección de datos.
Es un momento de oportunidad extraordinaria, pero también graves riesgos. Algunos se preocupan por que la inteligencia general artificial se vuelva sensible, pero todavía no veo que eso sea tan probable. Los modelos actuales carecen de razonamiento causal. Todavía son herramientas predictivas. Tendríamos que agregar algo fundamentalmente diferente para alcanzar la inteligencia a nivel humano. Pero no se equivoquen, estamos entrando en una era increíblemente emocionante.
Adoptar nuevas tecnologías puede ser tanto una oportunidad como un riesgo para las empresas. En su opinión, ¿cómo pueden las organizaciones lograr el equilibrio correcto entre adoptar la transformación digital y tomar decisiones estratégicas e informadas sobre la adopción de la IA?
Creo que es vital adoptar las últimas tecnologías, así como habría sido importante para Kodak ver el cambio en la industria de la fotografía. Las empresas que ni siquiera exploran el riesgo de transformación digital que se quedan atrás.
Sin embargo, una advertencia: es fácil saltar demasiado rápido y terminar con la solución de IA incorrecta, o los sistemas incorrectos por completo, para su negocio. Por lo tanto, asesoraría acercarse a la transformación digital con un pensamiento cuidadoso. Mantenga los ojos abiertos y trate cada paso como una decisión comercial deliberada y estratégica.
Cuando decide que está listo para adoptar AI, es crucial hacer que sus proveedores cuentas. Haga las preguntas difíciles. Haga preguntas detalladas. Asegúrese de tener a alguien interno o traiga un consultor, que sabe lo suficiente para ayudarlo a interrogar la tecnología correctamente.
Como todos sabemos, uno de los mayores desechos de dinero en la transformación digital ocurre cuando las preguntas correctas no se hacen por adelantado. Descubrirlo puede ser increíblemente costoso, así que tómese el tiempo para hacerlo bien.
Foto Petr Storov en Sin estelares
¿Quiere obtener más información sobre AI y Big Data de los líderes de la industria? Verificar AI y Big Data Expo que tiene lugar en Amsterdam, California y Londres. El evento integral está ubicado en otros eventos líderes, incluidos Conferencia de automatización inteligente, Bloqueo, Semana de transformación digitaly Cyber Security & Cloud Expo.
Fuente: Kay Firth-Butterfield, anteriormente Wef: The Future of AI, The Metaverse and Digital Transformation
