El 76% de los consumidores en EMEA cree que la IA tendrá un impacto significativo en los próximos cinco años, sin embargo, el 47% cuestiona el valor que aportará la IA y el 41% está preocupado por sus aplicaciones.
Esto es según una investigación de la firma de inteligencia artificial de análisis empresarial. Altérix.
Desde el lanzamiento de ChatGPT por parte de OpenAI en noviembre de 2022, ha habido un gran revuelo sobre el potencial transformador de la IA generativa, y muchos la consideran una de las tecnologías más revolucionarias de nuestro tiempo.
Dado que un importante 79 % de las organizaciones informan que la IA generativa contribuye positivamente a los negocios, es evidente que es necesario abordar una brecha para demostrar el valor de la IA a los consumidores, tanto en su vida personal como profesional. Según el informe ‘Investigación de mercado: actitudes y adopción de la IA generativa’, que encuestó a 690 líderes empresariales de TI y 1.100 miembros del público en general en EMEA, prevalecen cuestiones clave de confianza, ética y habilidades, lo que potencialmente impide una implementación exitosa y una implementación más amplia. aceptación de la IA generativa.
El impacto de la desinformación, las imprecisiones y las alucinaciones de la IA
Estas alucinaciones, en las que la IA genera resultados incorrectos o ilógicos, son una preocupación importante. Confiar en lo que produce la IA generativa es una cuestión importante tanto para los líderes empresariales como para los consumidores. Más de un tercio del público está preocupado por el potencial de la IA para generar noticias falsas (36%) y su mal uso por parte de los piratas informáticos (42%), mientras que la mitad de los líderes empresariales informan que luchan con la información errónea producida por la IA generativa. Al mismo tiempo, la mitad de los líderes empresariales han observado que sus organizaciones luchan contra la desinformación producida por la IA generativa.
Además, se ha cuestionado la fiabilidad de la información proporcionada por la IA generativa. Los comentarios del público en general indican que la mitad de los datos recibidos de la IA eran inexactos y el 38% los percibía como obsoletos. En el frente empresarial, las preocupaciones incluyen la IA generativa que infringe los derechos de autor o de propiedad intelectual (40%) y la producción de resultados inesperados o no deseados (36%).
Una cuestión de confianza crítica para las empresas (62%) y el público (74%) gira en torno a las alucinaciones de la IA. Para las empresas, el desafío consiste en aplicar la IA generativa a casos de uso apropiados, respaldada por la tecnología y las medidas de seguridad adecuadas, para mitigar estas preocupaciones. Cerca de la mitad de los consumidores (45%) abogan por medidas regulatorias sobre el uso de la IA.
Persisten preocupaciones y riesgos éticos en el uso de la IA generativa
Además de estos desafíos, existen sentimientos fuertes y similares sobre las preocupaciones éticas y los riesgos asociados con la IA generativa tanto entre los líderes empresariales como entre los consumidores. Más de la mitad del público en general (53%) se opone al uso de IA generativa para tomar decisiones éticas. Mientras tanto, el 41% de los empresarios encuestados están preocupados por su aplicación en áreas críticas de toma de decisiones. Existen distinciones en las áreas específicas donde se desaconseja su uso; los consumidores se oponen notablemente a su uso en política (46%) y las empresas se muestran cautelosas sobre su implementación en la atención sanitaria (40%).
Estas preocupaciones encuentran cierta validación en los hallazgos de la investigación, que resaltan brechas preocupantes en las prácticas organizacionales. Solo un tercio de los líderes confirmó que sus empresas garantizan que los datos utilizados para entrenar la IA generativa sean diversos e imparciales. Además, solo el 36% ha establecido pautas éticas y el 52% ha establecido políticas de seguridad y privacidad de datos para aplicaciones de IA generativa.
Esta falta de énfasis en la integridad de los datos y las consideraciones éticas pone a las empresas en riesgo. El 63% de los líderes empresariales citan la ética como su principal preocupación con la IA generativa, seguida de cerca por las cuestiones relacionadas con los datos (62%). Este escenario enfatiza la importancia de una mejor gobernanza para generar confianza y mitigar los riesgos relacionados con la forma en que los empleados utilizan la IA generativa en el lugar de trabajo.
El aumento de las habilidades generativas de IA y la necesidad de mejorar la alfabetización en datos
A medida que la IA generativa evolucione, establecer conjuntos de habilidades relevantes y mejorar la alfabetización en datos será clave para aprovechar todo su potencial. Los consumidores utilizan cada vez más tecnologías de IA generativa en diversos escenarios, incluida la recuperación de información, la comunicación por correo electrónico y la adquisición de habilidades. Los líderes empresariales afirman que utilizan la IA generativa para el análisis de datos, la ciberseguridad y la atención al cliente y, a pesar del éxito de los proyectos piloto, persisten los desafíos. A pesar del éxito reportado de los proyectos experimentales, persisten varios desafíos, incluidos problemas de seguridad, cuestiones de privacidad de datos y calidad y confiabilidad de los resultados.
Trevor Schulze, CIO de Alteryx, enfatizó la necesidad de que tanto las empresas como el público en general comprendan completamente el valor de la IA y aborden las preocupaciones comunes mientras navegan por las primeras etapas de la adopción de la IA generativa.
Señaló que abordar cuestiones de confianza, preocupaciones éticas, escasez de habilidades, temores de invasión de la privacidad y sesgos algorítmicos son tareas críticas. Schulze subrayó la necesidad de que las empresas aceleren su recorrido de datos, adopten una gobernanza sólida y permitan que personas sin conocimientos técnicos accedan y analicen datos de forma segura y confiable, abordando las preocupaciones sobre privacidad y prejuicios para poder beneficiarse genuinamente de esta tecnología que «cambia las reglas del juego».
¿Quiere aprender más sobre IA y big data de la mano de los líderes de la industria? Verificar Exposición de IA y Big Data que tendrá lugar en Amsterdam, California y Londres. El evento integral comparte ubicación con otros eventos importantes, incluidos Conferencia de automatización inteligente, bloquex, Semana de la Transformación Digitaly Exposición de seguridad cibernética y nube.
Fuente: Las barreras éticas, de confianza y de habilidades frenan el progreso de la IA generativa en EMEA