Se espera que Beijing intensifique sofisticadas campañas de desinformación generadas por IA para influir en varias elecciones de alto perfil en 2024, según el equipo de inteligencia de amenazas de Microsoft.
microsoft prevenido que los grupos cibernéticos chinos respaldados por el Estado –con ayuda de actores norcoreanos– “probablemente apunten” a las elecciones presidenciales y legislativas en países como Estados Unidos, Corea del Sur e India este año. Se proyecta que su táctica principal será la creación y difusión en las redes sociales de contenido generado por IA sesgado para “beneficiar sus posiciones” en estas carreras.
«Si bien el impacto de dicho contenido en las audiencias sigue siendo bajo, la creciente experimentación de China para aumentar los memes, videos y audio continuará – y puede resultar efectiva en el futuro», advirtió Microsoft en el informe publicado el viernes.
La compañía citó el reciente “ensayo” de China utilizando desinformación sintetizada por IA durante las elecciones presidenciales de enero en Taiwán como un presagio de esta amenaza emergente. Microsoft evaluó que un grupo pro-Beijing conocido como Storm 1376 o Spamouflage Dragon hizo el primer intento documentado por parte de un actor estatal de influir en una votación extranjera utilizando contenido fabricado con IA.
Las tácticas implementadas por los agentes respaldados por China incluyeron la publicación de clips de audio falsos probablemente “generados por IA” que mostraban a un ex candidato presidencial respaldando a un rival, así como memes generados por IA que formulaban acusaciones de corrupción infundadas contra el candidato pro soberanía William Lai, finalmente victorioso. . El grupo también creó “presentadores de noticias” renderizados por IA para transmitir desinformación sobre la vida personal de Lai.
“A medida que las poblaciones de India, Corea del Sur y Estados Unidos se dirigen a las urnas, es probable que veamos a actores cibernéticos y de influencia chinos, y hasta cierto punto a actores cibernéticos norcoreanos, trabajar para apuntar a estas elecciones”, afirma el informe de Microsoft.
La compañía agregó que los grupos chinos ya están intentando mapear temas divisivos y bloques electorales en los EE. UU. a través de campañas orquestadas en las redes sociales, potencialmente «para recopilar inteligencia y precisión sobre datos demográficos electorales clave antes de las elecciones presidenciales de los EE. UU.».
Si bien señaló el riesgo, Microsoft reconoció que la desinformación basada en la IA ha logrado hasta ahora un éxito limitado en la formación de la opinión pública a nivel mundial. Pero advirtió que la creciente inversión de Beijing y la creciente sofisticación de la tecnología plantean una creciente amenaza a la integridad de las elecciones democráticas en todo el mundo.
(Foto por Elemento5Digital)
Ver también: Cómo proteger su negocio de los deepfakes generados por IA
¿Quiere aprender más sobre IA y big data de la mano de los líderes de la industria? Verificar Exposición de IA y Big Data que tendrá lugar en Amsterdam, California y Londres. El evento integral comparte ubicación con otros eventos importantes, incluidos bloquex, Semana de la Transformación Digitaly Exposición de seguridad cibernética y nube.
Explore otros próximos eventos y seminarios web de tecnología empresarial impulsados por TechForge aquí.
Fuente: China planea perturbar las elecciones con desinformación generada por IA