Recientemente, los ciberdelincuentes utilizaron vídeos «deepfake» de los ejecutivos de una empresa multinacional para convencer a los empleados de la empresa con sede en Hong Kong de que transfirieran 25,6 millones de dólares. Basándose en una videoconferencia con múltiples deepfakes, los empleados creyeron que su director financiero con sede en el Reino Unido había solicitado que se transfirieran los fondos. Según los informes, la policía arrestó a seis personas en relación con la estafa. Este uso de la tecnología de inteligencia artificial es peligroso y manipulador. Sin directrices y marcos adecuados, más organizaciones corren el riesgo de ser víctimas de estafas de IA como los deepfakes.
Deepfakes 101 y su creciente amenaza
Los deepfakes son formas de medios alterados digitalmente, incluidas fotografías, vídeos y clips de audio, que parecen representar a una persona real. Se crean entrenando un sistema de inteligencia artificial con clips reales que muestran a una persona y luego usando ese sistema de inteligencia artificial para generar nuevos medios realistas (aunque no auténticos). El uso de deepfake es cada vez más común. El caso de Hong Kong fue el último de una serie de incidentes deepfake de alto perfil en las últimas semanas. En las redes sociales circularon imágenes falsas y explícitas de Taylor Swift, el partido político de un candidato electoral encarcelado en Pakistán utilizó un vídeo falso de él para pronunciar un discurso y un ‘clon de voz’ falso del presidente Biden llamó a los votantes de las primarias para decirles que no lo hicieran. votar.
Los casos menos destacados de uso de deepfake por parte de ciberdelincuentes también han ido aumentando tanto en escala como en sofisticación. En el sector bancario, los ciberdelincuentes están intentando superar la autenticación de voz utilizando clones de voz de personas para hacerse pasar por usuarios y obtener acceso a sus fondos. Los bancos han respondido mejorando sus capacidades para identificar el uso de deepfake y aumentando los requisitos de autenticación.
Los ciberdelincuentes también se han dirigido a personas con ataques de «phishing» que utilizan deepfakes. Un enfoque común es engañar a los familiares y amigos de una persona mediante el uso de un clon de voz para hacerse pasar por alguien en una llamada telefónica y solicitar que se transfieran fondos a una cuenta de terceros. El año pasado, una encuesta realizada por McAfee encontró que el 70% de las personas encuestadas no estaban seguras de poder distinguir entre personas y sus clones de voz y que casi la mitad de las personas encuestadas responderían a solicitudes de fondos si el familiar o amigo que realizaba la llamada reclamaba haber sido asaltado o haber sufrido un accidente automovilístico.
Los ciberdelincuentes también han llamado a personas que se hacen pasar por autoridades fiscales, bancos, proveedores de atención médica y aseguradoras en un esfuerzo por obtener detalles financieros y personales.
En febrero, la Comisión Federal de Comunicaciones dictaminó que las llamadas telefónicas que utilizan voces humanas generadas por IA son ilegales a menos que se realicen con el consentimiento previo y expreso de la parte llamada. La Comisión Federal de Comercio también finalizó una norma que prohíbe la suplantación de organizaciones y empresas gubernamentales por parte de la IA y propuso una norma similar que prohíbe la suplantación de individuos por parte de la IA. Esto se suma a una lista cada vez mayor de medidas legales y regulatorias que se están implementando en todo el mundo para combatir los deepfakes.
Mantente protegido contra los deepfakes
Para proteger a los empleados y la reputación de la marca contra los deepfakes, los líderes deben seguir los siguientes pasos:
Aunque los deepfakes son un problema de ciberseguridad, las empresas también deberían considerarlos como fenómenos complejos y emergentes con repercusiones más amplias. Un enfoque proactivo y reflexivo para abordar los deepfakes puede ayudar a educar a las partes interesadas y garantizar que las medidas para combatirlos sean responsables, proporcionadas y apropiadas.
(Foto por Markus Spiske)
Ver también: Reino Unido y EE. UU. firman un pacto para desarrollar pruebas de seguridad de IA
¿Quiere aprender más sobre IA y big data de la mano de los líderes de la industria? Verificar Exposición de IA y Big Data que tendrá lugar en Amsterdam, California y Londres. El evento integral comparte ubicación con otros eventos importantes, incluidos bloquex, Semana de la Transformación Digitaly Exposición de seguridad cibernética y nube.
Explore otros próximos eventos y seminarios web de tecnología empresarial impulsados por TechForge aquí.
Fuente: Cómo proteger su negocio de los deepfakes generados por IA