China comenzará a aplicar sus nuevas y estrictas reglas sobre la creación de deepfakes a partir de hoy.
Las falsificaciones profundas se utilizan cada vez más para la manipulación y la humillación. Hemos visto deepfakes de figuras como el deshonrado fundador de FTX, Sam Bankman-Fried cometer fraudeel presidente de Ucrania, Volodymyr Zelenskyy, para difundir desinformación, y la presidenta de la Cámara de Representantes de EE. UU., Nancy Pelosi, para hacerla parecer borracha.
El mes pasado, el Administración del Ciberespacio de China (CAC) anunció reglas para tomar medidas drásticas contra las falsificaciones profundas.
“En los últimos años, la tecnología sintética en profundidad se ha desarrollado rápidamente. Mientras satisface las necesidades de los usuarios y mejora las experiencias de los usuarios, algunos delincuentes también lo han utilizado para producir, copiar, publicar y difundir información ilegal y mala, difamar, restar valor a la reputación y el honor de otros y falsificar a otros”, explica el CAC. .
Los proveedores de servicios para la creación de contenido sintético estarán obligados a garantizar que sus IA no se utilicen indebidamente con fines ilegales y/o dañinos. Además, cualquier contenido creado con una IA debe estar claramente etiquetado con una marca de agua.
Las nuevas reglas de China entran en vigor hoy (10 de enero de 2023) y también requerirán que los proveedores de servicios sintéticos:
- No procesar ilegalmente información personal
- Revisar, evaluar y verificar periódicamente los algoritmos
- Establecer sistemas de gestión y salvaguardas técnicas
- Autenticar a los usuarios con información de identidad real
- Establecer mecanismos de quejas y denuncias
El CAC señala que la gobernanza eficaz de las tecnologías sintéticas es un esfuerzo de múltiples entidades que requerirá la participación del gobierno, las empresas y los ciudadanos. Tal participación, dice el CAC, promoverá el uso legal y responsable de tecnologías de síntesis profunda mientras minimiza los riesgos asociados.
(Foto por henry chen en Unsplash)
Relacionado: AI & Big Data Expo: Explorando la ética en la IA y las medidas de seguridad requeridas
¿Quiere aprender más sobre IA y big data de los líderes de la industria? Verificar Exposición de IA y Big Data teniendo lugar en Ámsterdam, California y Londres.
Explore otros próximos eventos y seminarios web de tecnología empresarial impulsados por TechForge aquí.
Fuente: Las leyes de deepfake de China entran en vigor hoy