La Administración del Ciberespacio de China (CAC) ha lanzado una campaña para combatir las noticias falsas generadas por IA.
La represión se centra en los proveedores de noticias, incluidas las plataformas de videos cortos y las listas de búsqueda populares.
El CAC destacó específicamente las prácticas de manipulación, como el uso de presentadores virtuales de IA, escenas de estudio falsificadas, cuentas de noticias falsas que imitan las legítimas y la manipulación de noticias para crear historias engañosas. Estas prácticas se emplean para generar lo que a menudo se conoce como clickbait.
Según el CAC, ya ha tomado medidas contra 107.000 cuentas de noticias falsificadas y presentadores falsos, además de eliminar 835.000 piezas de información falsa. El regulador de Internet insta a los ciudadanos a informar cualquier encuentro con cuentas de noticias falsas en línea.
De acuerdo con la ley de medios de IA de China, cuyo objetivo es frenar la difusión de noticias falsas generadas por IA, la policía detuvo recientemente a una persona en la provincia de Gansu por crear noticias falsas utilizando ChatGPT.
La persona usó ChatGPT para fabricar un artículo de noticias sobre un accidente de tren, que rápidamente ganó terreno en las plataformas de redes sociales. La policía tomó medidas contra el individuo por difundir información falsa con la intención de aumentar el tráfico del sitio web.
ChatGPT no está disponible directamente en China, pero los usuarios pueden acceder a él mediante un número de teléfono extranjero compatible y una red privada virtual (VPN). Sin embargo, el acceso a números de teléfono extranjeros y VPN está restringido en China.
La ley de medios generada por IA, en vigor desde el 10 de enero de 2023, no solo se dirige a individuos como el detenido en Gansu, sino que también responsabiliza a los «proveedores de servicios de síntesis profunda» de prevenir el uso indebido de algoritmos de IA para actividades ilegales como fraude, estafas y la difusión de información falsa.
La implementación de esta ley plantea desafíos para empresas como Tencent, el desarrollador de WeChat, ya que deben asegurarse de que sus algoritmos de IA no se utilicen indebidamente.
Tencent presentó recientemente lo que es esencialmente un producto «Deepfakes-as-a-Service» que permite a los usuarios crear humanos digitales de alta definición por una tarifa, lo que genera preocupaciones sobre el posible uso indebido de dicha tecnología.
Los esfuerzos del gobierno chino para combatir las noticias falsas y regular la comunicación en línea destacan su compromiso de mantener un entorno digital seguro y confiable, aunque los críticos han planteado preocupaciones sobre la censura y la restricción de la libertad de expresión.
¿Quiere aprender más sobre IA y big data de los líderes de la industria? Verificar Exposición de IA y Big Data teniendo lugar en Ámsterdam, California y Londres. El evento es co-ubicado con Semana de la Transformación Digital.
Explore otros próximos eventos y seminarios web de tecnología empresarial impulsados por TechForge aquí.
-
Ryan es editor senior en TechForge Media con más de una década de experiencia cubriendo la última tecnología y entrevistando a figuras líderes de la industria. A menudo se lo puede ver en conferencias tecnológicas con un café fuerte en una mano y una computadora portátil en la otra. Si es geek, probablemente le guste. Encuéntralo en Twitter (@Gadget_Ry) o Mastodon (@[email protected])
Ver todas las publicaciones
Fuente: Beijing lanza campaña contra la desinformación generada por IA