Es indudable que los servicios de síntesis profunda son una innovación trascendental, sin embargo, su uso para generar noticias falsas, engaños, acoso y estafas financieras ha provocado mucha discusión.
A partir del 10 de enero, China implementará la primera regulación relacionada con el uso de 'deepfake', una tecnología de síntesis profunda. Según China Briefing, esta ley podría servir como modelo para que otros países adopten medidas similares. Esta nueva legislación prohíbe el uso de 'deepfake' en asuntos que puedan afectar la seguridad nacional o los intereses del país, dañar la imagen nacional o perturbar la economía. Además, también se prohíbe crear noticias falsas utilizando esta técnica.
Los deepfake son archivos de video, imagen o voz generados por inteligencia artificial para imitar a la perfección la apariencia de los protagonistas de los contenidos con la cara de otras personas.
La tecnología puede manipular un video, por ejemplo, añadiendo a un político para crear un discurso ficticio. Esto genera contenido falso que se ve real y facilita la desinformación.
Elementos principales de las reglas.
Desde 2019, China ha tenido en vigor una serie de reglas que prohíben el uso de contenido generado por computadora para crear o difundir noticias falsas. Las nuevas regulaciones se centran principalmente en los proveedores de servicios de síntesis profunda y en aquellos que utilizan esta tecnología.
Estas son algunas de las principales normas:
Las personas deben dar su aprobación para que su imagen sea empleada en un 'deepfake'.
Se prohibirá el empleo de síntesis profunda para propagar noticias falsas.
Los fabricantes de 'deepfake' deben verificar la identidad real de quienes producen contenido.
Todos los productos generados usando esta técnica deben llevar una etiqueta que haga saber al público que la imagen o video ha sido modificado.
Se prohibe el uso de 'deepfake' en asuntos que "amenacen la seguridad y los intereses nacionales" o afecten negativamente la imagen del país o la economía.
¿Por qué son significativas estas normas de China?
De acuerdo con CNBC, el proceso de síntesis profunda no es completamente malo, ya que también puede tener usos beneficiosos en áreas como la educación y la salud. Sin embargo, Pekín está tratando de abordar el lado negativo de los 'deepfake'. Algunos expertos consultados por el medio creen que el Gobierno chino quiere aumentar su control sobre las empresas tecnológicas y el contenido en Internet.
Las autoridades chinas están intentando lidiar con "cuestiones complejas" de una forma que pocos países lo están haciendo, tratando de prevenir los efectos potenciales que la innovación tecnológica podría tener en la estabilidad de su sistema.
Sin lugar a dudas, los servicios de síntesis profunda son una tecnología revolucionaria, sin embargo, su uso para generar noticias falsas, engaños, intimidación y fraudes financieros ha provocado un gran debate. Antes de que China presentara sus normas, el Parlamento Europeo aprobó cambios en la Ley de Servicios Digitales para restringir la distribución de 'deepfake' desde 2024.
Si las recomendaciones del gran país asiático tienen éxito, podrían servir como una guía para que otros países tomen medidas similares. Algunos gobiernos han empezado a crear leyes de protección de datos que también se pueden usar para controlar las "falsificaciones profundas", según lo informado por China Briefing.
Si (
No(
Traductor
