Estás leyendo la publicación: Nueva política de contenido de China: ¿Por qué los archivos multimedia creados por IA ahora deben tener una marca de agua?
A medida que el uso de la inteligencia artificial (IA) se expande rápidamente a nivel mundial, también lo hacen las preocupaciones éticas en torno a su implementación. Una de esas preocupaciones es la posibilidad de que las imágenes generadas por IA, o “deepfakes”, se utilicen con fines maliciosos, como crear noticias falsas o hacerse pasar por alguien sin su conocimiento. En respuesta a estas preocupaciones, el gobierno chino emitió una nueva directriz que prohíbe la creación de imágenes generadas por IA sin marcas de agua u otras etiquetas obvias.
La Administración del Ciberespacio de China lanzó la directriz, afirmando que “las personas poco éticas utilizan la IA para producir, copiar, publicar y difundir información ilegal y dañina, para calumniar y menospreciar la reputación y el honor de los demás, así como para falsificar la identidad de otras personas”. La directriz continúa diciendo que tales actividades “maximizan el impacto social negativo de la tecnología deepfake” y que “los fabricantes y usuarios de la tecnología deepfake deben asumir las responsabilidades sociales correspondientes”.
Esta no es la primera vez que el gobierno chino toma medidas para regular el contenido generado por IA. En febrero de 2019, la Administración del Ciberespacio emitió nuevas normas que rigen el desarrollo y uso de “asistentes de información personal”, que incluían la prohibición del uso de deepfakes con fines “maliciosos”. Estas regulaciones se consideraron en gran medida como una respuesta a la creciente popularidad de la tecnología deepfake y el potencial de que se utilice para fines nefastos.
Es probable que las nuevas pautas sobre imágenes generadas por IA tengan un impacto significativo en la forma en que se utiliza la tecnología deepfake en China. Al prohibir la creación de imágenes generadas por IA sin marcas de agua u otras etiquetas, el gobierno está censurando efectivamente las redes sociales.
Las directrices revisadas exigen que los deepfakes lleven además las siguientes etiquetas:
Los servicios que generan o alteran drásticamente el contenido informativo y ofrecen funciones como diálogo inteligente, voz humana sintética, generación de rostros humanos y entornos realistas inmersivos deben revisarse en un lugar visible para evitar la confusión pública o la identificación errónea.
China también establece la responsabilidad por la eliminación de marcas de agua.
Además, los proveedores de tecnología deepfake deben mantener registros legales, mientras que los usuarios deben registrar cuentas con sus nombres reales para que se pueda monitorear su actividad de generación.
Lea más noticias sobre IA:
