Estás leyendo la publicación: Reddit prohíbe la comunidad deepfake ‘SFW’
Durante el fin de semana, aparentemente en algún momento alrededor del domingo, Reddit prohibió la comunidad de deepfakes nominalmente ‘SFW’ (Safe For Work) titulada r/deepfakesfw. El subreddit fue una de las primeras respuestas al aviso del gigante de las redes sociales. supresión del sub original r/deepfakes plagado de IA en 2018.
La leyenda (relativamente) repetitiva de que ahora saluda (instantánea de archivo tomada el lunes 13 de junio) cualquiera que visite el submarino explica que ‘fue prohibido debido a una violación de Reddit’s normas contra la pornografía involuntaria’.
La nueva portada de r/deepfakesfw.
El sub r/deepfakesfw no fue archivado con frecuencia por las plataformas de conservación populares, pero la mayoría instantánea reciente de WayBack Machinetomada hace unos diez días (el 3 de junio de 2022), indica que el sub tenía 3.095 lectores en ese momento.
Eso es en realidad una mayor cantidad de suscriptores que r/DeepFakesSFW (tenga en cuenta la ‘s’ extra), que actualmente tiene 2.827 lectores (instantánea de archivo tomada el lunes 13 de junio de 2022). La comunidad de deepfakes ‘legítima’ más popular de SFW parece ser actualmente r/SFW falsificaciones profundasque al momento de escribir tiene 16.636 lectores (instantánea tomada el lunes 13 de junio de 2022).
Ni siquiera preguntes
Lo que parece haber condenado a r/deepfakesfw no fue la publicación, sino la solicitando de la pornografía deepfake. Las reglas de Reddit sobre los medios sexualmente explícitos establecen:
‘[Images] o el video de otra persona publicado con el propósito específico de falsificar contenido explícito o solicitar pornografía “parecida” (por ejemplo, “falsificaciones profundas” o “pornografía de burbujas”) también está en contra de la Regla.’
Según las últimas fuentes RSS disponibles del sub SFW ahora prohibido, ha sido la solicitud en lugar de la publicación de contenido falso profundo de NSFW lo que finalmente ha desencadenado la prohibición:
Algunas de las publicaciones finales, claramente NSFW, del ahora muerto subreddit r/deepfakesfw. Fuente: Inoreader.
Aunque las publicaciones a las que apuntan estas publicaciones RSS ya no están disponibles, hacer clic en los enlaces de perfil de los solicitantes (difuminados en la imagen de arriba) revela que muchos de los que publican solicitan contenido falso profundo prohibido en más de un foro, y están pidiendo u ofreciendo algunos de los contenidos más extremos de este tipo, incluida la pornografía incestuosa y varios tonos de temas pornográficos involuntarios.
Esto sugiere que los subs restantes de Reddit ‘SFW’ sobreviven gracias a la velocidad, la diligencia y los tiempos de respuesta rápidos de sus moderadores, ya que parece que Reddit no está dispuesto a convertirse en una especie de foro de ‘anuncios clasificados’ para que las personas se conecten y realicen transacciones ilegítimas a través de deepfakes. DM (en los casos en que esto no se puede solicitar explícitamente en una publicación).
Si es así, entonces el r/DeepFakesSFW aún no prohibido puede estar viviendo en tiempo prestado; sus dos publicaciones principales actuales al ingresar a la URL del subreddit raíz con el tema “antiguo” de Reddit habilitado se marcaron específicamente como “NSFW” (una etiqueta que presumiblemente ni siquiera debería estar disponible en esta comunidad en particular).
Dependiendo de las circunstancias, algunas publicaciones que rompen las reglas aparecen actualmente en el sub r/DeepFakesSFW. Fuente: https://www.reddit.com/r/DeepFakesSFW/
Puede ver estas dos publicaciones NSFW encabezando el foro r/DeepFakesSFW de hoy archivado aquí (instantánea tomada el lunes 13 de junio de 2022).
En realidad, no hay un “estilo” de NSFW disponible al hacer una nueva publicación en r/DeepFakesSFW, que ha estado en funcionamiento durante cuatro años, según la información de la barra lateral:
‘Estilos’ disponibles al publicar en r/DeepFakesSFW.
Por lo tanto, el NSFW Las etiquetas en r/DeepFakesSFW parecen haber sido aplicadas por moderadores en el foro o por administradores de alto nivel, o incluso algoritmos, posiblemente sin ninguna intervención u oposición disponible por parte de los moderadores locales. Me puse en contacto con el único moderador de la lista de r/DeepFakesSFW sobre esto y publicaré cualquier actualización disponible.
(EDITAR, martes, 14 de junio de 2022 – Un moderador en r/DeepFakesSFW ha respondido, afirmando ‘Parece que sucede cuando la cuenta del usuario es NSFW’. Presumiblemente, la única forma de reducir la probabilidad de tales solicitudes en los subreddits deepfake de SFW sería, por lo tanto, prohibir a los usuarios que ‘ganaron’ esta clasificación).
La mayor parte del contenido en este subreddit, y en el r/SFWdeepfakes más grande, tiene que ver con el uso de tecnología deepfake para ‘refundir’ a actores de películas populares o clásicas, o de lo contrario, para divertirse de forma más inocua impulsada por IA con medios populares y tecnología deepfake. y de hecho califican como ‘SFW’.
A pesar de que muchas de estas publicaciones se acercan peligrosamente a las prohibiciones basadas en derechos de autor, la supervivencia continua de publicaciones de videos falsos no pornográficos ‘apropiados por IP’ por parte de los principales falsificadores de YouTube como Ctrl-Shift-Face sugiere una amplia tolerancia del estudio y de los titulares de derechos hacia dicha actividad, al menos por el momento.
La apariencia ‘inocente’ del proceso Deepfake y la ecoestructura
Hace dos semanas salió a la luz (y mucho discusión) que Google había prohibido repentinamente el software de creación de deepfakes de sus populares entornos de procesamiento en la nube de Colab. Incluso hasta la fecha, Colab aparentemente solo se ‘activa’ por intentos de ejecutar DeepFaceLab (DFL), el software de deepfakes más popular del mundo (y el más estrechamente asociado con la pornografía AI), en lugar de implementaciones menos frecuentes como Intercambio caraque tiene mejor reputación, aunque realiza exactamente las mismas tareas que DFL.
Hasta cierto punto, este enfoque puede haber sido la única forma en que Colab podría haber implementado cualquier Restricción en la producción de pornografía deepfake, ya que el proceso de capacitación real de deepfake no usa más que software de código abierto e imágenes de rostros muy recortadas (generalmente en solo 512x512px, a menudo menos), con una posibilidad casi nula de que los algoritmos de reconocimiento de imágenes intercepten cualquier pornografía real. contenido.
En el momento en que se entrena el modelo deepfake, el deepfaker ya no necesita la enorme potencia de procesamiento de Colab o una costosa GPU local. más real conversiones (es decir, el proceso de imponer una cara en un video, pornográfico o de otro tipo), se puede lograr localmente, en GPU portátiles de baja potencia, o incluso en una CPU (con un tiempo de procesamiento un poco más largo). En el momento en que ocurre algo pornográfico en el proceso de deepfake, Colab hace mucho tiempo que se eliminó de la imagen.
Por lo tanto, los elementos constitutivos que se transmiten entre los creadores de la pornografía deepfake rara vez representan más que una posible infracción menor de los derechos de autor, en forma de transmisión de ‘caras’, que los creadores de la deepfake han extraído de videos de YouTube, Blu-rays, entrevistas televisadas. , redes sociales y varias otras fuentes.
¿Viene una política de ‘Tierra arrasada’ para las comunidades Deepfake?
La pregunta que atormenta a los habitantes de las comunidades falsas de Discord como DeepFaceLab (incluyendo DeepFaceLive), Intercambio cara, Editor de video de máquina (MVE, un GUI basado ambiente para DFLcon muchas características adicionales), y nuevos servidores de Discord deepfake basados en audio, como Falsificaciones profundas de audio es ¿Los actuales propietarios de portales y plataformas pronto simplemente prohibirán las comunidades deepfake por principio, en lugar de asumir el costo de la moderación constante contra una marea de adherentes y creadores de NSFW?
Bryan Lyon, uno de los desarrolladores de FaceSwap y propietario del servidor Discord asociado al proyecto, comentó†:
“Hemos logrado permanecer en Discord, a pesar de varias purgas, manteniéndonos absolutamente limpios. No tenemos canales ocultos ni un segundo servidor secreto con contenido ilícito. Hubo una purga del popular servidor DeepFaceLab hace un par de años. Todos en él fueron prohibidos. Tenían roles de solo invitación con acceso a canales con pornografía no consensuada.
Dado que Google, en sí mismo uno de los recursos de alojamiento tecnológico más grandes del mundo, ha prohibido de manera general el entrenamiento de deepfake en sus servidores y GPU, incluso es posible que GitHub, propiedad de Microsoft, decida que facilitar estas tecnologías* eventualmente no valdrá la pena la ambigüedad moral o la inversión de la supervisión.
En este momento, el proceso de legitimación de tecnologías deepfake para que su uso pase de la pornografía casera a la producción de películas y televisión, y usos no infractores/criminales, es demasiado incipiente para producir pautas de políticas claras para plataformas y servicios de alojamiento comunitario.
* Archivo de https://github.com/search?q=deepfake del lunes 13 de junio de 2022.
† En DM privados en Discord.
Publicado por primera vez el 13 de junio de 2022. Editado a las 3:08 p. m. UTC para modificar la imagen.
Modificado el martes 14 de junio de 2022 a las 6:24 a. m. UTC para agregar la respuesta del moderador de Reddit sobre el estado NSFW de algunos carteles. También modifique la imagen en la ilustración de fuentes RSS.
