La pornografía generada por IA que muestra los rostros de mujeres que no dan su consentimiento es cada vez más frecuente en línea, y el problema se está extendiendo al mundo de los influencers y streamers populares.
En enero, la transmisión en vivo británica «Sweet Anita», que tiene 1,9 millones de suscriptores en Twitch, donde publica videos de sus juegos e interactúa con sus seguidores, fue informada de un tesoro de videos sexualmente falsos explícitos con las caras de los transmisores de Twitch. estaban circulando en línea. .
Su primer pensamiento fue: «Espera, ¿estoy en esto?»
Rápidamente buscó en Google su nombre junto al término «deepfake», una palabra que se usa para describir un video o una imagen manipulada digitalmente, muy realista pero falso, y una técnica que se usa cada vez más, generalmente sin consentimiento, con fines pornográficos. La búsqueda inicial de Anita arrojó varios videos que mostraban su rostro montado en el cuerpo de otra persona.
«Obviamente, ha estado sucediendo durante bastante tiempo sin que yo lo supiera, no tenía idea, podrían haber sido años por lo que sé», dijo Anita, de 32 años, quien no quiso compartir su nombre completo con NBC News debido a preocupación por su seguridad y privacidad fuera de línea.
Hany Farid, profesor de ciencias de la computación en la Universidad de California, Berkeley, dijo que las falsificaciones profundas son un fenómeno que «está empeorando absolutamente», ya que se ha vuelto más fácil producir videos sofisticados y realistas a través de aplicaciones y sitios web automatizados.
La cantidad de videos pornográficos falsos disponibles en línea ha experimentado un aumento, casi duplicándose cada año desde 2018, según una investigación realizada por la analista de Live Genevieve Oh. En 2018, solo se cargaron 1.897 videos en un conocido sitio de transmisión de deepfakes, pero en 2022, ese número aumentó a más de 13.000 con más de 16 millones de visitas mensuales.
Ahora, de repente, las personas vulnerables son personas que tienen una huella en línea muy pequeña.
-Hany Farid, profesor de informática en la Universidad de California, Berkeley
Anteriormente, las celebridades eran principalmente el objetivo de las falsificaciones profundas.
«Ahora, de repente, las personas vulnerables son personas que tienen una huella en línea muy pequeña», dijo Farid. «La tecnología se está volviendo tan buena que puede generar imágenes a partir de estadísticas de entrenamiento relativamente pequeñas, no esas horas y horas de video que necesitábamos antes».
Cualquier persona interesada en hacer deepfakes puede acceder rápidamente a una gran cantidad de aplicaciones de intercambio de caras gratuitas y de pago disponibles en las tiendas de aplicaciones de Google Play y Apple, lo que facilita que cualquier persona cargue una foto y la edite en una foto o video en segundos.
Algunas grandes plataformas como Reddit, Facebook, Tac TIC Y Gorjeo intentó combatir la propagación de la pornografía falsa con cambios de política. Si bien cada una de las plataformas prohíbe específicamente el material, algunas han tenido problemas para moderarlo. Una búsqueda en Twitter, por ejemplo, encontró videos pornográficos falsos que afirmaban presentar estrellas de Twitch, así como hashtags que promocionaban los falsos profundos.
En enero, la proliferación de pornografía deepfake hizo olas en línea, cuando un popular transmisor de Twitch con más de 300,000 suscriptores admitió haber pagado por material explícito que presentaba versiones de sus compañeros generadas por IA.
30 de enero en lágrimas vídeo de disculpa que fue retuiteado en Twitter y obtuvo millones de visitas, Brandon Ewing, que usa el nombre de pantalla «Atrioc» en Twitch, dijo que hizo clic en un anuncio de pornografía falsa mientras navegaba por un popular sitio web de pornografía. Dijo que luego se suscribió y pagó por contenido en otro sitio web que mostraba a otras transmisoras femeninas después de que se volvió «curiosamente morboso».
En un declaración más larga publicada en Twitter El 1 de febrero, Ewing habló directamente con los streamers de Twitch Maya Higa y Pokimane, cuya imagen apareció brevemente en una pestaña de un sitio web que aloja pornografía falsa durante una de sus transmisiones en vivo.
“Sus nombres fueron arrastrados allí y fueron sexualizados en contra de su voluntad”, dijo. «Lamento que mis acciones hayan llevado a una mayor explotación de ti y de tu cuerpo, y lamento que tu experiencia no sea poco común».
Ewing no respondió a la solicitud de comentarios.
Pokimane tampoco respondió a la solicitud de comentarios, pero en un mensaje del 31 de enero tweeter ella escribió: «Dejen de sexualizar a las personas sin su consentimiento. Eso es todo, ese es el tweet».
Higa dijo que no tenía más comentarios más allá de ella. Declaración de Twitter el 31 de enero, en el que escribió, en parte, «la situación me hace sentir repugnante, vulnerable, con náuseas y violada, y todos esos sentimientos me son demasiado familiares».
El incidente destacó la creciente prevalencia de la pornografía no consentida generada por IA y los problemas éticos que crea.
Ha habido un «aumento» en los sitios web que están «dispuestos, dispuestos y monetizando el alojamiento de este material», dijo Farid.
QTCinderella, otra transmisora de Twitch que descubrió que apareció en el sitio web de deepfake, dijo que lo encuentra particularmente doloroso porque Ewing es un amigo cercano.
“Creo que eso fue lo más desafortunado: no sabía nada sobre Atrioc. Descubrí en Internet que estaba hablando de eso”, dijo QTCinderella, de 28 años, quien tampoco compartió su nombre completo con NBC News para proteger su privacidad y seguridad fuera de línea.
Dijo que rápidamente rastreó el contenido del video en una cuenta en un sitio web de suscripción y emitió un aviso de eliminación, pero los videos continuaron propagándose como un «reguero de pólvora».
En los Estados Unidos, mientras que el la mayoría de los estados tienen leyes que prohíban el porno vengativo, solo Nueva York, Virginia, Georgia y California tienen leyes que abordan específicamente los medios deepfake, según la Iniciativa de Derechos Civiles Cibernéticos. Mientras tanto, el Reino Unido anunciado en noviembre el año pasado que planeaba criminalizar medios falsos explícitos y no consensuados.
QTCinderella dijo que el marco legal actual es «desalentador».
“Todos los abogados con los que he hablado han llegado básicamente a la conclusión de que no tenemos un caso; no hay forma de demandar al tipo.
Si bien una gran cantidad de pornografía falsa puede parecer amateur y de baja calidad, Farid dijo que ahora también está viendo cuentas que ofrecen crear sofisticadas falsificaciones personalizadas de cualquier mujer por una pequeña tarifa.
Después de ver videos falsos de sí misma vendidos en línea, Anita dijo que se sentía insensible, cansada y disociada.
«Estoy siendo vendida en contra de mi voluntad», dijo. «No consentí que me sexualizaran».
QTCinderella ha dicho sufría de “dismorfia corporal”.
«Cuando ves el cuerpo de una estrella porno tan perfectamente trasplantado a donde debería estar el tuyo, es el juego de comparación más obvio que puedes tener en tu vida», dijo. «Lloré y dije ‘mi cuerpo nunca será así'».
Sophie Compton que hace campaña contra el abuso de imagen íntima con la organización Mi imagen, mi elección dijo que las mujeres atacadas están «avergonzadas o silenciadas» y sienten que su experiencia se minimiza porque hay pocas opciones legales disponibles para las afectadas por las falsificaciones profundas.
“Tenemos que encontrar una manera de hacer que estos sitios y su modelo de negocios sean imposibles”, dijo Compton.
Las plataformas específicas que albergan imágenes sexuales no consensuadas deben rendir cuentas, en lugar de cuentas y creadores individuales, dijo Farid. “Si realmente quiere abordar este problema, vaya contra la corriente”, dijo. «Ahí es donde está todo el poder».
Anita dijo que quería que hubiera «consecuencias muy visibles».
Lo que más la confunde en el futuro es que es imposible saber quién compró los videos falsos.
«Cuando tengo una cita, podría terminar abrazándome y firmando algo para alguien que me vio hacer un deepfake… y no tendría forma de saber que estaba consumiendo eso», dijo. «Que estén comprando mi cuerpo en contra de mi voluntad es realmente horrible».