Los deepfakes pornográficos aumentan un 464% con la mujer como víctima principal

• En VerificaRTVE te explicamos qué debes hacer si eres víctima de un montaje pornográfico
• Envíanos consultas al 659 800 555 o a [e-mail]

Deepfakes pornográficos: una mujer observa una pantalla digital

Los vídeos ultrafalsos (deepfake, en inglés) de contenido pornográfico se han disparado en el último año con las mujeres como principales víctimas protagonizando en contra de su voluntad estos contenidos audiovisuales generados con inteligencia artificial. Así se desprende del estudio ‘State of deepfakes 2023’, que pone de manifiesto que los montajes sexuales de este tipo son una tendencia al alza, con un “aumento del 464% en el último año”. El informe que firma la empresa de ciberseguridad Home Security Heroes también deja claro que “las mujeres son víctimas del 99% de los deepfakes pornográficos”.

En VerificaRTVE ya te hemos explicado que los deepfakes son "vídeos ultrafalsos que destacan por su alto nivel de credibilidad al conseguir mostrar imágenes muy similares a una grabación real superponiendo millones de fotografías" de una determinada persona para suplantarlo "en un vídeo grabado por un actor" o actriz. El Instituto Nacional de Ciberseguridad (INCIBE) advierte de que estos contenidos "son vídeos manipulados para hacer creer a los usuarios que ven a una determinada persona realizando declaraciones o acciones que nunca ocurrieron”. Los deepfake pueden crearse con “herramientas o programas de inteligencia artificial que permiten el intercambio de rostros en imágenes y la modificación de la voz”.

Una práctica en aumento que no afecta a todos por igual

La metodología del estudio ‘State of deepfakes 2023’ se ha basado en la recogida de datos de acceso público de sitios web y foros. En total, se han analizado vídeos de los diez principales sitios web dedicados a la pornografía, además de 85 canales especializados en deepfakes de YouTube, Vimeo y Dailymotion. La investigación refleja que “la cantidad total de videos deepfake ha experimentado un aumento del 550%" de 2019 a 2023, hasta alcanzar la cifra de 95.820 contenidos audiovisuales ultrafalsos. Del total, el 98% son deepfakes pornográficos. El estudio también apunta que “siete de los diez principales sitios web de pornografía albergan deepfakes”.

Otra de las conclusiones de esta investigación es que la producción de vídeos ultrafalsos de contenido pornográfico no es uniforme, sino selectiva. Este método de suplantación atenta contra la intimidad de las personas, pero no afecta a todas por igual. Existen sesgos de género, nacionalidad y profesión. Ya sabemos que el 99% de las víctimas son mujeres, pero cabe destacar que Corea del Sur es el país más afectado por este fenómeno, con una “tasa de susceptibilidad del 53%” de ser objeto de este tipo de contenidos para adultos. Además, “el 94% de las personas que aparecen en estos vídeos se dedican a la industria del entretenimiento”, siendo las cantantes las principales víctimas, seguidas de actrices e influencers.

La democratización de las herramientas de IA, principal causa del aumento

El aumento de este tipo de contenidos no es casual. Anteriormente, la creación de manipulaciones convincentes requería de experiencia y conocimientos técnicos, pero en los últimos años los avances tecnológicos y la accesibilidad han contribuido a que la producción de contenidos ultrafalsos sea una tendencia al alza. Interfaces gráficas intuitivas, comunidades y aplicaciones gratuitas: estas plataformas ofrecen una gran variedad de funciones, desde un simple intercambio de rostros hasta manipulaciones de video más complejas.

En la actualidad, de acuerdo con este estudio, existen aproximadamente "15 sitios web y foros de comunidades de creación de deepfakes". De estas herramientas, "al menos una de cada tres" permite a los usuarios generar contenido para adultos utilizando técnicas basadas en la inteligencia artificial. Esto se traduce en que, en menos de 30 minutos, es posible crear un video pornográfico ultrafalso de 60 segundos de cualquier persona usando solo una imagen de su rostro a coste 0.

Una práctica normalizada sin legislación específica que la regule

El estudio ‘State of deepfakes 2023’ incluye una encuesta realizada a 1.522 hombres estadounidenses entre el 15 de julio y el 29 de agosto de 2023 que señala que “el 48% de los encuestados han consumido pornografía deepfake al menos una vez”. Otro dato relevante de la consulta es que el 74% de estos usuarios afirman no sentirse culpables por consumir pornografía deepfake.

Este tipo de montajes pornográficos se han convertido en una de las principales formas de violencia digital hacia las mujeres. Este fenómeno vulnera dos grandes derechos: la protección de datos o privacidad, y también la intimidad, honor y propia imagen. La creación de imágenes sexuales con inteligencia artificial no se contempla como un delito específico en el Código Penal. En VerificaRTVE te aconsejamos seis pasos basados en el asesoramiento legal y psicológico necesario ante este tipo de violencia digital: guarda las imágenes, no interactúes, apóyate en tu entorno de confianza, denuncia, busca apoyo psicológico e infórmate de las instituciones que te pueden ayudar.