La red social X autoriza oficialmente la pornografía: estos son los principales riesgos

• Montajes pornográficos generados por inteligencia artificial: ¿cómo puedes defenderte?
• Envíanos consultas al 659 800 555 o a [e-mail]

Imagen generada por el equipo de Diseño RTVE de una persona con un teléfono viendo contenido sensible en X

La red social X, antiguo Twitter, ha cambiado sus reglas para permitir formalmente a los usuarios publicar contenido pornográfico. Esta actualización de la política de la plataforma establece, además, una serie de limitaciones para poder difundir estas imágenes y vídeos de temática sexual gráfica. Para analizar los riesgos y amenazas que puede suponer esta práctica hemos hablado con dos analistas de redes sociales, una psicóloga y una fiscal especializadas en violencia de género, una abogada y experta en tecnología y un analista e informático forense del Observatorio Español de delitos informáticos. Desde VerificaRTVE también hemos consultado a la red social X por correo electrónico acerca de su política sobre contenidos sexuales y hemos recibido como respuesta un mensaje automático que dice en inglés que la compañía está ocupada y que lo intentemos más adelante.

La formalización de una práctica habitual

La red social X ha publicado una actualización de su política en mayo de 2024 que establece que los usuarios pueden "compartir contenido que incluya desnudez o comportamiento sexual de personas adultas producido y distribuido de manera consensuada, siempre y cuando esté debidamente etiquetado y no se muestre de forma destacada". Sobre el papel, el cambio más sustancial respecto a la "política relativa a la desnudez no consensuada" que aplicaba la red social desde 2021, es que entonces "la pornografía y otras formas de contenido para adultos producido de forma consensuada" se permitían "siempre y cuando se marquen como contenido delicado".

En VerificaRTVE hemos consultado a varios expertos sobre los cambios en la política de X sobre la difusión de contenido pornográfico y todos coinciden en que solo se ha formalizado algo que venía ocurriendo desde hace tiempo. El experto en desinformación y redes sociales Marcelino Madrigal asegura que "Twitter lleva admitiendo porno desde sus orígenes prácticamente y en sus condiciones de uso estaba reflejado que se podía tuitear y podías poner imágenes y vídeos de porno explícito exceptuando en la cabecera de la cuenta y el avatar". Madrigal añade que "todos los estudios de pornografía y todos los actores y actrices tenían cuenta, y verificada en muchos casos". La abogada y experta en tecnología Paloma Llaneza señala que "no es ninguna novedad" que exista porno en X y afirma que lo que hace esta red social "es rendirse a la evidencia de que no puede controlar el contenido de desnudos".

Los expertos coinciden en que este cambio en la política de X, lejos de modificar las reglas del juego, refleja la degradación de la plataforma. La analista de redes sociales Mariluz Congosto recuerda que "al principio X tenía un componente lúdico, de humor, de buen rollo y poco a poco ha ido degradando" a insultos, acoso e incluso a contenido explícitos. Para Paloma Llaneza "lo que podemos esperar es que la red se descontrole". En su opinión, el problema es que las plataformas como X "no se quieren hacer responsables del contenido que sube la gente", algo que antes era comprensible porque "no tenían herramientas, ni capacidad de almacenamiento, ni de procesamiento para leer todo lo que la gente subía, pero ahora con inteligencia artificial todo se procesa a gran velocidad". "No es un problema para los menores y para las mujeres, es un problema para la democracia en su conjunto", concluye Llaneza.

El difícil cumplimiento de las limitaciones

La nueva política establece una serie de limitaciones a la difusión de pornografía: "Prohibimos el contenido que promueva la explotación, la falta de consentimiento, la cosificación, la sexualización o el daño a menores y comportamientos obscenos". Estas condiciones también se aplican al "contenido generado por IA, fotográfico o animado, como dibujos animados, hentai (pornografía animada de origen japonés) o anime (animación de origen japonés)".  Además, la plataforma "solicita" a los usuarios que vayan a compartir estos materiales "cambiar la configuración" para advertir de estos contenidos. En la imagen inferior puedes ver los pasos para cambiar la configuración del contenido multimedia en X.

Cómo marcar tu contenido multimedia en X como material delicado en 4 pasos VerificaRTVE

Mariluz Congosto señala que "lo natural sería que los que deseen buscar esos contenidos los habiliten y que las personas de entrada no tuvieran que buscar cómo defenderse de ese tipo de contenidos, que por defecto sean filtrados". La realidad es otra, según explica esta experta: "El filtrado se debe hacer con la moderación, pero la moderación en Twitter está muy dañada porque despidieron a mucha gente, creo que es complicado que sepan filtrar estas cosas". Paloma Llaneza afirma que "las condiciones legales" de X no implican "que el dueño de la herramienta" vaya a hacer un "escaneo" del contenido que sube un usuario, sino que es el propio internauta el "que se tiene que asegurar que el contenido es consentido". Si no lo es, la víctima tendrá que alegarlo "a través de la herramienta de denuncias y de abuso de Twitter para que ese contenido se retire", apostilla Llaneza. Para el analista e informático forense del Observatorio Español de delitos informáticos Salvador Semper la retirada del contenido no es suficiente: "Las personas afectadas tienen que denunciar, no solo a la Agencia para la Protección de Datos para su retirada inmediata, también a Policía Nacional, Guardia Civil, Ertzaintza o Foral". A su juicio, se debe identificar "quién hay detrás de las identidades digitales produciendo esos hechos porque bloquear el perfil no impide que se vuelva a generar una nueva identidad o un nuevo usuario en cualquier red y se suban de nuevo los contenidos".

Para la fiscal especializada en violencia de género Susana Gisbert "las limitaciones que plantea la plataforma son insuficientes porque, entre otras cosas, no se establecen consecuencias para la infracción de estas reglas". Bajo su criterio, "es dificilísimo de controlar que se cumplan dichas limitaciones, sobre todo en lo que a consentimiento se refiere". Marcelino Madrigal señala que esta permisividad de X también favorecerá "la pornovenganza", es decir, la difusión sin consentimiento de las imágenes íntimas previamente obtenidas con el consentimiento de la víctima y afectar gravemente a su intimidad. Este experto asegura que "muchos de los contenidos son efectivamente robados, contenidos que se suben sin permiso" y se pregunta: "¿Cómo va a diferenciar que la foto de una señora desnuda está consentida o no, si no se lo dicen?".

El negocio del sexo en la plataforma: ‘pornobots’ y spam

Los expertos consultados coinciden en que X está impulsando un nuevo modelo de negocio con la pornografía que, consecuentemente, fomenta el spam y las cuentas automatizadas o bots que difunden contenido sexual. Para la analista Mariluz Congosto "el porno siempre ha sido un negocio muy lucrativo y posiblemente uno de los objetivos sea promocionar esto", algo que existía ya en la red, pero ahora "si ya están oficializados se les intentará dar publicidad". Congosto destaca que el spam "da amplificación artificial para que llegue a más gente" y que en X este envío masivo "no se controla ni para los temas de porno, ni para nada". La experta también advierte: "Uno puede obtener el dinero simplemente por esos contenidos y otro puede aprovechar vulnerabilidades de personas adictas a estos temas para hacer ciberestafas". Marcelino Madrigal subraya que la pornografía "ha aumentado exponencialmente porque la mayoría de las cuentas pagan el tick azul" que permite "que el contenido sea mucho más difundido y mucho más visible".

Este experto en ciberseguridad también alerta sobre los ‘pornobots’: cuentas automatizadas que, "cuando escribes un tuit, te contestan o te siguen, e incluso te pueden enviar un mensaje directo diciendo que vayas a tal web", explica Madrigal antes de señalar que "en España es común que, al escribir un tuit, te responda un pornobot diciendo ‘Mis desnudos en’" mi perfil. El experto sostiene que "la mitad de los bots y de las cuentas falsas que hay son pornobots". La abogada y experta en tecnología Paloma Llaneza lanza una reflexión: "Una cosa es que gente privada suba contenidos de desnudos a la plataforma y otra muy diferente es que la plataforma se acabe convirtiendo en OnlyFans". Tal y como explica, lo que se pretende es "abrir una nueva línea de negocio" y cree que la situación actual "cambiará en el momento en el que el propio Twitter haga del sexo un negocio".

Mensajes de X de perfiles sospechosos de ser 'pornobots' VerificaRTVE

Una forma más de violencia de género digital

La psicóloga Bárbara Zorrilla explica que "el tipo más visto de pornografía incluye contenidos machistas y violentos y esto siempre va a suponer un riesgo para las mujeres". Tal y como asegura Zorrilla, "que una red social al alcance de todos permita la difusión de contenido pornográfico, de mujeres en situaciones de sumisión, humilladas, agredidas y vejadas refuerza la idea de que estamos al servicio del deseo masculino, nos cosifica y perpetúa la idea de que la postura de la mujer es la de la subordinación". Por tanto, "se convierte en una forma más de violencia de género digital, como la difusión de contenidos machistas, el acoso, el chantaje, las amenazas, los comentarios sexistas y la utilización de la mujer como objeto, que es una forma de violencia simbólica". Esto, explica la psicóloga, "puede tener graves consecuencias en la salud integral de las mujeres porque ven dañada su imagen y reputación y, por supuesto, su bienestar psicológico". Todo esto junto con un efecto general: "Reducir la participación de las mujeres y las niñas en este mundo virtual" colocándolas "en desventaja social y laboral".

Los expertos consultados subrayan que la amenaza de poder difundir contenidos generados con IA afecta en mayor medida a las mujeres. El analista e informático forense del Observatorio de Delitos Informáticos Salvador Samper explica que la IA utiliza otros contenidos para aprender y generar los suyos propios: "Es una producción de imágenes basada en los algoritmos de imágenes de otras mujeres", es decir, que para que la IA genere pornografía "antes tiene que fijarse en imágenes para generar esos algoritmos de diseño automatizado en mujeres", incurriendo de esta forma en estereotipos. La fiscal especializada en violencia de género Susana Gisbert alerta de que "se puede lesionar la intimidad y la integridad de mujeres que ni siquiera se han prestado y pueden fomentar la imitación de determinadas conductas en gente joven y menores de edad". En VerificaRTVE ya te contamos que la pornografía sintética es un fenómeno que afecta principalmente a las mujeres.

El riesgo para los menores: víctimas y normalización de comportamientos sexuales violentos/machistas

Los expertos consultados ponen en tela de juicio la línea roja que establece X respecto al acceso de los menores de 18 años a los contenidos pornográficos. Según indica la red social, "los usuarios menores de 18 años o los espectadores que no incluyen una fecha de nacimiento en su perfil no pueden hacer clic para ver el contenido marcado". La psicóloga forense experta en violencia de género y victimología Bárbara Zorrilla argumenta que "un desplegable que pregunta si tienes más de 18 años no es suficiente". Coincide con ella la analista Mariluz Congosto, que también alerta de que "se puede mentir fácilmente" en la fecha de cumpleaños que aportas. La abogada Paloma Llaneza explica que las redes sociales como X "no tienen un sistema de verificación de edad porque técnicamente no hay mecanismos disponibles en el mercado para verificar la edad del menor o del mayor de edad sin vulnerar el derecho al anonimato". Según esta experta, hay otros métodos para impedir que los menores tengan acceso a contenidos pornográficos: "Twitter puede no saber que un usuario cuando se da de alta es menor, pero lo que sí sabe después de 6 meses de uso es que ese usuario es menor por el comportamiento".

Otro riesgo para los menores está en la creación de imágenes generadas con IA. El analista Salvador Samper sostiene que "por ejemplo, el hentai en su mayoría alude a colegialas, niñas, adolescentes". Este experto también hace hincapié en el peligro de "entrar en contacto con personas que puedan captar a menores para cualquier cuestión de explotación sexual, abuso...". La psicóloga Bárbara Zorrilla nos remite al informe de Save the Children (Des)información sexual: pornografía y adolescencia para alertar de otra amenaza: "Los niños ven pornografía por primera vez a los 12 años a través del teléfono móvil y los contenidos contienen claras formas de violencia y desigualdad". El estudio también indica que "más de la mitad de los adolescentes, en su mayoría los chicos, cree que la pornografía da ideas para sus propias experiencias sexuales y les gustaría poner en práctica lo que ha visto, incluso sin tener el consentimiento de su pareja". Es por ello que, según explica Zorrilla, "acceder a esto en una red social tan popular, con millones de usuarios, lo que les transmite es que estos contenidos son normales, se convierten en la principal escuela de sexualidad, en la que la violencia sexual se normaliza y el deseo se construye incluyendo perspectivas distorsionadas y peligrosas que se asientan en una base de desigualdad y sometimiento de las mujeres".