Cambios físicos que no existen: la peligrosa tendencia de perfiles de IA en TikTok que venden guías para adelgazar
La dirección de esta página ha sido copiada en su portapapeles
Perfiles de TikTok de falsas influencers generadas con inteligencia artificial (IA) enseñan los "cambios de sus cuerpos" y promocionan aplicaciones, rutinas y guías para "lograr ese físico". Ninguna de estas cuentas avisa de que las protagonistas y sus cambios físicos no existen porque no son personas reales: están creadas con IA. En VerificaRTVE hemos investigado una decena de cuentas y las hemos analizado con expertos para conocer las consecuencias de estos contenidos.
05.27 min
Transcripción completa
irreales, sino también falsas expectativas
Y tenemos en el plató a la compañera de VerificaRTV...
...que precisamente ha realizado esta investigación..
...a Carmen Hernáez, con la que vamos a hablar precisamente...
...pues de todo esto, ¿no?
En primer lugar, me
estabas diciendo antes cómo habéis encontrado estos perfiles, primero para
este trabajo encontrasteis estos perfiles y además fuiste tú misma.
elaborar
Sí, buenas tardes. Es curioso porque los hemos
encontrado navegando en TikTok un día cualquiera.
Encontramos un perfil que nos llamó mucho la atención porque todos sus
vídeos..
eran muy parecidos y repetían esa misma idea de un cambio de peso del antes y
el después y a partir de ese perfil empezamos a buscar por términos que
usaba y palabras claves otros perfiles
que descubrimos que eran avatares generados con inteligencia artificial
es decir estas chicas no son reales
no existen y por tanto su cambio físico tampoco y además usan estas cuentas
para vender sus propias guías
de pérdida de peso y promocionar aplicaciones en las que tienes que
pagar para por ejemplo acceder a una
dieta. Claro, y ahí estaría el negocio.
Están creados con inteligencia artificial, como dices, pero los
vemos..
y es que es casi indetectable.
¿Cómo lo habéis detectado vosotros?
Pues primero los hemos pasado por
herramientas de detección de IA y la verdad que han sido muy contundentes
porque la mayoría
te decían que estaban creadas con inteligencia artificial con más de un
90% de probabilidad y luego también
es indispensable el trabajo en el equipo que hemos hecho comprobando que
de unos perfiles a otros
usaban los mismos escenarios, los mismos complementos.
Si nos fijamos ahora en pantalla, todas
realizan las mismas poses, cambian solo las habitaciones, algunos
muebles las mismas poses todas todo el tiempo y
eso, hasta la ropa y los complementos son muy parecidos de un perfil a otro.
De hecho, una creadora de contenido estadounidense
denunció en su cuenta que había perfiles que estaban usando sus propios
vídeos para recrear los escenarios
y los movimientos que ella usaba en sus vídeos y la cuestión es que estas
cuentas en ningún momento
ni en el perfil ni en los vídeos te avisan que es un contenido generado con
guía y según la política de
TikTok los creadores están obligados a comunicar con claridad el uso que hagan
de la IA y además
estas cuentas responden a los comentarios de sus usuarias como si
fueran reales.
Tenemos que decir
también que nosotros nos hemos puesto en contacto con TikTok y nos han
informado que han cerrado las cuentas por infringir
sus normas de comunidad, pero insistimos, hay que tener mucho cuidado
porque aunque se cierren estas cuentas, después aparecen otras
similares con los mismos objetivos.
Y además me llama la atención también que son, a juzgar por
esas imágenes y por esas cuentas, que son chicas jóvenes, protagonizadas por
mujeres jóvenes.
Sí, es verdad que hemos detectado..
otros dos perfiles, uno de un hombre joven y otro de una mujer de mediana
edad, pero la mayoría son de
chicas jóvenes y hemos hablado con psicólogas que nos dicen que esto no es
casual, porque tradicionalmente las mujeres hemos
estado mucho más sometidas a una valoración social basada en nuestra
apariencia y esto las redes sociales lo
han incrementado, esa necesidad de validación, y además han hecho que sea
de manera más constante, es decir..
podemos decir que somos como el objetivo de este tipo de campañas.
¿Y qué pautas o qué consejos ofrecen estas
cuentas, estas supuestas chicas que adelgazan tanto y que se convierten
además en supermodelos?
prácticamente? Sí, sí, todas coinciden en una única
dieta, en no beber
alcohol, una carga excesiva diaria de deporte, incluso te recomiendan que
leas un número determinado de páginas
de libros de autoayuda y además todas como se centran en un reto de 75 días
te dicen que si sigues estos consejos en 75 días, vas a ser lo que ellos
denominan la
chica perfecta y que además si nos fijamos en los vídeos en el después no
sólo las chicas están más
delgadas sino que también tienen una apariencia física mejor, el pelo más
cuidado,
la habitación también está perfectamente ordenada, como que te
quieren transmitir esa idea de que si estás más delgada
tu vida automáticamente va a ser mejor y además lo hacen con un lema de
conviértete en esta chica y de
verdad que insistimos que esta chica no existe en ningún momento y bueno pues
hemos hablado con
profesionales que nos explican que estos perfiles consumirlos puede tener
consecuencias tanto
para la salud física como psicológica pues dietistas y nutricionistas nos han
insistido
que probablemente no haya ningún experto de la salud detrás de estas
guías que pueden llevar a conductas poco saludables…
y difíciles de mantener a la larga y además los psicólogos con los que hemos
hablado nos dicen que pueden
llevar a la frustración, por ejemplo, porque las personas ven los vídeos y
piensan, bueno, si estas chicas lo han conseguido..
porque yo no y es que estamos ante un perfil en el que nadie nos ha advertido
que no
es real, mostrando una transformación que nunca ha ocurrido.
Pues hay que estar muy pendientes de estas..
cuentas. Cuando miremos TikTok y el resto de
redes sociales, no fiarnos de todo lo
que nos dicen. Muchísimas gracias Carmen Hernández por
explicarnos un poco más esto y sobre todo por ese enorme trabajo que habéis
hecho
que desde luego es de servicio público y que puede ayudar a muchas personas
que ahora mismo estén viendo la televisión y digan, vamos a ver, yo
me puedo convertir en una supermujer, en una supermodelo en 75 días?
Bueno, pues es más difícil de lo que parece
Creadas con IA: estas cinco mujeres no existen
En VerificaRTVE hemos investigado una decena de cuentas de TikTok y hemos centrado el análisis en las cinco que acumulaban más de 180.000 seguidores. Todas tienen el avatar de mujeres en sus perfiles que relatan su "increíble cambio físico" tras seguir la rutina de las aplicaciones o guías que ellas mismas promocionan. Para poder acceder a los contenidos de esas aplicaciones, es necesario realizar compras una vez que se descargan. Con las guías es similar, hay que comprarlas directamente desde un portal de venta.
Estas cuentas no avisan de que las protagonistas de sus vídeos son avatares creados con inteligencia artificial y sus seguidores mantienen conversaciones con ellas como si fueran personas reales. Comentarios a los que los perfiles responden recomendándoles de nuevo las plataformas y guías. Ninguno de los casos analizados señala explícitamente en la biografía de su perfil o en el contenido de sus vídeos que están creados con IA (1, 2, 3, 4 y 5), pese a que la política sobre contenido generado por inteligencia artificial (AIGC) de TikTok obliga a los creadores a "comunicar con claridad cualquier uso que hagan de la IA en su contenido para fomentar la transparencia y la confianza entre los usuarios". Tras consultar a TikTok por estos perfiles, han declarado que han "suspendido todas las cuentas por incumplir nuestras Normas de la Comunidad". Hemos comprobado que desde el día 11 de septiembre ya no están disponibles.
Las herramientas de detección de inteligencia artificial concluyen que estos cinco perfiles están creados con esta tecnología. Hive Moderation y Truth Scan lo determinan con un 99%, 92% y 80% de fiabilidad en su predicción y, por su parte, Google SynthID señala que los vídeos analizados de dos de estos cinco perfiles están creados con la IA de Google. Puedes ver los resultados en la imagen inferior.
Resultado de las herramientas de detección de inteligencia artificial VerificaRTVE
Observando las cuentas, vemos que siguen el mismo patrón. Cada protagonista usa prendas de vestir muy parecidas y con los mismos colores en todos sus vídeos, tanto en el "antes" de la pérdida de peso como en el "después". Al igual que los movimientos, replican los escenarios de un perfil a otro: habitaciones, baños, cocinas, vestuarios de gimnasios o salas de estar. Vemos las mismas estancias en todos los perfiles, solo cambian el color de los muebles, o de las paredes, la posición de un cuadro u otro elemento. Puedes ver un ejemplo de dos vídeos de dos perfiles diferentes en la imagen inferior.
Francesc Tarrés, profesor de la Universidad Politécnica de Cataluña y consejero delegado de Ugiat Technologies, nos explica que "utilizan escenarios de referencia: baño, espejo, armario, TV, etc., para dar credibilidad al escenario y al perfil". Otro elemento que se repite son los gestos, porque todas realizan exactamente las mismas poses. Tarrés señala que "la repetición del mismo esquema en todos ellos es muy sospechosa" y debe hacernos desconfiar. "Estos elementos coincidentes, como el entorno o la ropa y los complementos, señalan que se han usado las mismas herramientas de IA para generar esos vídeos". Puedes comprobarlo también en las imágenes inferiores.
La creadora de contenido deportivo Amanda Risdal denunció en su cuenta de TikTok que algunos perfiles habían "robado sus vídeos" y les habían "superpuesto IA". En el vídeo muestra una comparativa de grabaciones reales de su perfil y publicaciones de avatares de IA que replican su casa y sus movimientos. En VerificaRTVE hemos comprobado que este "robo de contenido" se reproduce en esta red social con el mismo modus operandi: alteración de imágenes de mujeres reales que enseñan sus cambios físicos.
Mujeres jóvenes: las protagonistas de estos perfiles
Además de la investigación de forma exhaustiva de estas cinco cuentas, hemos recopilado información de decenas de perfiles generados con IA con características similares y la mayoría son mujeres jóvenes (1, 2, 3, 4 y 5). Cristina Saiz Manceñido, psicóloga especializada en baja autoestima y depresión en la adolescencia, explica que las mujeres han estado "históricamente mucho más sometidas a una valoración social basada en su apariencia". Los cánones de belleza femeninos han sido "especialmente rígidos y cambiantes, lo que genera una presión mayor", y las redes sociales "no han creado esa presión, pero sí la han multiplicado y la han hecho mucho más constante".
Si nos fijamos bien en las publicaciones, en la parte que muestra el "antes" de la pérdida de peso, las mujeres también aparecen con acné, aspecto descuidado o muestran signos de sudor, al tiempo que se encuentran en habitaciones desordenadas o sucias. En cambio, en el "después", no hay acné, lucen un pelo cuidado y brillante y el escenario que las rodeaba está perfectamente limpio y ordenado.
María Martín-Vivar, doctora en psicología clínica y de la salud y presidenta de la Asociación Española de Psicología del Niño y Adolescente (APSNAE), destaca a VerificaRTVE que "el mensaje que tratan de transmitir es que cambiar la apariencia equivale a arreglar la vida entera. Esto genera un anhelo y una ilusión que en psicología conocemos como control compensatorio". Estos vídeos, como explica la presidenta de APSNAE, "insisten en que es posible, mediante el cambio en el peso corporal, controlar otras dimensiones y áreas de la vida para conseguir un mayor éxito y felicidad", lo que puede "reforzar la idea de que el valor personal depende del aspecto físico".
Dos excepciones: el perfil de una mujer de mediana edad y de un hombre joven
Aunque la mayoría de los perfiles y sus avatares son mujeres jóvenes, hemos encontrado dos cuentas distintas: la de una mujer de mediana edad y la de un hombre joven. También han sido generados con inteligencia artificial, y las herramientas lo detectan. Saiz Manceñido señala que la presión por adaptar el cuerpo no desaparece con la edad, simplemente cambia de forma. "En jóvenes puede centrarse en la delgadez o determinadas proporciones corporales, y más adelante se añade la presión por conservar un aspecto joven, evitar el aumento de peso y ocultar los signos del envejecimiento".
Resultado de las herramientas de detección de inteligencia artificial VerificaRTVE
En el caso de los hombres, el problema también existe, "mientras que en las mujeres predomina la presión hacia la delgadez, en hombres aparece con frecuencia el ideal de un cuerpo muy musculado y definido", nos dice Saiz Manceñido. "El problema es la presión por adaptar el cuerpo a un ideal que se presenta constantemente como el único deseable".
Consecuencias para la salud física y mental
Hemos analizado las aplicaciones y los retos que proponen los perfiles creados con IA y coinciden en "llevar una única dieta, beber alcohol, hacer deporte todos los días y beber más de dos litros de agua diarios". Todos bajo los lemas "conviértete en ella" y "conviértete en esa chica".
Júlia Farré, dietista-nutricionista y directora del Centro Julia Farré, en declaraciones a VerificaRTVE, sostiene que "los retos de cambios físicos han existido siempre" y que "hacen mucho daño porque enganchan, porque te hacen experimentar la sensación de comunidad al sumarte al reto". Aquí encontramos el primer problema, las personas que se suman al desafío ven todos estos vídeos y piensan: "Si ellos pueden, ¿por qué yo no?", pero "estas personas no existen". Farré explica que el riesgo reside en que son guías generalizadas que "no tienen en cuenta la edad, el peso o si tienes alguna enfermedad". Las personas que estén detrás de estos perfiles, indica la dietista-nutricionista, "probablemente pertenezcan al marketing y no habrá nadie del ámbito de la salud detrás, por lo tanto es peligrosísimo".
Capturas de pantalla de los comentarios a los vídeos de los perfiles de las chicas generadas con IA VerificaRTVE
Estos retos implican restricciones alimentarias importantes, objetivos poco realistas, ejercicio excesivo o cambios drásticos de los hábitos. La Fundación Española de Nutrición (FEN) señala que "puede favorecer conductas poco saludables y difíciles de mantener a largo plazo" y propiciar "la recuperación posterior del peso perdido, el conocido como ‘efecto rebote’ o ‘efecto yoyó’. La doctora Inka Miñambres, del comité gestor del área de Obesidad de Sociedad Española de Endocrinología y Nutrición (SEEN), coincide en que la pérdida rápida de peso corporal puede tener "efectos secundarios visibles o no visibles", como la pérdida de cabello, riesgo de aparición de déficits nutricionales, pérdida de masa muscular si la estrategia ha sido brusca y sin un adecuado aporte proteico y ejercicio físico, aparición de colgajos cutáneos, etc.".
Cuando las personas se suman a estos retos o compran estas guías y dietas y, como nos explica Júlia Farré, "su cuerpo no empieza a cambiar como prometían los perfiles de redes", llega "la frustración". Además, "creen que no lo han conseguido porque ellos han fallado y el problema no es que hayan fallado ellos, es que ese programa promete resultados que no van a pasar en el 98% de los casos".
Sainz Manceñido señala que el consumo de este tipo de perfiles y sus contenidos puede "fomentar conductas alimentarias poco saludables, como dietas restrictivas o una relación más rígida y negativa con la comida, con consecuencias tanto para nuestra salud física como psicológica". No sabemos que estamos ante una persona que no existe mostrando una transformación que no ha ocurrido nunca. Esto, dice, "puede generar expectativas aún más irreales". Martín-Vivar insiste en que "el mayor riesgo es que los jóvenes normalicen como alcanzables cambios físicos tan radicales en poco tiempo cuando, en realidad, son falsos y están generados por IA".
Según el reglamento de IA de la Unión Europea (en concreto el artículo 50, que entró en vigor en agosto), los contenidos generados con esta tecnología tienen que contener una etiqueta y se debe advertir cuando "genere o manipule imágenes o contenidos de audio o vídeo que constituyan una ultrasuplantación". La ley excluye de su normativa el uso de la IA a título personal, pero en la mayoría de los casos estas cuentas de TikTok buscan monetizar sus publicaciones porque promocionan productos. La Comisión Europea asegura a VerificaRTVE que "los chatbots y otros sistemas de IA interactivos deben informar a los usuarios de que están interactuando con una IA". Además, los "deepfakes deben estar etiquetados, y el contenido generado o alterado por IA debe incorporar marcas legibles por máquina para que pueda detectarse con mayor facilidad", dice el Ejecutivo comunitario: "Estas medidas están destinadas a reducir el engaño y la manipulación y a ayudar a las personas a tomar decisiones informadas".
Fuentes
- Francesc Tarrés, profesor de la Universidad Politécnica de Cataluña y consejero delegado de Ugiat Technologies
- Cristina Saiz Manceñido, psicóloga especializada en baja autoestima y depresión en la adolescencia
- María Martín-Vivar, doctora en psicología clínica y de la salud y presidenta de la Asociación Española de Psicología del Niño y Adolescente (APSNAE)
- Inka Miñambres, comité gestor del área de Obesidad de Sociedad Española de Endocrinología y Nutrición (SEEN)
- Fundación Española de Nutrición (FEN)
- Reglamento (UE) 2024/1689 por el que se establecen normas armonizadas en materia de inteligencia artificial
- La política sobre contenido generado por inteligencia artificial (AIGC)
- Herramientas de detección de IA: Hive Detect, Truth Scan y SynthID
- TikTok
