Cambios físicos que no existen: la peligrosa tendencia de perfiles de IA en TikTok que venden guías para adelgazar
La dirección de esta página ha sido copiada en su portapapeles
Perfiles de TikTok de falsas influencers generadas con inteligencia artificial (IA) enseñan los "cambios de sus cuerpos" y promocionan aplicaciones, rutinas y guías para "lograr ese físico". Ninguna de estas cuentas avisa de que las protagonistas y sus cambios físicos no existen porque no son personas reales: están creadas con IA. En VerificaRTVE hemos investigado una decena de cuentas y las hemos analizado con expertos para conocer las n
Creadas con IA: estas cinco mujeres no existen
En VerificaRTVE hemos investigado una decena de cuentas de TikTok y hemos centrado el análisis en las cinco que acumulaban más de 180.000 seguidores. Todas tienen el avatar de mujeres en sus perfiles que relatan su "increíble cambio físico" tras seguir la rutina de las aplicaciones o guías que ellas mismas promocionan. que promocionan o de sus propias guías. Para poder acceder a los contenidos de esas aplicaciones, es necesario realizar compras una vez que se descargan. Con las guías es similar, hay que comprarlas directamente desde un portal de venta.
Estas cuentas no avisan de que las protagonistas de sus vídeos son avatares creados con inteligencia artificial y sus seguidores mantienen conversaciones con ellas como si fueran personas reales. Comentarios a los que los perfiles responden recomendándoles de nuevo las plataformas y guías. Ninguno de los casos analizados señala explícitamente en la biografía de su perfil o en el contenido de sus vídeos que están creados con IA (1, 2, 3, 4 y 5), pese a que la política sobre contenido generado por inteligencia artificial (AIGC) de TikTok obliga a los creadores a "comunicar con claridad cualquier uso que hagan de la IA en su contenido para fomentar la transparencia y la confianza entre los usuarios". Tras consultar a TikTok por estos perfiles, han declarado que han "suspendido todas las cuentas por incumplir nuestras Normas de la Comunidad". Hemos comprobado que desde el día 11 de septiembre ya no están disponibles.
Las herramientas de detección de inteligencia artificial concluyen que estos cinco perfiles están creados con esta tecnología. Hive Moderation y Truth Scan lo determinan con un 99%, 92% y 80% de fiabilidad en su predicción y, por su parte, Google SynthID señala que los vídeos analizados de dos de estos cinco perfiles están creados con la IA de Google. Puedes ver los resultados en la imagen inferior.
Resultado de las herramientas de detección de inteligencia artificial VerificaRTVE
Observando las cuentas, vemos que siguen el mismo patrón. Cada protagonista usa prendas de vestir muy parecidas y con los mismos colores en todos sus vídeos, tanto en el "antes" de la pérdida de peso como en el "después". Al igual que los movimientos, replican los escenarios de un perfil a otro: habitaciones, baños, cocinas, vestuarios de gimnasios o salas de estar. Vemos las mismas estancias en todos los perfiles, solo cambian el color de los muebles, o de las paredes, la posición de un cuadro u otro elemento. Puedes ver un ejemplo de dos vídeos de dos perfiles diferentes en la imagen inferior.
Francesc Tarrés, profesor de la Universidad Politécnica de Cataluña y consejero delegado de Ugiat Technologies, nos explica que "utilizan escenarios de referencia: baño, espejo, armario, TV, etc., para dar credibilidad al escenario y al perfil". Otro elemento que se repite son los gestos, porque todas realizan exactamente las mismas poses. Tarrés señala que "la repetición del mismo esquema en todos ellos es muy sospechosa" y debe hacernos desconfiar. "Estos elementos coincidentes, como el entorno o la ropa y los complementos, señalan que se han usado las mismas herramientas de IA para generar esos vídeos". Puedes comprobarlo también en las imágenes inferiores.
La creadora de contenido deportivo Amanda Risdal denunció en su cuenta de TikTok que algunos perfiles habían "robado sus vídeos" y les habían "superpuesto IA". En el vídeo muestra una comparativa de grabaciones reales de su perfil y publicaciones de avatares de IA que replican su casa y sus movimientos. En VerificaRTVE hemos comprobado que este "robo de contenido" se reproduce en esta red social con el mismo modus operandi: alteración de imágenes de mujeres reales que enseñan sus cambios físicos.
Mujeres jóvenes: las protagonistas de estos perfiles
Además de la investigación de forma exhaustiva de estas cinco cuentas, hemos recopilado información de decenas de perfiles generados con IA con características similares y la mayoría son mujeres jóvenes (1, 2, 3, 4 y 5). Cristina Saiz Manceñido, psicóloga especializada en baja autoestima y depresión en la adolescencia, explica que las mujeres han estado "históricamente mucho más sometidas a una valoración social basada en su apariencia". Los cánones de belleza femeninos han sido "especialmente rígidos y cambiantes, lo que genera una presión mayor", y las redes sociales "no han creado esa presión, pero sí la han multiplicado y la han hecho mucho más constante".
Si nos fijamos bien en las publicaciones, en la parte que muestra el "antes" de la pérdida de peso, las mujeres también aparecen con acné, aspecto descuidado o muestran signos de sudor, al tiempo que se encuentran en habitaciones desordenadas o sucias. En cambio, en el "después", no hay acné, lucen un pelo cuidado y brillante y el escenario que las rodeaba está perfectamente limpio y ordenado.
María Martín-Vivar, doctora en psicología clínica y de la salud y presidenta de la Asociación Española de Psicología del Niño y Adolescente (APSNAE), destaca a VerificaRTVE que "el mensaje que tratan de transmitir es que cambiar la apariencia equivale a arreglar la vida entera. Esto genera un anhelo y una ilusión que en psicología conocemos como control compensatorio". Estos vídeos, como explica la presidenta de APSNAE, "insisten en que es posible, mediante el cambio en el peso corporal, controlar otras dimensiones y áreas de la vida para conseguir un mayor éxito y felicidad", lo que puede "reforzar la idea de que el valor personal depende del aspecto físico".
Dos excepciones: el perfil de una mujer de mediana edad y de un hombre joven
Aunque la mayoría de los perfiles y sus avatares son mujeres jóvenes, hemos encontrado dos cuentas distintas: la de una mujer de mediana edad y la de un hombre joven. También han sido generados con inteligencia artificial, y las herramientas lo detectan. Saiz Manceñido señala que la presión por adaptar el cuerpo no desaparece con la edad, simplemente cambia de forma. "En jóvenes puede centrarse en la delgadez o determinadas proporciones corporales, y más adelante se añade la presión por conservar un aspecto joven, evitar el aumento de peso y ocultar los signos del envejecimiento".
Resultado de las herramientas de detección de inteligencia artificial VerificaRTVE
En el caso de los hombres, el problema también existe, "mientras que en las mujeres predomina la presión hacia la delgadez, en hombres aparece con frecuencia el ideal de un cuerpo muy musculado y definido", nos dice Saiz Manceñido. "El problema es la presión por adaptar el cuerpo a un ideal que se presenta constantemente como el único deseable".
Consecuencias para la salud física y mental
Hemos analizado las aplicaciones y los retos que proponen los perfiles creados con IA y coinciden en "llevar una única dieta, beber alcohol, hacer deporte todos los días y beber más de dos litros de agua diarios". Todos bajo los lemas "conviértete en ella" y "conviértete en esa chica".
Júlia Farré, dietista-nutricionista y directora del Centro Julia Farré, en declaraciones a VerificaRTVE, sostiene que "los retos de cambios físicos han existido siempre" y que "hacen mucho daño porque enganchan, porque te hacen experimentar la sensación de comunidad al sumarte al reto". Aquí encontramos el primer problema, las personas que se suman al desafío ven todos estos vídeos y piensan: "Si ellos pueden, ¿por qué yo no?", pero "estas personas no existen". Farré explica que el riesgo reside en que son guías generalizadas que "no tienen en cuenta la edad, el peso o si tienes alguna enfermedad". Las personas que estén detrás de estos perfiles, indica la dietista-nutricionista, "probablemente pertenezcan al marketing y no habrá nadie del ámbito de la salud detrás, por lo tanto es peligrosísimo".
Capturas de pantalla de los comentarios a los vídeos de los perfiles de las chicas generadas con IA VerificaRTVE
Estos retos implican restricciones alimentarias importantes, objetivos poco realistas, ejercicio excesivo o cambios drásticos de los hábitos. La Fundación Española de Nutrición (FEN) señala que "puede favorecer conductas poco saludables y difíciles de mantener a largo plazo" y propiciar "la recuperación posterior del peso perdido, el conocido como ‘efecto rebote’ o ‘efecto yoyó’. La doctora Inka Miñambres, del comité gestor del área de Obesidad de Sociedad Española de Endocrinología y Nutrición (SEEN), coincide en que la pérdida rápida de peso corporal puede tener "efectos secundarios visibles o no visibles", como la pérdida de cabello, riesgo de aparición de déficits nutricionales, pérdida de masa muscular si la estrategia ha sido brusca y sin un adecuado aporte proteico y ejercicio físico, aparición de colgajos cutáneos, etc.".
Cuando las personas se suman a estos retos o compran estas guías y dietas y, como nos explica Júlia Farré, "su cuerpo no empieza a cambiar como prometían los perfiles de redes", llega "la frustración". Además, "creen que no lo han conseguido porque ellos han fallado y el problema no es que hayan fallado ellos, es que ese programa promete resultados que no van a pasar en el 98% de los casos".
Sainz Manceñido señala que el consumo de este tipo de perfiles y sus contenidos puede "fomentar conductas alimentarias poco saludables, como dietas restrictivas o una relación más rígida y negativa con la comida, con consecuencias tanto para nuestra salud física como psicológica". No sabemos que estamos ante una persona que no existe mostrando una transformación que no ha ocurrido nunca. Esto, dice, "puede generar expectativas aún más irreales". Martín-Vivar insiste en que "el mayor riesgo es que los jóvenes normalicen como alcanzables cambios físicos tan radicales en poco tiempo cuando, en realidad, son falsos y están generados por IA".
Según el reglamento de IA de la Unión Europea (en concreto el artículo 50, que entró en vigor en agosto), los contenidos generados con esta tecnología tienen que contener una etiqueta y se debe advertir cuando "genere o manipule imágenes o contenidos de audio o vídeo que constituyan una ultrasuplantación". La ley excluye de su normativa el uso de la IA a título personal, pero en la mayoría de los casos estas cuentas de TikTok buscan monetizar sus publicaciones porque promocionan productos. La Comisión Europea asegura a VerificaRTVE que "los chatbots y otros sistemas de IA interactivos deben informar a los usuarios de que están interactuando con una IA". Además, los "deepfakes deben estar etiquetados, y el contenido generado o alterado por IA debe incorporar marcas legibles por máquina para que pueda detectarse con mayor facilidad", dice el Ejecutivo comunitario: "Estas medidas están destinadas a reducir el engaño y la manipulación y a ayudar a las personas a tomar decisiones informadas".
Fuentes
- Francesc Tarrés, profesor de la Universidad Politécnica de Cataluña y consejero delegado de Ugiat Technologies
- Cristina Saiz Manceñido, psicóloga especializada en baja autoestima y depresión en la adolescencia
- María Martín-Vivar, doctora en psicología clínica y de la salud y presidenta de la Asociación Española de Psicología del Niño y Adolescente (APSNAE)
- Inka Miñambres, comité gestor del área de Obesidad de Sociedad Española de Endocrinología y Nutrición (SEEN)
- Fundación Española de Nutrición (FEN)
- Reglamento (UE) 2024/1689 por el que se establecen normas armonizadas en materia de inteligencia artificial
- La política sobre contenido generado por inteligencia artificial (AIGC)
- Herramientas de detección de IA: Hive Detect, Truth Scan y SynthID
- TikTok
