Influencers creadas con IA para vender productos en TikTok y sus riesgos para la salud mental
- Los falsos médicos en TikTok y sus consejos de salud: ni hojas de níspero contra el cáncer, ni patatas para la fiebre
- Envíanos consultas al 659800555 o a verificartve@rtve.es
La dirección de esta página ha sido copiada en su portapapeles
Tres perfiles falsos de mujeres influencers creadas con inteligencia artificial (IA) han estado vendiendo productos de belleza, ropa o suplementos alimenticios a través de vídeos y fotos en la plataforma TikTok Shop sin avisar de que sus protagonistas no son reales y sin etiquetar todos sus contenidos como artificiales. En VerificaRTVE analizamos el impacto de estas cuentas con un abogado especializado en derecho digital y su potencial riesgo para la salud mental de las adolescentes y jóvenes con una psicóloga especializada en baja autoestima.
Perfiles falsos de mujeres jóvenes que no existen, están creadas con IA
Estos tres perfiles de TikTok acumulan más de 68.000 seguidores en total y se presentan como si fueran chicas que promocionan la venta de distintos productos en la plataforma. Aunque dos de los perfiles analizados se definen como 'musa o diva virtual', estas cuentas no avisan en muchos de sus vídeos de que las protagonistas son avatares creados con inteligencia artificial y sus seguidores les responden como si fueran personas reales. Ninguno de los tres casos indica explícitamente en la biografía de su perfil que su protagonista está generada con IA (1, 2 y 3).
Los dos primeros perfiles que analizamos cuentan con alrededor de 30.000 seguidores en TikTok. Promocionan ropa, electrodomésticos de belleza (como rizadoras de pelo o depiladoras láser) o suplementos multivitamínicos. La primera cuenta se centra solo en vídeos y la segunda utiliza tanto vídeos como fotos, pero en ambos casos los contenidos están creados con IA, tal y como demuestra la herramienta Hive Moderation con más de un 98% de fiabilidad en su predicción. Puedes ver los resultados en la imagen inferior.
Capturas del detector de IA Hive Moderation tras el análisis de los perfiles / VerificaRTVE
Algunos vídeos que difunden estos perfiles incluyen la etiqueta AIGC, siglas en inglés que corresponden a contenido generado por inteligencia artificial. Además, recientemente TikTok ha etiquetado alguna de las publicaciones con su propio aviso. El segundo perfil utiliza imágenes de internet que hemos encontrado, gracias a una búsqueda inversa en Google, en redes sociales como Pinterest.
Imagen difundida por uno de los perfiles de TikTok que coincide con una foto de Pinterest / VerificaRTVE
En el caso de la tercera cuenta, que acumula casi 4.000 seguidores, comprobamos que varios usuarios comentan y preguntan en los comentarios de sus vídeos. Desde el perfil responden como si perteneciera a una persona real. También vende ropa disponible en TikTok Shop. En sus publicaciones más recientes aparece la etiqueta "#aigc" en la descripción, pero en las antiguas no. La presencia de esta etiqueta AIGC no impide que muchas usuarias interactúen con el perfil como si hablaran con una mujer real.
Captura de usuarios que comentan a los avatares y las respuestas como si fuera una persona real / VerificaRTVE
¿Qué normas pueden estar infringiendo estos perfiles?
Según nos explica Gerard Espuga, abogado especializado en derecho digital, el responsable del "contenido de imagen o vídeo generado o manipulado por IA que se asemeja a personas" que pueda "inducir a pensar erróneamente que es auténtico o verídico" tiene que "hacer público que el contenido ha sido generado o manipulado artificialmente". La política sobre Contenido Generado por Inteligencia Artificial (AIGC) de TikTok obliga a los creadores a "comunicar con claridad cualquier uso que hagan de la IA en su contenido para fomentar la transparencia y la confianza entre los usuarios".
TikTok anula los enlaces de venta de estas falsas influencers
A raíz de esta investigación de VerificaRTVE, TikTok ha anulado los enlaces de venta en TikTok Shop publicados por estas tres falsas influencers creadas con inteligencia artificial. Tras preguntar a la plataforma por qué estos perfiles que venden productos publican vídeos y fotos hechos con IA sin etiquetarlos como tales, la plataforma nos dice que aquellos "vídeos que no estaban etiquetados como generados por IA han sido etiquetados de acuerdo con las directrices de TikTok sobre la IA". Después de la respuesta de TikTok, hemos observado varios vídeos hechos con IA que continúan sin estar etiquetados como contenido artificial en esos tres perfiles (1, 2, 3, 4, 5, 6, 7 y 8).
El abogado Gerard Espuga explica a VerificaRTVE que también hay algunas cuentas que utilizan fotos de gente real que cogen de Internet. En este caso, asegura, confluyen tres planos: "posible vulneración de derechos de imagen y protección de datos de la persona original, publicidad potencialmente engañosa y falta de identificación clara del carácter sintético del perfil". Además, encontramos un vídeo de un "antes y después" de la "piel" del avatar tras aplicarse un kit de cuidado facial coreano que aparece enlazado para su compra. Según la política de contenido de TikTok Shop, el "contenido del antes y el después modificado mediante IA que exagera los resultados" va en contra de la política de la plataforma.
Espuga explica que, en perfiles donde a veces encontramos alguna etiqueta de IA, "existe cierto grado de transparencia, pero puede ser insuficiente si el perfil en su conjunto se presenta como una persona real, si la biografía no aclara la naturaleza virtual del personaje o si hay vídeos antiguos sin identificación".
¿Crear o utilizar avatares de IA para vender productos puede ser ilegal?
TikTok advierte de que es mejor evitar "crear contenido utilizando avatares digitales que se parezcan a seres humanos reales". Gerard Espuga señala que "crear un avatar de IA hiperrealista no es ilícito por sí mismo". Explica que "la ilicitud no deriva de que el personaje sea artificial, sino de cómo se presenta, qué afirma, qué vende y si induce a error al público". Por ejemplo, "si el avatar afirma o sugiere ‘yo lo he probado’, ‘me funciona’, ‘lo uso en el gimnasio’, o fórmulas equivalentes cuando, en realidad, no existe una experiencia humana verificable detrás".
En resumen, si el contenido generado por IA "combina tres elementos: avatar hiperrealista, falta de aviso claro sobre el uso de IA y recomendación comercial remunerada", indica Espuga, "puede existir un doble problema: publicidad no suficientemente identificada y posible engaño sobre la naturaleza del prescriptor". "No es lo mismo que el consumidor sepa que está viendo una creatividad publicitaria con un personaje virtual que creer que una persona real está contando su experiencia genuina", añade. La organización de consumidores FACUA asegura a VerificaRTVE que "se le podrán exigir responsabilidades a quien precisamente haga uso de esa imagen virtual, ya haga uso una persona física o una persona jurídica".
Un riesgo para la salud mental de adolescentes y jóvenes
"El principal problema de los avatares hiperrealistas de IA es que eliminan la imperfección", nos explica la psicóloga especializada en baja autoestima y depresión en la adolescencia Cristina Sainz. Sostiene que una influencer real, a pesar de los retoques, puede tener imperfecciones, la IA no, y alerta de que "intentar emular a una IA es un billete directo a la frustración crónica y a mayores problemas de salud mental". Sainz señala que la IA tiene la capacidad de diluir las barreras. Cuando antes veíamos una modelo de revista, "el cerebro activaba una ‘tregua’" pensando que "está retocada", pero, "con los avatares de IA que simulan cotidianidad, el cerebro procesa el estímulo como un igual, no como un anuncio publicitario".
Estos avatares "moldean" las mentes de los adolescentes y la exposición continuada a estos cuerpos "perfectos" acaba alterando lo que una joven considera "normal", destaca Sainz. "Al mirarse al espejo, su propio cuerpo, que es sano y real, empieza a ser percibido como defectuoso, aumentando los índices de ansiedad, depresión y conductas de riesgo asociadas a Trastornos de la Conducta Alimentaria (TCA)", añade.
Según nos explica esta psicóloga, "históricamente, el cuerpo de la mujer ha sido el principal objeto de consumo y el vehículo comercial más rentable". Estos perfiles cumplen "una doble función comercial: atraer la atención masculina y activar el deseo de emulación femenina". Señala que estos avatares están replicando "un estereotipo rentable y patriarcal" que "activa los circuitos de dopamina más rápidos en los usuarios".
*Sara García Lamelas es alumna del Máster Universitario en Documental y Reportaje Transmedia de la UC3M. Este artículo ha sido revisado por el redactor Borja Díaz-Merry y por Blanca Bayo y Estefanía de Antonio, responsables de VerificaRTVE.
