No son macetas hechas por un joven con síndrome de Down, son vídeos creados con IA
- Falsas influencers creadas con IA para vender productos en TikTok
- Envíanos consultas al 659 800 555 o a verificartve@rtve.es
La dirección de esta página ha sido copiada en su portapapeles
Un perfil de TikTok con miles de seguidores ha estado promocionando la venta de "maceteros hechos a mano" por un joven con síndrome de Down que en realidad no existe. Su imagen y sus vídeos están generados con inteligencia artificial. Todas las grabaciones en las que aparece lo muestran llorando como reclamo para vender productos desde una tienda online, según ha podido contrastar VerificaRTVE.
El perfil Martinmimoplants ha acumulado más de 14.500 seguidores y ha superado los 140.000 'me gusta' con sus vídeos falsos hasta que ha desaparecido de TikTok horas después de que VerificaRTVE preguntara a la red social el 2 de julio sobre esta cuenta. Su publicación con mayor impacto superó las 600.000 visualizaciones.
Un perfil falso en TikTok de un joven con síndrome de Down creado con IA
La cuenta de la red social TikTok se definía con una foto hecha con inteligencia artificial de un joven con síndrome de Down al que presentaba como "Martín". "Hago maceteros hechos a mano", decía el perfil en su biografía, que adjuntaba este enlace a la tienda online Mimoplants.
El comercio digital abría su portada con el mismo selfie falso del joven junto al mensaje "Descubre mis macetas", como puedes observar en la imagen inferior. Tras la investigación de VerificaRTVE, la tienda online ha cambiado el diseño de su página desde el 3 de julio y ha hecho desaparecer la foto creada con IA del joven con síndrome de Down que anunciaba la venta de sus "macetas". Ahora el comercio online vende unas "macetas sonrientes".
La portada de la tienda para móvil y ordenador antes de cambiar su apariencia y su diseño actual a la derecha VerificaRTVE
La tienda online no avisaba de que el joven con síndrome de Down no era real. Como puedes observar en la imagen inferior, tampoco lo avisaba el perfil de Tiktok en su biografía ni en la mayoría de los 14 vídeos que difundió hasta su desaparición en la tarde del 2 de julio. El análisis con las herramientas Google SynthID, TruthScan y Hive confirma que todos los vídeos de este perfil fueron generados de forma artificial.
Google SynthID, Hive y TruthScan confirman que son vídeos creados con IA VerificaRTVE
Once grabaciones difundidas por esa cuenta no mostraban ningún aviso de contenido artificial. Las otras tres indicaban que podían contener contenido creado con IA. Todos los vídeos difundidos por el perfil de TikTok mostraban textos sobreimpresionados que decían que las macetas estaban hechas por el joven generado con IA.
Los trece vídeos protagonizados por personas reflejaban al joven con síndrome de Down llorando o secándose las lágrimas en distintas situaciones. Las secuencias se pueden resumir en tres tipos: una bronca del falso padre que le dice al joven que "nadie" va a comprar sus macetas, el episodio en el que la falsa madre pide que se vean sus grabaciones y una tercera situación en la que 'Martín' exhibe sus macetas en un mercadillo y un potencial cliente se va sin comprarle nada.
Down España denuncia la "falsa caridad" como estrategia de venta
En VerificaRTVE hemos consultado a Down España por esta tienda online y por el perfil de TikTok. La asociación expresa su rechazo por el uso de "la falsa caridad como estrategia de venta o marketing". "Utilizar a personas con síndrome de Down como reclamo, con el agravante de no reflejar una situación real, sino una versión fabricada a través de inteligencia artificial, es incluso ofensivo, teniendo en cuenta la vulnerabilidad asociada a cualquier persona con discapacidad intelectual", subraya Agustín Matía, director gerente de Down España.
"Desde Down España recomendamos a cualquier persona que quiera colaborar que no haga donaciones, compras o aportaciones económicas a organizaciones si no se tiene la seguridad de que existen unos mínimos de fiabilidad o de transparencia en su trabajo", recalca Matía. Advierte de que "ayudar a este tipo de organizaciones de falsa o aparente solidaridad hace más daño que beneficio a una sociedad que quiere optar por la justicia y por la inclusión".
En VerificaRTVE hemos preguntado a TikTok por este perfil que usa la inteligencia artificial en su plataforma para promocionar productos con el falso reclamo de que están hechos por una persona con síndrome de Down que no existe. A fecha de publicación de este artículo, la red social no ha respondido.
FACUA anuncia que denunciará la tienda online y el perfil
Hemos preguntado al portavoz de FACUA-Consumidores en Acción, Rubén Sánchez, y nos asegura que su organización va a denunciar la actuación de esta tienda online y del perfil de TikTok ante las autoridades. También hemos preguntado a la plataforma de comercio electrónico Shopify si va a actuar en relación con esta tienda online que utiliza su sistema, pero la empresa no ha respondido a fecha de publicación de este artículo.
En VerificaRTVE te hemos alertado sobre otros vídeos generados con inteligencia artificial difundidos en redes para hacerte creer que unos falsos "abuelos en apuros" están vendiendo productos hechos a mano. También te hemos avisado sobre el uso de la IA para publicar en redes falsas ofertas laborales o para mostrar influencers que no existen ni se han probado la ropa que anuncian.
