No es un "policía musulmán" rezando en un andén de metro, es un vídeo de IA generado con Sora
La dirección de esta página ha sido copiada en su portapapeles
En redes sociales difunden una grabación de un hombre uniformado arrodillado sobre una alfombra en un andén de metro y la presentan como si mostrara a un "policía musulmán" rezando mientras está de servicio. Es falso. Se trata de un vídeo generado con inteligencia artificial (IA) a través del modelo Sora.
"Un policía musulmán hace sus oraciones durante el servicio y en uniforme. ¿Es aceptable?", leemos en un mensaje de X compartido más de 2.000 veces desde el 20 de octubre. El texto adjunta una grabación de 13 segundos que muestra un grupo de agentes de policía en un andén de metro rodeados de gente. A continuación, uno de ellos se arrodilla sobre una alfombra, agacha la cabeza y besa el suelo.
No es una grabación real, es IA. A través de una búsqueda inversa de imagen, localizamos el vídeo original en una publicación de Facebook en francés. Hemos comprobado que esta cuenta suele compartir contenidos generados con inteligencia artificial. En VerificaRTVE hemos analizado el vídeo que circula en redes sociales con la herramienta de detección de IA Decopy.AI y la plataforma concluye que se trata de un contenido generado mediante esta tecnología con un 99% de confianza en la predicción. Puedes comprobarlo en la siguiente imagen.
Resultado de la herramienta de Decopy.AI VerificaRTVE
La marca de agua de Sora ha sido pixelada en la grabación para ocultar su origen. Las imágenes presentan varios rectángulos en blanco pixelados que van cambiando de posición. Estos corresponden a la marca de agua presente en las publicaciones generadas por Sora que aparece en estas grabaciones y cambia de posición de manera intermitente para que los usuarios puedan identificar la procedencia del contenido. A continuación, puedes observar tres fragmentos del vídeo en los que la marca de agua ha sido pixelada.
Tres fragmentos del vídeo con la marca de agua de Sora pixelada VerificaRTVE
¿Cómo puedes detectar un vídeo generado con Sora?
Sora 2 es un nuevo modelo de inteligencia artificial cuyos contenidos se generan a través de la red social homónima, que incentiva la creación de vídeos con IA. En VerificaRTVE ya te explicamos que Sora anima a los usuarios a crear deepfakes de ellos mismos. Aunque se presenta como un entorno seguro que ofrece más medidas de seguridad en comparación con otras herramientas, estas no siempre son suficientes para garantizar un uso correcto de sus funciones y en ocasiones resulta difícil detectar los contenidos generados por este modelo.
Pon atención a la marca de agua y otras imperfecciones. Como hemos mencionado anteriormente, una de las características de los vídeos generados con la IA de Sora es la presencia de una marca de agua en las publicaciones que genera, como puedes ver en estos ejemplos. Este sello en el que se lee el logo y el nombre de la herramienta aparece a lo largo de todas las grabaciones y cambia de posición de forma constante, por lo que es recomendable poner atención a rótulos emergentes. Salvador Semper, analista informático forense del Observatorio Español de Delitos Informáticos (OEDI), aseguró a VerificaRTVE que los ojos siguen siendo "una constante" a la hora de buscar pistas para detectar si un vídeo es falso, aunque reconoce que cada vez es más difícil determinar estos fallos. En este artículo también puedes encontrar otros consejos que ayudan a detectar contenidos generados por IA, como pueden ser las manos imposibles o los fallos en el entorno.
