Las técnicas para construir 'deepfakes' avanzan más rápido que los métodos de autenticación de imágenes y audio
La dirección de esta página ha sido copiada en su portapapeles
Actualmente aún hay importantes limitaciones técnicas y metodológicas para detectar imágenes o audios manipulados o sintéticos. Es una de las conclusiones del estudio 'El estado del arte en la detección de Fake News" publicado por Ricardo Asensi González y Manuel Jesús Gómez Zotano, integrantes del departamento del área de sistemas e innovación de la Corporación RTVE.
Este informe, que estudia y clasifica las distintas técnicas y herramientas para detecar noticias falsas, asegura que "las técnicas de síntesis evolucionan más rápido que los métodos de autenticación" y, por lo tanto, "hay dificultad para establecer sistemas de detección durareros". Asensi y Zotano aseguran que los modelos generativos cada vez son más sofisticados y hay falsificaciones de imágenes o audios muy realistas, con una gran sincronización del audio artificial con el movimiento facial, por lo que aumenta la dificultad de distinguir voces falsas.
El estudio clasifica distintas técnicas de manipulación de contenido audiovisual
El problema que generan las 'deep fakes' y su autentificación no está resuelto y queda una gran tarea por delante. Los autores del trabajo proponen "estudiar con más detalle la incorporación de una marca de agua o metadatos de identificación (C2PA) que permitan embeber credenciales de contenido a archivos digitales audiovisuales producidos y emitidos por RTVE". Además, sugiere que la Corporación RTVE se incorpore a redes internacionales dedicadas a la lucha contra la desinformación, como EFCSN (European Fact-Checking Standars Network) y IFCN (International Fact-Cheking Network), dado que este estudio ha detectado que actualmente RTVE no forma parte de dichas organizaciones.
La Corporación RTVE cuenta con varias cátedras sobre IA
Además de ser director de sistemas e innovación de RTVE, Manuel Jesús Gómez Zotano forma parte de tres cátedras de la Corporación: la cátedra RTVE-Universidad Carlos III de Madrid sobre 'Análisis automático de información en redes sociales para contenidos informativos', la cátedra RTVE-Universidad de Zaragoza sobre "el desarrollo de Big data para contenidos audiovisuales", y la cátedra RTVE-Granada sobre "síntesis profunda del habla e IA Conversacional y sus aplicaciones en la verificación de noticias".
