Reglamento sobre IA de la UE: ¿cuándo es obligatorio advertir sobre su uso y quién debe hacerlo?
La dirección de esta página ha sido copiada en su portapapeles
La Unión Europea aprobó en 2024 su Reglamento sobre inteligencia artificial, pero hasta el 2 de agosto no entró en vigor el artículo 50, el que delimita cómo se etiquetan los contenidos generados con IA y cuándo hay que advertir al público de ello. Esta norma irrumpe en medio de un debate sobre cómo debe regularse la IA y cuáles son los límites éticos de su uso. La Comisión Europea expone los argumentos que justifican esta nueva regulación y en VerificaRTVE la analizamos con expertos en la materia.
Los límites éticos: ¿qué se debe regular?
Javier Álvarez es abogado e investigador del Centro de IA de la Universidad de Valladolid y, a su juicio, "cuanto mayor sea la capacidad de una IA para influir en una persona o afectar a sus derechos, mayores deben ser también las garantías, la supervisión humana y la responsabilidad de quien la utiliza". "No deberíamos utilizarla para engañar, manipular, discriminar, suplantar a otras personas o condicionar decisiones sin que el afectado pueda saber qué está ocurriendo", añade. Y algunos ámbitos son especialmente delicados porque "lo que está en juego son los derechos de las personas" y "no es lo mismo utilizar IA para recomendarnos una película que utilizarla para decidir si una persona obtiene un empleo o tiene acceso a un determinado servicio".
A todo ello se unen otros riesgos como la privacidad. "Muchos sistemas de IA funcionan gracias a cantidades enormes de datos" y no se puede aceptar, según este experto de la Universidad de Valladolid, que se utilice para ello "información personal". "Y luego están la transparencia y la responsabilidad", subraya, "tenemos que saber cuándo estamos hablando con una máquina o cuando una imagen, una voz o un vídeo han sido creados o manipulados artificialmente". En este último aspecto se centra el principal cambio en la legislación europea.
La ley obliga a advertir sobre los contenidos ultrafalsos o 'deepfakes'
La normativa de la UE prevé que las empresas que desarrollen sistemas de IA generativa (audio, imagen, vídeo o texto) etiqueten cualquier contenido generado o manipulado con su herramienta para que posteriormente se pueda detectar. "Esto se conoce como marcado técnico encubierto (legible por máquina)", explica a VerificaRTVE la investigadora del CSIC Sara Degli Esposti, y funciona con "marcas de agua digitales imperceptibles". Pero estas empresas pueden poner de forma opcional avisos visibles, según asegura a VerificaRTVE la Comisión Europea.
Sin embargo, esto no quiere decir que los usuarios vean siempre una advertencia de que el contenido ha sido generado por IA. La ley no obliga a ello, "a menos que se trate de deepfakes", montajes ultrafalsos, señala Sara Degli. "Quienes desplieguen contenidos de imagen, audio o vídeo que representen de forma realista personas, objetos o lugares reales (deepfakes) deben indicar de forma visible y clara que han sido manipulados o generados artificialmente", añade, tal y como aparece en el artículo 50.4.
- Es el caso de algunos contenidos ultrafalsos que hemos desmentido en VerificaRTVE y que suplantan a profesionales de RTVE y a otros personajes famosos para vender plataformas de inversión (1, 2 y 3). También suplantaron con IA la voz de un narrador argentino durante el Mundial 2026 para atribuirle un comentario racista que no había pronunciado. Otro caso de ‘deepfake’ es este vídeo de Pedro Sánchez anunciando el servicio militar obligatorio.
Vídeo generado con IA que suplanta a RTVE para vender un proyecto financiero. VerificaRTVE
"Aquí sí se requiere un aviso explícito para el espectador humano (carteles, avisos o insignias superpuestos)", dice Degli, pero si hablamos de expresiones artísticas, satíricas o paródicas "basta con una mención adecuada que no arruine la obra".
- Entrarían en esta categoría de contenidos de parodia, por ejemplo, el vídeo del futbolista Erling Haaland engullendo comida o el de Donald Trump anunciando la cancelación del mes del Orgullo, cuyo origen se encuentra en una cuenta satírica.
Ejemplos de 'deepfakes' que suplantan a Erling Haaland o Donald Trump. VerificaRTVE
No hay que advertir cuando se use la IA "a título personal"
La ley, en su artículo 2, también excluye a las personas físicas que utilicen "un sistema de IA a título personal". Por ejemplo, "si alguien crea una imagen con IA y la comparte en sus redes sociales a título particular", dice Javier Álvarez, no estaría obligada a advertirlo según este texto. Pero si esa persona obtiene un beneficio económico, sí se considera una actividad profesional y tiene que identificar cuándo es IA y cuándo no.
En ese grupo entran "empresas, creadores de contenido profesionales, agencias de marketing, influencers, medios de comunicación y entidades públicas", dice Degli. "Lo mismo pasa con las cuentas que monetizan sus contenidos en redes sociales o que trabajan para un medio.
- En VerificaRTVE te hemos advertido sobre perfiles de redes sociales de falsas influencers generadas con IA para monetizar los contenidos mediante la venta de productos (1 y 2) o la suscripción a otras plataformas (1 y 2).
Falsas 'influencers' generadas con IA que venden productos en TikTok. VerificaRTVE
¿Y con los partidos políticos? "Imaginemos que durante una campaña se difunde un vídeo creado con IA en el que aparentemente un candidato dice algo que nunca ha dicho. Si ese vídeo tiene apariencia de autenticidad, estaríamos ante un deepfake y debería advertirse claramente que ha sido generado o manipulado mediante IA", indica Javier Álvarez.
- Políticos como el presidente de Estados Unidos, Donald Trump, han hecho de la inteligencia artificial (IA) un elemento más de su comunicación. En España, cargos públicos han difundido contenidos generados con IA como si fueran reales, aunque en algunos casos los han eliminado posteriormente (1 y 2).
La Comisión Europea sostiene en declaraciones a VerificaRTVE que "estas medidas están destinadas a reducir el engaño y la manipulación y a ayudar a las personas a tomar decisiones informadas". Según el Ejecutivo comunitario, "la obligación de etiquetado para los usuarios profesionales está pensada para ayudar a las personas a reconocer las formas más engañosas de desinformación generada por IA mediante una señal de advertencia que sea clara e inmediatamente distinguible para ellas".
Advertencias sobre textos generados por IA
Los chatbots y otros sistemas de IA interactivos también "deben informar a los usuarios de que están interactuando con una IA y no con una persona", explica la Comisión Europea. Además, si una cuenta profesional publica "textos generados por IA destinados a informar al público también debe advertirlo, salvo que el contenido haya pasado por un proceso de revisión humana o de control editorial", dice Sara Degli-Esposti. Así aparece en el artículo 50.4 de la ley.
Por tanto, explica Javier Álvarez "no debemos fijarnos únicamente en si alguien publica desde una cuenta personal, profesional o institucional", sino que lo importante "es el contexto en el que se está utilizando la IA y el tipo de contenido que se está difundiendo".
La Comisión Europea ha desarrollado un conjunto de iconos para que los "usuarios profesionales" puedan cumplir con esa obligación de etiquetado. Su uso es "opcional" y estos usuarios "tienen libertad para utilizar sus propios iconos", adaptándose al idioma nacional.
Logotipos de advertencia de IA recomendados por la Unión Europea VerificaRTVE
La responsabilidad de las plataformas: identificar la IA en el 'feed' (muro)
La Ley de IA no pone obligaciones a las plataformas o a las redes sociales, pero sí la Ley de Servicios Digitales (DSA, por sus siglas en inglés), según Sara Degli. Las grandes plataformas y los motores de búsqueda están obligados a "evaluar y mitigar" los riesgos derivados de "contenidos sintéticos y desinformación electoral", dice la experta del CSIC. En la práctica les obliga a "mostrar etiquetas de 'Generado con IA' en sus feeds (muro)". Hay que tener en cuenta, dice la experta del CSIC, que "las grandes plataformas" como X, TikTok o Instagram "suelen imponer el etiquetado en sus propios términos de servicio".
Advertencias de IA que aparecen en Instagram, Facebook y TikTok. VerificaRTVE
"Una cosa es que algo haya sido creado con IA y otra muy distinta que sea ilegal", nos aclara Javier Álvarez. "El problema aparece cuando utilizamos esa tecnología para hacer algo que sí está prohibido", como una "estafa", o una vulneración del honor o de la imagen de una persona. Entonces las plataformas sí estarían obligadas a "retirar el contenido".
¿Qué sanciones hay para quienes incumplan la normativa?
El cumplimiento de las normas correrá a cargo de las autoridades nacionales. En España se encarga la Agencia Española de Supervisión de la Inteligencia Artificial (AESIA), explica Sara Degli. Por otra parte, se está tramitando el Proyecto de Ley Orgánica para el buen uso y la gobernanza de la inteligencia artificial. El Consejo de Ministros lo aprobó en mayo y lo envió al Congreso. "Hasta que no concluya la tramitación de la ley nacional que fije el procedimiento administrativo sancionador y el reparto competencial definitivo, las autoridades se centran en requerimientos de cese y adecuación antes de imponer sanciones dinerarias directas", dice Sara Degli.
Sin embargo, puntualiza, "la AESIA ya puede actuar de oficio o mediante denuncias como autoridad de vigilancia de mercado, requiriendo información, emitiendo apercibimientos y ordenando medidas correctoras". Si una empresa se salta estas obligaciones, la legislación europea prevé multas de hasta 15 millones de euros o del 3% del volumen de negocios. Son sanciones para quienes ejerzan actividades profesionales, las reguladas por la Ley de IA de la UE, pero Javier Álvarez aclara que como persona física también te pueden sancionar por otras leyes, como por vulnerar el derecho al honor o por tratamiento de datos.
Este experto de la Universidad de Valladolid advierte de que "un mismo contenido creado con inteligencia artificial puede tener consecuencias jurídicas por diferentes vías". Por ejemplo, un deepfake "puede afectar a la protección de datos, al honor o a la propia imagen, a la legislación electoral, a la propiedad intelectual, a los derechos de los consumidores o incluso tener consecuencias penales". "Por eso", dice este experto, "aunque la IA sea una tecnología nueva, muchos de los problemas jurídicos que plantea no lo son tanto". "La IA nos obliga a adaptar las reglas, pero no convierte Internet en un espacio en el que todo vale", indica.
Fuentes
- Reglamento (UE) 2024/1689
- Comisión Europea
- Javier Álvarez, abogado e investigador del Centro de IA de la Universidad de Valladolid
- Sara Degli Esposti, investigadora del CSIC
- Proyecto de Ley Orgánica para el buen uso y la gobernanza de la inteligencia artificial
