El Gobierno pide a la Fiscalía investigar la inteligencia artificial de X por posible pornografía infantil
- El Ministerio de Juventud e Infancia sostiene que la IA habría generado contenidos de violencia sexual contra menores
- La ministra Sira Rego busca frenar estas prácticas que considera una grave vulneración de los derechos de la infancia
La dirección de esta página ha sido copiada en su portapapeles
La ministra de Juventud e Infancia, Sira Rego, ha remitido un escrito a la Fiscalía General del Estado para solicitar que investigue a la inteligencia artificial de X (antes Twitter) por presuntos delitos de difusión de material de violencia sexual contra la infancia, según ha podido confirmar RTVE.es.
Desde el ministerio, arguyen a que "tal y como han reportado diferentes medios de comunicación, Grok (la Inteligencia Artificial de X) habría generado, a petición de usuarios, material de violencia sexual contra menores de edad, una práctica que no puede entenderse como un uso neutro de la tecnología y que podría suponer un delito de pornografía infantil, tal y como está recogido en el Artículo 189 del Código Penal, así como un delito contra la integridad moral (Artículo 173 del Código Penal). Se trata de prácticas que vulneran gravemente la dignidad, la intimidad y los derechos fundamentales de niñas, niños y adolescentes en el entorno digital".
La ministra Rego también alude, en el comunicado enviado desde su ministerio, a la sentencia del Juzgado de Menores de Badajoz 86/2024, de 20 de junio, por la cual se condenó a varias personas por la utilización de la IA para manipular imágenes de niñas y adolescentes. Dicha resolución reconoce estas prácticas como una forma de violencia digital, tipificada como delito de pornografía infantil y contra la integridad moral, tal y como se expone en el documento remitido a la Fiscalía.
Para la ministra Rego, “estamos ante una vulneración de derechos fundamentales”, y subraya que “es imprescindible que la Fiscalía analice estos hechos gravísimos e impulse las actuaciones necesarias para garantizar la protección de la infancia también en internet”, poniendo freno a prácticas que atentan contra su dignidad y su desarrollo libre y seguro en el espacio digital.
Precedente francés
El Gobierno francés anunció la semana pasada una denuncia ante la Justicia contra la misma inteligencia generativa de la red social X, propiedad de Elon Musk. El motivo, similar, aunque no solo vinculado a la infancia, está vinculado a la creación y difusión de "contenidos de carácter sexista y sexual manifiestamente ilegal".
La causa principal, según el comunicado del Ejecutivo, era que "estos últimos días" Grok ha permitido generar y difundir "contenidos de carácter sexista y sexual, en particular en forma de vídeos falsos, conocidos como deepfakes (falsificaciones realistas), con personas sin su consentimiento".
El Gobierno francés al igual que el español se refieren aquí a la avalancha de vídeos e imágenes, desde finales de diciembre, de usuarios de X que le pedían a su IA que generara imágenes de mujeres desnudas sin su consentimiento y con una difusión pública y masiva.
Grok lo reconoce
Y más madera. El propio Grok reconoció a comienzos de año que se habían publicado en su plataforma imágenes sexualizadas de menores usando su tecnología, según EFE. El mensaje se produjo después de denuncias sobre que algunos suscriptores de X Premium están utilizando esta IA para generar imágenes no consensuadas de personas, en su mayoría mujeres, en bikini o ropa interior, una inquietante tendencia muy constante en el timeline de esta red social que ha llevado a usuarios de todo el mundo a pedir una mayor restricción de la herramienta y la eliminación del contenido generado.
Grok ha admitido que esta práctica se trata de un delito y ha afirmado que trabaja para afrontarlo, ya que puede afrontar un castigo en Estados Unidos si no toma medidas. Según indica la IA de X, han "identificado lapsos en las salvaguardas" para "arreglarlos urgentemente" y añade que xAI, su empresa desarrolladora, está "comprometida con evitar estos problemas".
En otra respuesta, señala que bajo la legislación federal estadounidense y otras normas, "una empresa puede afrontar penas criminales o civiles si facilita, con conocimiento de causa, o no evita el CSAM (material de abuso sexual infantil) generado con IA después de ser alertada".
