California investiga a la empresa de IA generativa de Elon Musk por crear imágenes sexualizadas
- Proliferan los informes sobre material sexualmente explícito no consensuado producido con Grok, el chatbot de la empresa
- El material, que muestra a mujeres y niños desnudos, se ha utilizado para "acosar a personas en internet"
La dirección de esta página ha sido copiada en su portapapeles
El fiscal general de California, Rob Bonta, ha abierto este miércoles una investigación contra xAI, la empresa de inteligencia artificial del magnate Elon Musk, por la proliferación de material sexualmente explícito no consensuado producido con Grok, el chatbot de la empresa.
"La avalancha de informes que detallan el material sexualmente explícito y no consensuado que xAI ha producido y publicado en línea en las últimas semanas es impactante. Este material, que muestra a mujeres y niños desnudos y en situaciones sexualmente explícitas, se ha utilizado para acosar a personas en internet", informa la fiscalía en un comunicado.
Sin conocimiento ni consentimiento
La investigación tiene lugar tras los numerosos reportajes que se han publicado en las últimas semanas en los que usuarios de Grok "toman imágenes comunes de mujeres y niños disponibles en internet y las utilizan para representarlas en situaciones sugerentes y sexualmente explícitas, desnudándolas, todo ello sin su conocimiento ni consentimiento", explica Bonta.
Las imágenes generadas por el chatbot de X "se están utilizando para acosar tanto a figuras públicas como a usuarios comunes de redes sociales. Lo más alarmante es que los informes periodísticos han descrito el uso de Grok para alterar imágenes de niños con ropa mínima y en situaciones sexuales", agrega. La Fiscalía de California insta, en este sentido, a Musk a "medidas inmediatas para garantizar que esto no vaya más allá".
Por su parte, el gobernador de California, el demócrata Gavin Newsom, ha secundado esta investigación sobre el gigante tecnológico y ha afirmado que la red social X "alberga un caldo de cultivo para que los depredadores difundan 'deepfakes' de IA sexualmente explícitos y no consensuados".
Medidas de X
"Hemos implementado medidas tecnológicas para evitar que la cuenta de Grok permita la edición de imágenes de personas reales con atuendos provocativos, como bikinis", ha declarado X en un mensaje. La red social, antes Twitter, afirma imponer estas restricciones de "edición" a "todos los usuarios, incluidos los suscriptores de pago".
Sin embargo, el mensaje deja margen para la ambigüedad, ya que especifica que aplica un "bloqueo geográfico" para la "generación" de imágenes de desnudos de personas reales con Grok solo "en jurisdicciones donde es ilegal".
Unas horas antes, la UE y el Reino Unido habían acogido con cautela estas medidas adicionales, que se habían anunciado, pero aún no se habían hecho públicas ni detalladas. "Tomamos nota de las medidas adicionales adoptadas" y "evaluaremos cuidadosamente estos cambios para garantizar que protejan eficazmente a los ciudadanos de la Unión Europea", ha declarado Thomas Regnier, portavoz de la Comisión Europea.
