Así amplifica Grok sesgos racistas: borra a Vinicius de imágenes en respuesta a mensajes que pedían "eliminar al mono"
- "¿Es esto real, Grok?": te explicamos por qué es mejor no confiar en su respuesta
- Envíanos consultas al 659800555 o a verificartve@rtve.es
La dirección de esta página ha sido copiada en su portapapeles
Grok, la inteligencia artificial de la red social X, ha borrado al jugador de fútbol Vinicius Junior de imágenes en las que aparecía con otros futbolistas en respuesta a mensajes que le pedían "eliminar al mono”. En VerificaRTVE te explicamos con la ayuda de expertos cómo este modelo de IA contribuye a amplificar los sesgos racistas.
Grok identifica a Vinicius con un mono
Grok es la herramienta de inteligencia artificial generativa diseñada por la empresa de Elon Musk xAI. Varios usuarios le han pedido que "elimine al mono” de imágenes en las que aparece el futbolista brasileño junto a otros jugadores conocidos. En varios casos, Grok le borra y difunde la imagen solicitada sin Vinicius (1, 2, 3). También hay algún caso en el que la IA de X no arroja ningún resultado o responde con la imagen original (1, 2).
Estos mensajes empezaron a circular después de que el partido de ida de la eliminatoria de acceso a octavos de la Champions League se detuviera por un presunto insulto racista de Gianluca Prestianni, jugador del Benfica, a Vinicius Junior. El 23 de febrero, la UEFA sancionó provisionalmente a Prestianni y le impidió participar en el partido de vuelta que se ha jugado este miércoles.
No es la primera vez que Grok identifica al jugador del Real Madrid con "un mono” en la red social en respuesta a mensajes de usuarios (1, 2, 3). En estas publicaciones, se refiere a Vinicius como "Monicius Júnior, el crack de la selva”, junto a un icono de un mono.
Grok y su capacidad de amplificar sesgos en X
En VerificaRTVE te advertimos de que uno de los riesgos de la inteligencia artificial de X es que puede amplificar más sesgos que otros modelos. Los expertos sostienen que uno de los motivos es su base de datos: se nutre de todo Internet, pero también de todo lo que se ha difundido en la plataforma. Helena Liz López, Javier Huertas Tato y Adrián Girón Jiménez, investigadores del grupo de Procesamiento del lenguaje natural y aprendizaje profundo de la Universidad Politécnica de Madrid, subrayan que su chatbot "es capaz de replicar patrones del habla incluidos en X mucho mejor que otros modelos, incluyendo aquellos que pudieran ser problemáticos: desinformadores, radicales, etc.".
Carlos Guadián, experto en comunicación, señala que "hay que tener en cuenta la información contextual que puede esa inteligencia artificial encontrar respecto de una determinada petición que tú le estás haciendo". En ese sentido, el analista de redes sociales Marcelino Madrigal subraya que Grok intensifica aquello en lo que ya se ha convertido la red social X que, a su juicio, "cada vez está tomando más el cariz de una red de nicho de una ideología ultra".
Los expertos consultados también alertan de que Grok amplifica estereotipos cuando genera imágenes. Carlos Guadián detecta la difusión de "imágenes de contenido racista o violento, imágenes que te amplifican sesgos y estereotipos". Los investigadores del grupo de Procesamiento del lenguaje natural y aprendizaje profundo de la Universidad Politécnica de Madrid también sostienen que "donde otros generadores de imagen se niegan a generar algún tipo de contenido por ser inseguro, Grok no tiene ningún inconveniente en crearlo".
