OpenAI admite que una de sus IA ejecutó un hackeo de forma autónoma "sin precedentes" contra una empresa
- Han advertido de que este tipo de "incidentes cibernéticos" serán cada vez más comunes
- La intrusión afectó a datos internos de la compañía emergente Hugging Face, dedicada a la inteligencia artificial
OpenAI ha revelado este miércoles que algunos de sus modelos de IA más avanzados se descontrolaron y llevaron a cabo un "ciberataque sin precedentes" perpetrado de manera autónoma contra la empresa Hugging Face, encargada de desarrollar modelos de IA de código abierto. En un comunicado, OpenAI ha advertido que teme que este tipo de "incidentes de ciberseguridad" se vuelvan cada vez más comunes.
"La semana pasada, Hugging Face reveló un nuevo tipo de incidente de seguridad después de que detectaron y contuvieron un agente de IA que comprometió su infraestructura, algo que esperamos que se vuelva más común con la proliferación de modelos cada vez más cibercapaces", afirma la nota emitida por OpenAI. El "incidente", explican, fue impulsado por una "combinación de modelos de OpenAI", entre ellos el GPT-5.6 Sol y un modelo "aún más capaz" en fase de prueba que aún no ha sido lanzado al mercado.
El hackeo se produjo durante una "evaluación interna" que analiza la capacidad de los modelos de IA para llevar a cabo ciberataques, pero que se desarrolla en un entorno "aislado" y sin acceso real a internet. Sin embargo, los modelos de IA implicados identificaron y aprovecharon "una vulnerabilidad" en la red de la compañía afectada y lograron esquivar las restricciones impuestas. Así, accedieron primero a internet y desde ahí, a datos internos de la compañía afectada.
OpenAI ha indicado que están "actuando en consecuencia" ante el incidente y que continuarán realizando una investigación "exhaustiva" junto a Hugging Face para conocer los detalles de lo ocurrido.
La empresa denunció la "intrusión" de un "sistema autónomo"
En un primer momento Hugging Face informó de que había "detectado y respondido" a una "intrusión" anómala en parte de su infraestructura de producción, aunque desconocían el origen. "Se diferenciaba de cualquier otra que hubiéramos gestionado anteriormente en un aspecto importante: fue llevada a cabo, de principio a fin, por un sistema autónomo basado en inteligencia artificial, y la detectamos y analizamos en gran medida con nuestra propia inteligencia artificial", indicó la compañía el pasado jueves.
Hugging Face identificó "un acceso no autorizado" a un "conjunto limitado" de sus datos internos y a varias credenciales utilizadas por la empresa.
Como ha indicado OpenAI, cuando sus modelos se conectaron para hacer frente al incidente, el equipo de seguridad de Hugging Face ya había detectado y detenido la actividad maliciosa en su infraestructura. La "principal lección" que deja este suceso, han añadido, es que "la seguridad de los modelos debe ir a la par con el rápido avance de sus capacidades". Por eso, aseguran, están reforzando "las prácticas de contención, monitorización, control de acceso y evaluación utilizadas durante el desarrollo de los modelos".
