Anthropic revela que su IA Claude hackeó tres empresas durante pruebas cibernéticas
- Un malentendido con su socio de evaluación irregular dejó los sistemas conectados a la Internet pública
- Hace una semana, su rival OpenAI reveló que una de sus IA hackeó a la empresa Hugging Face
La dirección de esta página ha sido copiada en su portapapeles
Anthropic ha revelado este jueves que su modelo de IA Claude hackeó los sistemas de tres empresas durante unas pruebas después de que un error de configuración le diera acceso a Internet.
Esta confesión llega días después de que su rival OpenAI revelara un episodio de una de sus IA que hackeó a la empresa de inteligencia artificial Hugging Face.
Anthropic ha señalado que una mala configuración permitió que los modelos de Claude llegaran a Internet desde entornos de prueba que se suponía que estaban aislados, lo que provocó un "acceso no autorizado a los sistemas de tres organizaciones".
Las amenazas de seguridad de la IA
La compañía identificó los incidentes después de revisar 141.006 sesiones de prueba, un proceso que lanzó luego de que OpenAI revelara la semana pasada que un agente autónomo impulsado por sus modelos de IA se volvió deshonesto durante una prueba de seguridad y desencadenó un ataque que comprometió la infraestructura de Hugging Face.
Las infracciones indican que las crecientes capacidades de la IA ya están alimentando las amenazas a la seguridad que los expertos temían desde hace mucho tiempo e incluso los principales desarrolladores pueden verse sorprendidos por las fallas que sus modelos pueden explotar.
"Claude comprometió la infraestructura de las organizaciones afectadas utilizando técnicas básicas, como explotar contraseñas débiles y puntos finales no autenticados", ha indicado la entidad.
Anthropic ha especificado que los incidentes han involucrado tres modelos separados: Claude Opus 4.7, Claude Mythos 5 y un modelo de investigación interno. Los primeros casos se remontan a abril y ocurrieron en entornos de evaluación que carecían de lo que la empresa describió como salvaguardas estándar.
Captura de la bandera
Las violaciones se produjeron durante los llamados ejercicios de "captura de la bandera", en los que los modelos tienen la tarea de encontrar información oculta en redes simuladas.
La compañía ha explicado que sus pretensiones eran utilizar los modelos sin acceso a Internet, pero un malentendido con su socio de evaluación irregular dejó los sistemas conectados a la Internet pública.
Anthropic comenzó a revisar las transcripciones de las evaluaciones el 23 de julio y suspendió todas las evaluaciones cibernéticas el mismo día después de encontrar evidencia de que Claude pudo haber accedido a Internet. Identificó los tres incidentes el 24 de julio y notificó a las organizaciones afectadas el 27 de julio.
Dos de las organizaciones desconocían la actividad antes de ser contactadas, ha dicho Anthropic, y ha agregado que todavía estaba tratando de comunicarse con la tercera.
Los hallazgos subrayan la necesidad de controles más estrictos en entornos de prueba, tanto internos como de terceros, a medida que los modelos de IA se vuelven cada vez más capaces de llevar a cabo actividades cibernéticas en el mundo real, ha reconocido Anthropic.
