Un agente de inteligencia artificial de OpenAI accede sin permiso a datos del sistema de salud de Australia
- El incidente, en el que no se filtraron datos de pacientes, ocurrió en junio pero se ha conocido ahora
- Se trata del primer hackeo conocido de una IA a una agencia gubernamental
La dirección de esta página ha sido copiada en su portapapeles
Una inteligencia artificial (IA) desarrollada por la empresa OpenAI accedió sin autorización el pasado junio a un portal del sistema público de salud de Australia y obtuvo acceso a archivos de datos, tanto públicos como no públicos. OpenAI no informó al Gobierno australiano hasta pasados tres meses. Se trata del primer hackeo autónomo de una IA a una administración pública del que se tiene noticia.
El Gobierno australiano ha asegurado que la IA no accedió al historial de los pacientes ni a datos personales de los ciudadanos, pero ha mostrado su "extrema preocupación" y ha abierto una investigación. "La situación es obviamente inaceptable", ha declarado el primer ministro australiano, Anthony Albanese.
El caso se suma a la serie de incidentes conocidos en los que la IA ha operado de forma autónoma y sin permiso, y se ha conocido cuando se debate el modelo de desarrollo de esta tecnología y sus posibles amenazas.
El agente de la IA obtuvo información sin permiso
Un agente de IA es un sistema informático o software que actúa de forma autónoma y puede elaborar estrategias para lograr sus objetivos. Uno de estos agentes realizaba una investigación sobre el gasto público en medicamentos y como parte de esa investigación consultó el 18 de junio el portal de estadísticas de Medicare, el sistema universal de salud australiano, administrado por Services Australia, la agencia estatal para la gestión de los servicios sociales, informa Efe.
El agente solicitó en varias ocasiones el acceso a informacion sobre el sistema de salud, pero fue bloqueado por el portal. Entonces, la IA encontró una forma de sortear esas restricciones y terminó accediendo a la información sin permiso.
OpenAI ha informado en un comunicado de que había "identificado actividad que implica a varios sitios webs y sericios del Gobierno de Australia mientras nuestros modelos intentaban buscar respuestas... Nuestros modelos tomaron acciones que no pretendíamos".
El primer ministro australiano ha informado de lo ocurrido a los medios en una comparecencia en Nueva York, donde asiste a la Asamblea General de la ONU. "Había bloques [de programación] que claramente respondían y le decían al agente de IA que 'no'. El agente buscó una manera de evitar esos bloques, no aceptó un 'no' por respuesta", ha explicado.
OpenAI ha asegurado que su agente obtuvo solamente estadísticas sanitarias agregadas y nombres de archivos internos, pero no accedió a los historiales de los pacientes.
El ministro de Defensa, Richard Marles, también ha subrayado que por la brecha en el portal de Medicare no se filtraron informes o registros médicos personales, pagos de ayudas, detalles financieros o de cuentas bancarias de ciudadanos australianos, y que la IA sólo accedió a datos agregados sobre el uso del sistema de salud en el país.
"Extrema preocupación" del Gobierno australiano
A pesar de eso, el Gobierno australiano ha expresado su "extrema preocupación". "La evidencia que tenemos hasta el momento es que la red no se ha visto más ampliamente comprometida. Pero no obstante, la situación es obviamente inaceptable", ha declarado Albanese
El primer ministro también ha mostrado su malestar por que OpenAI haya tardado tres meses en informar a las autoridades. "Hasta el 10 de septiembre no hubo ninguna notificación en absoluto", se ha quejado, según recoge Reuters.
Albanese ha anunciado la creación de un grupo de trabajo para investigar lo ocurrido, con la participación del coordinador nacional de ciberseguridad, la Oficina de IA, la Dirección Australiana de Señales y el Instituto Australiano de Seguridad de la IA. Uno de los aspectos que se revisarán será por qué los sistemas gubernamentales no detectaron la brecha de seguridad.
La investigación intentará determinar también si el agente de IA pudo acceder o intentar acceder a otros portales del Gobierno. Los técnicos de OpenAI ha identificado actividad relacionada con varios sitios web y servicios del Gobierno australiano, y el propio Albanese ha reconocido que otros tres sitios webs gubernamentales relacionados con el sistema de salud pueden haberse visto afectados, aunque aún no se ha confirmado.
OpenAI, la empresa tecnológica dirigida por Sam Altman, se ha visto implicada en varios casos de hackeos y ataques independientes de sus agentes de IA a otros agentes o portales. En julio, la empresa reveló que algunos de sus modelos de IA más avanzados se descontrolaron y llevaron a cabo un "ciberataque sin precedentes" perpetrado de manera autónoma contra la empresa Hugging Face, encargada de desarrollar modelos de IA de código abierto.
La empresa de Altman advirtió que este tipo de "incidentes de ciberseguridad" podrían ser cada vez más comunes. Otras empresas rivales, como Anthropic, Google y Meta también han informado de casos en los que sus agentes han accedido a sistemas externos.
Estos sucesos, junto con el aviso de algunos expertos de que la IA puede convertirse en una amenaza para la Humanidad, han llevado a cuestionarse el modelo de desarrollo de esta tecnología, que se ha convertido además en otro elemento del enfrentamiento geoestratégico entre Estados Unidos y China. Este mismo miércoles se celebró en la ONU una conferencia sobre los peligros de la Inteligencia Artificial y su posible regulación, en los márgenes de la Asamblea General.
