El mundo en guardIA: ¿Qué hay detrás de los riesgos de la inteligencia artificial?
El último tren
- La IA se vuelve a situar en el centro del debate por las advertencias de algunos de los referentes del sector
- En El último tren de RNE, la formadora en IA Clara de Luna analiza las últimas noticias y los riesgos de seguridad asociados a los agentes autónomos
"Ya ha habido movimientos a nivel geopolítico de utilizar la herramienta para conflictos bélicos", confiesa la formadora en IA Clara de Luna.GETTY
En el año 2029 las máquinas dominan el mundo. Esta es una de las ideas que recoge la película Terminator. Aún así, no nos extrañaría escuchar esta frase en la actualidad.
La inteligencia artificial atraviesa unas semanas marcadas por alertas, brechas de datos, agentes que pueden actuar de forma autónoma y advertencias sobre una posible pérdida de control. A todo esto se le suma la carrera geopolítica por tener el dominio tecnológico.
Para saber lo que hay de verdad y de mentira en todo lo que se está diciendo sobre la IA, la experta Clara de Luna se ha subido a uno de los vagones de El último tren de RNE.
La Agencia Española de Protección de Datos ha recibido la primera notificación de una brecha de datos personales en la que el incidente ha sido ejecutado por medio de un agente de IA que utilizó un conocido modelo de lenguaje. Pudo así modificar datos personales y acceder a facturas.
Clara de Luna cree que este caso se enmarca en un fenómeno de relevancia: el uso de agentes de IA que "son capaces de tomar acción de forma autónoma".
De hecho, estos sistemas pueden realizar determinadas tareas con autorización del usuario. "Nos van a pedir siempre permiso para hacer ciertas acciones, por ejemplo, buscar en internet, hacer clic en páginas web, hacer un inicio de sesión. Nos pedirán el nombre de usuario, la contraseña", nos explica esta formadora en IA.
El problema está cuando esas barreras de seguridad no son suficientes para impedir que los agentes realicen acciones para las que no deberían estar habilitados.
Según Clara de Luna, algunos de los modelos implicados en los ataques que se están investigando podrían no haber contado con las suficientes capas de protección para impedir determinadas acciones.
¿Podemos lanzar un ataque con un agente de IA?
Que existan agentes disponibles para usuarios como nosotros no significa que cualquier persona pueda utilizarlos para llevar a cabo un ciberataque.
"Ahora mismo tenemos funcionalidades dentro de ChatGPT y de Claude, por ejemplo, que con una cuenta de pago ya te permiten utilizar estos agentes para tus tareas del día a día. Tampoco quiere decir que con esto puedas lanzar un ataque informático", nos ha contado.
Así, la experta hace una distinción entre estas herramientas de uso general y ciertos modelos que se pueden encontrar en fase de prueba o que no tienen muchos mecanismos de seguridad.
Las grandes empresas dan la voz de alarma
Algunas de las grandes compañías que desarrollan modelos de IA ya han comenzado a alertar de los riesgos asociados a estas tecnologías. De hecho, las advertencias proceden de algunos de los protagonistas de la industria.
Recientemente, investigadores de Anthropic han informado que la IA podría aniquilar a la humanidad en diez años. De hecho, Jacob Coxon, extrabajador de Anthropic y OpenAI acusó a estas dos compañías de "jugar" con las vidas humanas.
A esto se le suma el contexto empresarial: Anthropic prepara su salida a bolsa para octubre de 2026 con una valoración estimada de 2 billones de dólares. Así, la especialista cree que los riesgos planteados merecen atención, pero señala que la coincidencia con los movimientos empresariales de esta pueden alimentar las sospechas de aquellos que ven las advertencias de forma escéptica.
Clara de Luna señala la creciente importancia de los modelos chinos frente a los modelos de compañías estadounidenses. "Hay una guerra en quién tiene el control del mercado", destaca.
Ojo con el alarmismo
"Ya ha habido movimientos a nivel geopolítico de utilizar la herramienta para conflictos bélicos y espionaje", confiesa esta formadora en IA.
La experta lo tiene claro: este conjunto de tecnologías requieren cooperación entre países, empresas y organismos independientes: "Se tiene que meter mucha aceleración a este tema de la regulación, es algo fundamental".
Eso sí, Clara de Luna advierte del peligro de convertir cada avance tecnológico en un escenario apocalíptico: "Ojo con el alarmismo".
La pregunta ya no es solo hasta dónde puede llegar la IA sino cuáles son los límites que se establecen y cuáles son los intereses que hay detrás de esta carrera tecnológica.