La Inteligencia Artificial aplicada a las armas: una amenaza real que debe ser regulada
- El uso de armas autónomas plantea problemas legales, éticos y morales
- Expertos de todo el mundo intentan consensuar una ley sobre los Sistemas de Armas Autónomas Letales
La dirección de esta página ha sido copiada en su portapapeles
En septiembre de 1983, en plena Guerra Fría, un sistema de alerta temprana de la URSS detectó dos lanzamientos desde Estados Unidos de un total de cinco misiles balísticos intercontinentales. Al teniente coronel de servicio, Stanislav Petrov, le pareció extraño que el ataque estadounidense no fuera masivo, así que clasificó el aviso como un error del sistema. Más tarde, se demostró que, efectivamente, se había tratado de un fallo. Pero ¿qué habría pasado si Petrov no hubiera estado al mando? ¿Qué decisión habrían tomado los soviéticos? ¿Habrían respondido? ¿Estaríamos hablando hoy, más de cuatro décadas después, de una guerra nuclear iniciada en 1983?
A día de hoy, las herramientas que se utilizan para detectar y derribar amenazas enemigas en el terreno militar están mucho más desarrolladas que entonces y tienen mayor autonomía. La Inteligencia Artificial aplicada a la estrategia bélica tiene capacidad para cambiar la guerra tal y como la conocemos. Desde 2018, el Grupo de Expertos Gubernamentales de la Convención sobre Ciertas Armas Convencionales (CCW) de las Naciones Unidas analiza sus riesgos y la posibilidad de regular su uso.
Beneficiosos para los ejércitos, peligrosos para la población civil
Los sistemas de Armas Autónomas Letales (LAWS, por sus siglas en inglés) son capaces de identificar objetivos, localizarlos y alcanzarlos sin necesidad de control humano. Hablamos de drones, aviones no tripulados, barcos, submarinos, vehículos autónomos… La lista es extensísima y sus beneficios, a nivel puramente táctico, abarcan posibilidades de todo tipo. Entre ellas está la de salvar vidas. "Disponer de unos sistemas que puedan tener una navegación autónoma o ser teleoperados nos permite retrasar el empleo de unidades humanas a líneas de retaguardia", dice el comandante Joaquín Peralta, analista del Centro de Fuerza Futura del Estado Mayor del Ejército de Tierra.
En un campo de batalla repleto de minas antipersona o plagado de drones, las posibilidades de rescatar a un soldado herido en el frente sin poner en riesgo otras vidas es mínima. Pero los sistemas autónomos han empezado a cambiar esa realidad. Lo ha demostrado este mes de octubre el ejército ucraniano al llevar a cabo una evacuación con un dron no tripulado.
Sin embargo, el uso de este tipo de sistemas también tiene riesgos, sobre todo, para la población civil. "El algoritmo ni siente miedo, ni duda, ni negocia, ni entiende el contexto de la guerra. No tiene compasión y tampoco aplica la proporcionalidad que debería aplicar cualquier ser humano en estos contextos", advierte Roser Martínez, profesora titular de Derecho de la Universidad Autónoma de Barcelona y directora de la Cátedra Manuel Ballbé de Seguridad Humana y Derecho Global. Esto supone, en consecuencia, un dilema ético y moral: automatizar una operación militar en un contexto de guerra puede traducirse en delegar en una máquina la decisión de matar.
La aplicación del Derecho Internacional Humanitario, en riesgo
"Si las máquinas toman las decisiones, si se le arrebata este poder a los humanos, nos arriesgamos a tener máquinas volando de un lado a otro y atacando a civiles sin que el ser humano pueda intervenir", avisa el asesor de desarme del Comité Internacional de la Cruz Roja (CICR), Richard Lennane. Esa imagen distópica está más cerca de lo que parece, porque "la tecnología ya existe", dice Lennane "aunque no tenemos demasiada información sobre su uso real, estas armas podrían ser utilizadas en cualquier momento".
Así que la regulación corre prisa, porque, según Roser Martínez, hace falta "una norma vinculante que, al menos, le dé una seguridad jurídica a los estados", que establezca las consecuencias legales para los estados que utilicen o desarrollen este tipo de tecnología. Y a eso se dedican los integrantes del Grupo de Expertos Gubernamentales de la Convención sobre Ciertas Armas Convencionales de la ONU.
Tras su reunión de septiembre, los 128 países representados en este foro lograron un paso clave de cara a la redacción de una ley: acordaron las bases sobre las que trabajar para regular el uso de LAWS. Puede parecer un avance ínfimo, pero, teniendo en cuenta los intereses cruzados de los gobiernos que forman parte de la discusión, es un progreso significativo hacia un texto que puede salvar miles de vidas civiles en conflictos actuales y futuros. El problema llega con la siguiente pregunta: ¿debe ser vinculante ese texto? Unos 70 países optan por que lo sea, pero otros (como Estados Unidos o Rusia) defienden que con redactar el texto basta, sin establecer obligaciones para los estados.
El Derecho Internacional Humanitario está especialmente relacionado con este debate, porque hay quien argumenta que esa legislación es suficiente para sentar las normas de la guerra, independientemente de cómo se desarrolle y con qué medios. Así que las bases acordadas en septiembre están muy por debajo de lo inicialmente exigido por los grupos de presión. Se han eliminado menciones a cuestiones éticas y a nociones como la predictibilidad, la trazabilidad, la fiabilidad de los sistemas o la capacidad de explicar el porqué de cada decisión.
Ante una guerra con armas autónomas, ¿quién responde ante los LAWS?
Desde que se crea el sistema autónomo hasta que el arma toma una decisión de vida o muerte, hay una infinidad de actores implicados. Esto se traduce en que, aunque sí hay una responsabilidad humana detrás de cada decisión de un LAWS, es muy difícil demostrarla. "No hay una responsabilidad clara", apunta Roser Martínez, "lo que hay es una responsabilidad difusa que, en un tribunal, sería difícil de atribuir". Por eso, dice Richard Lennane, es importante desarrollar una regulación a nivel global, para que quede claro "quién es responsable de un ataque concreto, quién había tomado la decisión o quién había programado la máquina".
Para que la norma tenga un efecto real, debería ser vinculante. Pero ese extremo, en un órgano que necesita unanimidad para tomar decisiones y teniendo en cuenta las distintas sensibilidades de los estados representados, parece descartado. Así que Martínez propone una alternativa: iniciar una nueva vía con los estados que quieren una norma vinculante, "para poder tener un texto que, ciertamente, vinculase a determinados estados y no a otros, pero que sirviera como bandera". De esa forma, según Martínez, se podría avanzar hacia un escenario en el que los estados que no ratificasen el tratado se vieran obligados a hacerlo, aunque fuera por presión global.
El trabajo que tiene el Grupo de Expertos Gubernamentales de la CCW no es fácil, pero, según dicen quienes están implicados en esas conversaciones, tampoco es imposible. Tanto Martínez como Lennane señalan 2027 como el año en que el mundo podrá ver la primera ley sobre el uso de Sistemas de Armas Autónomas Letales. En el camino hay muchos obstáculos, pasando, sobre todo, por el choque entre los intereses de las grandes potencias militares y los pequeños ejércitos del mundo. Y, mientras tanto, esta tecnología se va a seguir desarrollando y probando en campos de batalla como la guerra de Ucrania. Pero, para el asesor de desarme del Comité Internacional de la Cruz Roja, "incluso si tardamos algo más en conseguirlo y lo logramos cuando estas armas estén en todas partes, merece la pena trabajar para su regulación".
