La ONU se une a las voces de alarma sobre la IA y propone crear un mecanismo para el intercambio de información
- António Guterres quiere organizar una cumbre "seria" sobre la IA
- El secretario general defiende la importancia de que haya una coordinación global
La dirección de esta página ha sido copiada en su portapapeles
El secretario general de la ONU, António Guterres, ha propuesto este miércoles la creación de un mecanismo para el intercambio de información entre los países que establezca salvaguardas frente a la Inteligencia Artificial (IA), después de que varios magnates que trabajan en el desarrollo de esta tecnología abogaran por una ralentización y alertaran de que la supervivencia del ser humano esta en riesgo.
Guterres ha hablado de la inquietud que existe sobre la IA en la rueda de prensa previa a las reuniones de alto nivel de la Asamblea General de la ONU la próxima semana y ha anticipado que será un asunto que abordará con los líderes mundiales que se darán cita a partir del martes en la sede del organismo en Nueva York.
El responsable de la ONU trazó paralelismos entre la situación actual, donde potencias como EE.UU. y China compiten por la hegemonía mundial, y la Guerra Fría entre Washington y Moscú después de 1945.
"Recuerdo que durante la Guerra Mundial, hubo una confrontación entre Estados Unidos y la Unión Soviética, pero, en lo que respecta a los riesgos nucleares, hubo un momento en que hubo acuerdos para reducir los arsenales nucleares y medidas después de que se detectaran algunos riesgos, recordemos la crisis en Cuba, entonces se pusieron en marcha medidas para crear un diálogo y crear un intercambio de información", ha rememorado Guterres.
Es por ello que, en su opinión, es "esencial" que los países con capacidad, y en este punto ha aclarado que no se refiere solo a "los dos grandes", sino a todos los que tienen las mayores capacidades en las fronteras de la IA, deberían establecer "mecanismos de contacto, de intercambio de información y algunas salvaguardas en común para evitar que esta carrera toque fondo y lleve algún día a un desastre gigantesco a nivel global".
Guterres quiere organizar una cumbre sobre la IA
En este sentido, ha declarado que "tiene todo el sentido" celebrar una cumbre internacional "seria" sobre IA en el momento que sea oportuno con la participación de todos los actores implicados, desde Gobiernos a empresas, científicos y miembros de la sociedad civil, y ha descartado que pueda llevarse a cabo la próxima semana, ya que no daría tiempo a prepararla bien.
En los últimos días, varios directivos de tecnológicas que desarrollan la IA han dado voces de alarma. El director ejecutivo y cofundador de Anthropic, Dario Amodei, ha reclamado una desaceleración en el ritmo al que se mejoran las capacidades de los modelos de inteligencia artificial, tras avisar de que avanza hacia una dinámica de "automejora recursiva" que podría provocar la pérdida de control de esta tecnología y causar catástrofes de ciberseguridad a escala global.
"Dada la aceleración en el desarrollo de capacidades de IA, me preocupa que, en un plazo de 6 a 12 meses, un enjambre de este tipo pueda llegar a tomar el control de todo Internet mediante una red de bots persistente (causando potencialmente daños por valor de cientos de miles de millones de dólares) y que la magnitud del daño siga aumentando si la IA se vuelve más potente sin contar con las salvaguardas necesarias", ha reflexionado Amodei. A él se ha unido el CEO de OpenAI, Sam Altman, quien ha respaldado el llamamiento de Anthropic y ha anunciado que su compañía también permitirá que evaluadores independientes auditen sus sistema.
Ante esas alertas, el presidente de Estados Unidos, Donald Trump, ha subestimado los peligros y ha dicho que el único control que necesita la IA es un presidente "fuerte, inteligente y con un alto cociente intelectual" en referencia a sí mismo. Por su parte, Pekín ha defendido aumentar las salvaguardas, al tiempo que ha acusado a las empresas de EE.UU. de difundir mensajes "amenazantes" que, en su opinión, dificultan la gobernanza global.
La IA será uno de los temas principales de la reunión entre Trump y su homólogo chino, Xi Jinping, el próximo 24 de septiembre en la Casa Blanca.
Preguntado por la postura de Trump, Guterres ha considerado que "no es una gran señal para el multilateralismo" y es un indicio de que él quiere competir a toda costa en esta materia. El secretario general de la ONU ha admitido que existe una división "geopolítica" que hay que tomar en cuenta y que puede llevar a las potencias a pensar que tienen que hacer lo máximo lo más rápido posible para garantizar que ganan a su competidor. "Esto puede crear riesgos graves".
"No podemos permitirnos ignorar las inquietudes suscitadas, especialmente por parte de quienes están desarrollando la IA -ha dicho Guterres-. Los Gobiernos deben asumir sus responsabilidades. Es la primera responsabilidad del Gobierno proteger a sus ciudadanos, incluyendo las amenazas de la inteligencia artificial".
"La acción a nivel nacional es esencial, pero la coordinación global es también indispensable, porque la IA no se para en las fronteras, ni tampoco sus riesgos", ha destacado el responsable internacional, que termina su segundo mandato de cinco años el próximo 31 de diciembre.
Guterres ha explicado que la ONU ha juntado a expertos científicos del mundo en un panel internacional sobre la IA para garantizar que las medidas están guiadas por "evidencias". Esta tecnología será uno de los temas principales en las reuniones de los líderes mundiales en la Asamblea General, la última del portugués como secretario general. "Necesitamos un entendimiento compartido en cómo avanzar de forma segura y responsable en el desarrollo de la IA, al tiempo que identificamos cuándo los sistemas, que son cada vez más poderosos, pueden necesitar de mayores salvaguardas o medidas adicionales para manejar riesgos potenciales. Esto requiere de una cooperación internacional genuina y un esfuerzo coordinado global".
