Anthropic suspende el acceso a sus mejores modelos de IA tras la orden de EE.UU. de limitar su uso en el extranjero
- La empresa ha cortado el acceso a Fable 5 y Mythos 5 a todos sus clientes para poder cumplir con la directiva
- La orden ejecutiva no detalla los motivos específicos de la restricción, según un comunicado de la compañía
La dirección de esta página ha sido copiada en su portapapeles
Anthropic ha anunciado este viernes que suspendía el acceso público a sus modelos de inteligencia artificial más avanzados Fable 5 y Mythos 5 para poder cumplir con una directiva de control de exportaciones de la Administración de Trump que restringe su uso a ciudadanos extranjeros por motivos de seguridad nacional.
Según la empresa, la orden de evitar su acceso fuera de Estados Unidos o por parte de extranjeros dentro del país ha llegado durante la tarde del viernes y para poder cumplir con la directiva de última hora ha optado por cortar todo acceso a Fable 5 y Mythos 5 a todos sus clientes.
A través de un comunicado oficial, la compañía estadounidense ha explicado que la orden ejecutiva no detalla los motivos específicos de la restricción y han pedido disculpas a sus clientes de pago por la interrupción.
Anthropic ha deducido que las autoridades creen haber descubierto un método para eludir los límites de seguridad del programa. No obstante, ha defendido que el modelo ya contaba con estrictas salvaguardas para evitar el riesgo de uso indebido en tareas de ciberseguridad.
"Como hemos manifestado públicamente, creemos que el Gobierno debería tener la capacidad de bloquear desarrollos inseguros, mediante un proceso legal transparente, justo, claro y basado en hechos técnicos. Esta acción no se ajusta a dichos principios", ha denunciado. Además, ha criticado que la Casa Blanca solo les notificase de forma verbal de las presuntas vulnerabilidades del sistema.
De este modo, Anthropic ha indicado que cree que se trata de un "malentendido" y que está trabajando en restablecer el acceso a los modelos lo antes posible. "Si esta norma se aplicara en todo el sector, creemos que paralizaría esencialmente todas las implementaciones de todos los proveedores de modelos de vanguardia", ha señalado.
El controvertido modelo Mythos
El veto gubernamental se produce pocos días después de que Anthropic pusiera a disposición de sus suscriptores el modelo 'Claude Fable 5', presentado como el más avanzado en diversos test de habilidades.
Este nuevo modelo está basado en el controvertido modelo Mythos, del que Anthropic alertó que tenía capacidades que ponían en riesgo la impenetrabilidad de los sistemas más avanzados en ciberseguridad en sectores sensibles como el financiero.
Anthropic facilitó al Gobierno estadounidense y a empresas analizar Mythos antes de su salida pública para determinar vulnerabilidades en sus sistemas y cómo podía afectar a la seguridad. Aunque la empresa estadounidense aseguró que no publicaría su modelo Mythos, lo ha puesto a disposición de una lista muy selecta de empresas asociadas al programa de ciberseguridad 'Project Glasswing'.
No obstante, para evitar usos maliciosos, la empresa había implementado un sistema de contención que limita de forma automática las respuestas ante consultas sensibles sobre ciberseguridad, biología o química. En lugar de procesar información potencialmente peligrosa, el sistema redirige de forma interna este tipo de solicitudes hacia un modelo de IA de menor capacidad. Con este protocolo, la compañía buscaba ofrecer asistencia general en dichas materias pero bloqueando la entrega de datos críticos que pudieran ser instrumentalizados para ejecutar ciberataques a gran escala o desarrollar armas biológicas.
Conflicto con el Gobierno
La directiva del Gobierno y la respuesta de Anthropic ponen de relieve la creciente tensión entre los desarrolladores de IA y los reguladores sobre cómo evaluar los riesgos de eludir las medidas de seguridad de los sistemas.
Además, la relación de Anthropic con el Gobierno estadounidense se vio afectada después de que la empresa se negara a permitir que el ejército estadounidense utilizara sus modelos de IA para la vigilancia interna y los sistemas de armas totalmente autónomos. Ante la negativa, las autoridades incluyeron a Anthropic en una lista negra de la cadena de suministro, cuya entrada en vigor está prevista para finales de este año.
Esta medida también supone una escalada significativa de los esfuerzos de Estados Unidos por frenar las capacidades de IA de sus adversarios extranjeros. Durante años, los controles de exportación de EE. UU. se han centrado en los chips y las herramientas que impulsan la IA, en lugar de restringir el acceso extranjero a la propia IA.
