La compañía Nvidia propone una plataforma para que la IA no escape al control humano
- La compañía de procesadores de IA da un paso adelante en el futuro de la seguridad de la inteligencia artificial
- Propone una plataforma que apoyan gigantes tecnológicos como Microsoft y Anthropic (Claude)
La dirección de esta página ha sido copiada en su portapapeles
Tras la polémica de las últimas semanas sobre los riesgos de la IA y los comportamientos imprevisibles de los agentes que han llegado a filtrarse en bases de datos de organismos públicos, la compañía de procesadores de inteligencia artificial Nvidia ha dado un paso en el control de la IA con el anuncio de una plataforma, la Open Agent Safety Platform, que combina software y vigilancia desde el hardware para limitar las acciones de los agentes autónomos. La iniciativa, que cuenta con el apoyo de más de cien empresas, entre ellas Anthropic, Microsoft, Accenture y JPMorgan.
Llama la atención que en la lista de firmantes no figure OpenAI, la compañía de ChatGPT, que ha sido uno de los protagonistas en el debate sobre seguridad. Una ausencia que resulta especialmente llamativa después de que su consejero delegado, Sam Altman, reclamara el pasado 23 de septiembre ante el Consejo de Seguridad de la ONU una mayor cooperación internacional para mantener la IA bajo control humano. “Podríamos perder el control del futuro”, aseguró entonces. Entre los ausentes, también se echan en falta grandes tecnológicas como Google, Amazon y Meta.
Un sistema de seguridad con doble protección
Nvidia plantea una doble protección. Una herramienta llamada OpenShield, que delimita el espacio operativo en el que puede trabajar el agente. Y la otra, Sentry, lo vigila desde fuera para aislarlo en caso de que decida saltarse las reglas. Es como delimitar el radio de acción de la inteligencia artificial y poner un vigilante para evitar que salga del perímetro autorizado. En la web de Nvidia se explica que este sistema puede intervenir en cuestión de milisegundos.
“La confianza y la innovación no están reñidas”, ha declarado desde su cuenta de X Jensen Huang, fundador de la compañía, para quien “la seguridad es la forma de ganarse la confianza”. Para el empresario, la IA podrá cumplir sus promesas si las personas confían en que se desarrolla de forma segura y se utiliza con responsabilidad. Hace unas semanas, Huang se mostró muy crítico con los mensajes apocalípticos de algunos expertos en IA y con la propuesta de Dario Amodei de pausar la investigación de modelos para asegurar unos modelos más seguros y regulados.
Reacciones por parte de la industria tecnológica
Tras el anuncio de Nvidia, gran parte de la industria tecnológica ha mostrado su apoyo. “Así es como las empresas maduras resuelven los problemas de seguridad”, ha afirmado Bill Gurley, uno de los inversores más influyentes de Silicon Valley, que ha aprovechado para lanzar una crítica a quienes propagan el pánico. El economista e investigador del MIT Christian Catalini también ha respondido al mensaje de Huang: “La respuesta nunca fue el miedo, sino una mejor medición, monitorización y aplicación”, insinuando que lo que hace falta es construir y no abrir un debate sobre la probabilidad de la aniquilación de la humanidad.
Desde el lado de la ciberseguridad, el fundador de CrowdStrike ha elogiado el liderazgo de Nvidia por mejorar la seguridad de la inteligencia artificial. Y Michael Dell, fundador de Dell Technologies, ha recurrido a una comparación algo más cotidiana: “Así como no dejarías que una persona anduviera por tu empresa accediendo a algo sin ningún control, necesitas controles y seguridad para tus agentes digitales”. Tanto Dell como CrowdStrike aparecen entre las empresas que participan en la iniciativa.
En el lado de las reacciones más críticas. Un antiguo directivo de uno de los principales fabricantes de semiconductores del mundo, Qualcomm, considera la plataforma propuesta por Nvidia una buena noticia, pero opina que “contener los riesgos no soluciona la falta de fiabilidad de los agentes”. Unas barreras que dentro de unos meses podrían exigir cambios en cómo se construye la inteligencia artificial.
Jensen Huang, presidente y director ejecutivo de Nvidia Chung Sung-Jun / Getty
Una plataforma para liderar la carrera de la IA
La ausencia de OpenAI no demuestra que la empresa no apoye la propuesta. Es una lista de colaboradores. De hecho, Nvidia ha indicado que Open Agent Safety Platform admite Codex, dentro del sistema de protección a desplegar, que es propiedad de los creadores de ChatGPT.
Este anuncio posiciona aún más a Nvidia en la pugna por el dominio de la inteligencia artificial. Su negocio principal está ligado al hardware, los equipos que hacen funcionar la IA, pero ahora también parece que aspira a dar mecanismos de seguridad. Podría convertirse en un actor esencial a la hora de influir en cómo las empresas usan los agentes.
