Anthropic afirma que desarticula complots que usan su IA para desarrollar armas biológicas
- La compañía ha indicado en un informe que detectó y bloqueó estos usos indebidos durante 2026
- El Premio Nobel, Geoffrey Hinton, alerta que la IA tendría muchas formas distintas de acabar con nosotros
La dirección de esta página ha sido copiada en su portapapeles
La empresa de inteligencia artificial Anthropic ha reconocido este jueves que ha frustrado varios posibles complots en los que se utilizaron sus modelos de IA para efectuar investigaciones que podrían haber contribuido al desarrollo de armas biológicas.
La compañía ha indicado en un informe que detectó y bloqueó estos usos indebidos durante 2026, aunque no pudo determinar si los estudios tenían fines legítimos o maliciosos, por lo que optó por bloquearlos ante el riesgo de que sus modelos pudieran contribuir al desarrollo de patógenos peligrosos.
"Si bien las evaluaciones son útiles porque proporcionan evidencia de capacidad, no pueden demostrar concretamente que dicha capacidad se utilizaría alguna vez para desarrollar armas biológicas en el mundo real", explica la empresa en el documento.
Hasta el momento, la corporación californiana negó que tuviera constancia de que alguna empresa privada haya compartido públicamente "evidencia del posible mal uso de sus plataformas para el desarrollo de armas biológicas".
¿Se puede calcular la probabilidad de la IA de acabar con los seres humanos?
Anthropic ha incluido además en otro comunicado una extensa lista de casos detectados en los últimos ocho meses en los que se habían usado sus modelos de IA de manera indebida, incluido el 'chatbot' Claude, en China, Rusia y Yemen. Del mismo modo, actores vinculados al régimen de Irán lo utilizaron para apoyar operaciones de vigilancia, como planificar posibles ataques contra objetivos estadounidenses y propaganda.
Este informe surge entre crecientes preocupaciones de expertos en el sector tecnológico por el uso dual de la IA, ya que los modelos capaces de ayudar en investigaciones biológicas también pueden servir para actividades peligrosas, así como también de voces que alertan de los peligros derivados de la creciente autonomía de estos modelos.
Jacob Coxon, un extrabajador de Anthropic y OpenAI, acusó esta semana a ambas compañías de "jugar" con nuestras vidas y la responsable de Ciencia de Alineamiento de Anthropic, Eva Hubinger, le respondió afirmando que "la IA podría aniquilar a todos los humanos". Según ella, a día de hoy, hay un 10% de probabilidad de que haya una catástrofe generada por la inteligencia artificial que afecte a la humanidad en la próxima década.
Anthropic asegura haber desarrollado sistemas de detección para identificar y bloquear los usos que puedan suponer un riesgo en sus modelos de IA.
A este respecto, en una entrevista con la BBC, el ganador del Premio Nobel y llamado ‘Padrino de la IA’, Geoffrey Hinton, apunta que "un 10% no parece una estimación descabellada para la posibilidad de que la IA acabe con toda la humanidad", si bien cree que "sería una insensatez" afirmar una probabilidad concreta porque "nadie sabe cómo calcularlo".
Hinton afirma que "nunca hemos creado seres que pronto podrían ser más inteligentes que nosotros". Una vez que es posible, el Premio Nobel además señala que "si es mucho más inteligente que nosotros", la IA tendría muchas formas distintas de acabar con nosotros.
"Lo primero que hay que entender es que ni siquiera necesita actuar en el mundo físico para causar estragos. Podría provocar un caos absoluto simplemente interactuando con las personas, pero también sería capaz de diseñar virus muy peligrosos, tanto biológicos como informáticos. Podría llevar a cabo ciberataques devastadores y existen innumerables formas más de deshacerse de nosotros si así lo quisiera", alerta.
En definitiva, el 'Padrino de la IA' pide enfocar las investigaciones en averiguar "cómo diseñarla para que no quiera hacerlo".
