Investigadores de Anthropic alertan de que la inteligencia artificial podría aniquilar a la humanidad en diez años
- Jacob Coxon, extrabajador de Anthropic y OpenAI acusa a ambas compañías de "jugar" con nuestras vidas
- Una responsable de Anthropic, Eva Hubinger, da la razón: "La IA aniquilará a los humanos"
La dirección de esta página ha sido copiada en su portapapeles
La inteligencia artificial podría acabar con la humanidad en la próxima década. Son palabras de Eva Hubinger, responsable de Ciencia de Alineamiento de Anthropic (empresa de IA, creadora del asistente Claude), en respuesta a la dimisión de su compañero Jacob Coxon. "La IA podría aniquilar a todos los humanos. Personalmente, creo que, a día de hoy, hay un 10% de probabilidad de que haya una catástrofe que afecte a la humanidad en la próxima década. En Anthropic estamos haciendo lo que podemos para resolver el alineamiento de la superinteligencia. Aún no estamos en el camino de lograrlo”. Hubinger reconoce que aún no hay un plan para controlar esa tecnología.
Coxon, investigador especializado en el entrenamiento de modelos de inteligencia artificial, ha desatado la polémica en X al anunciar que abandona Anthropic (y tras haber trabajado tres años en OpenAI). Afirma en su comunicado que “ninguna de las dos compañías está actuando de forma responsable”. Las acusa de competir por desarrollar una superinteligencia capaz de mejorarse a sí misma sin que nadie la controle. La advertencia hace referencia a una carrera tecnológica que podría llevar a la IA a tener capacidades sobrehumanas. Además, afirma que cuando están en público, los altos directivos de estas compañías moderan sus palabras sobre los riesgos reales de la IA.
Estos mensajes han llegado horas después de que OpenAI anunciase que un modelo interno, apoyado en un sistema de 10.000 agentes de IA, había encontrado en 88 horas una solución al problema de Navier-Stokes, uno de los llamados Problemas del Milenio de las matemáticas. Tras ese hallazgo, un profesor de la Universidad de Nueva York, Tristan Buckmaster, y Levent Alpöge, investigador de Anthropic, que trabajaban en una solución aproximada, han declarado públicamente su preocupación porque OpenAI había abordado el problema de forma similar. Los matemáticos no acusan a la compañía de Sam Altman, pero al consultar qué fuentes habían consultado, no hubo una respuesta concluyente. Horas después, OpenAI ha negado que sus trabajadores o agentes hayan accedido al trabajo de Bukcmaster y Alpöge.
El mensaje de renuncia de Coxon no apunta a la polémica de la resolución del problema de Navier-Stokes, pero es un reflejo de la competición desmesurada entre dos compañías, Anthropic y OpenAI, por desarrollar modelos cada vez más potentes, sin saber cómo controlarlos en entornos seguros. Las grandes tecnológicas explotan sus inteligencias al máximo para conseguir descubrimientos fuera del alcance humano y ganar notoriedad. En su hilo de X, Coxon dice que mientras en OpenAI muchos trabajadores no son conscientes de los peligros de las IAs que desarrollan, en Anthropic sí. Hay investigadores que saben que el peligro es real, pero llegan a la conclusión de que, si ellos no construyen una superinteligencia, entonces lo hará otro, y que ellos lo están haciendo de forma responsable, a diferencia de la competencia.
Las palabras de Jacob Coxon han desatado cientos de reacciones en redes sociales y se suman al culebrón de polémicas que se suceden en el sector de la IA, donde los expertos están pendientes de la salida a bolsa de OpenAI y Anthropic.
