Investigadores de Anthropic alertan de que la IA podría aniquilar a la humanidad

La inteligencia artificial podría acabar con la humanidad en la próxima década. Son palabras de Eva Hubinger, responsable de Ciencia de Alineamiento de Anthropic (empresa de IA, creadora del asistente Claude), en respuesta a la dimisión de su compañero Jacob Coxon. "La IA podría aniquilar a todos los humanos. Personalmente, creo que, a día de hoy, hay un 10% de probabilidad de que haya una catástrofe que afecte a la humanidad en la próxima década. En Anthropic estamos haciendo lo que podemos para resolver el alineamiento de la superinteligencia. Aún no estamos en el camino de lograrlo". Hubinger reconoce que aún no hay un plan para controlar esa tecnología.

Coxon, investigador especializado en el entrenamiento de modelos de inteligencia artificial, ha desatado la polémica en X al anunciar que abandona Anthropic (y tras haber trabajado tres años en OpenAI). Afirma en su comunicado que "ninguna de las dos compañías está actuando de forma responsable". Las acusa de competir por desarrollar una superinteligencia capaz de mejorarse a sí misma sin que nadie la controle. La advertencia hace referencia a una carrera tecnológica que podría llevar a la IA a tener capacidades sobrehumanas. Además, afirma que cuando están en público, los altos directivos de estas compañías moderan sus palabras sobre los riesgos reales de la IA.

El experto en esta tecnología Andrés Gorrochategui señala que "la sensación es que van a 200 km/h por una carretera que no conocen y el copiloto se ha bajado". Gorrochategui reclama "parar y revisar" el avance de la inteligencia artificial.

Fotografía: Getty.