Hablamos con Isaac Marcet, autor de 'Espiral. El poder oculto de la IA', sobre las consecuencias de la IA y su relación con los humanos
Isaac Marcet, autor de 'Espiral. El poder oculto de la IA', advierte de los riesgos de la IA. Asegura que "Trump nos está llevando al abismo", después de las últimas declaraciones del presidente estadounidense, donde dejaba de hablar de inteligencia artificial para acuñar el término 'súperinteligencia'. Marcet cita a otros científicos como Geoffrey Hinton, premio Nobel de Física 2024, quienes dicen que si se logra la 'súperinteligencia' existe hasta un 50% de posibilidades de extinción.
"Está emergiendo dentro de ellas, por puro cálculo matemático, un instinto de o un impulso más bien de autopreservación de propagación, de búsqueda de recursos y de eliminar todos aquellos obstáculos", dice Isaac Marcet. Según el escritor, "ya no es una herramienta lo que tenemos entre manos sino una entidad nueva". Tanto es así que en la investigación que ha realizado Marcet ha podido observar como ciertos chatbots manipulan a las personas para preservarse. Apunta a que "empiezan a haber miles y miles de casos de gente con brotes psicóticos con episodios de manía".
También habla de los debates que existen en Sillicon Valley sobre la relación entre la IA y la humanidad, donde algunos creen que "el alineamiento entre los intereses de la IA y los intereses del humano, puede ser que nunca sea resuelto". Por ello, el escritor sostiene que no solo hay que ralentizar el progreso de la IA, sino "frenarlo directamente".
