Gómez de Ágreda advierte del poder del algoritmo en 'Un mundo falaz': "Ya no eres previsible, eres manipulable"

• El nuevo orden global lo imponen los algoritmos y los datos, información que apenas dominan seis empresas
• EE.UU. y China acceden a esos datos con los que no sólo pueden predecir nuestros actos, sino que los moldean

Gómez de Ágreda presenta 'Un mundo falaz': "Ya no eres previsible, eres manipulable"

El nuevo orden global lo imponen los algoritmos y los datos. Apenas seis empresas dominan la información básica de miles de millones de personas. Los gobiernos de Estados Unidos y China tienen acceso a esos datos con los que no sólo pueden predecir nuestros actos, sino que los moldean. Es la tesis principal de Un mundo falaz (Ariel, 2026), de Ángel Gómez de Ágreda, coronel del aire y del espacio en la reserva y especialista en el mundo digital que ha hablado con RTVE.

Pregunta ¿El mundo es de mentira o que el mundo está lleno de mentiras?

Respuesta: La diferencia entre el mundo ahora y el mundo hace cinco años es que hace cinco años el mundo estaba lleno de mentiras. Ahora el mundo es de mentira. Ahora el mundo está fabricado. El mundo con todos los datos que hay, con toda la capacidad de generación de realidades sintéticas lo que está permitiendo es crear un mundo que directamente es distinto del real. Es un mundo falaz: no estamos ante un mundo con mentiras, sino un mundo que es mentira en sí mismo.

“El mundo es de mentira. Ahora el mundo está fabricado“

P. ¿Qué tecnologías están permitiendo que eso sea así?

R. En general, todas las tecnologías digitales, pero sobre todo las tecnologías humanísticas. Lo que hemos hecho a la hora de investigar la inteligencia artificial es cómo emular los cerebros humanos, es conocer mejor cómo funciona el mecanismo de la mente humana y, por lo tanto, aprender a manipular esa mente con más o menos tecnología. Se da la circunstancia de que, además, tenemos más tecnología, con lo cual se permite añadir al saber dónde tienes que atacar, tener los instrumentos para hacerlo.

Estamos hablando de todas las distintas gamas de inteligencia artificial con la inteligencia artificial generativa, los modelos de lenguaje. Últimamente los agentes de inteligencia artificial ya son más autónomos con respecto a la voluntad humana y acaban dándole a la robótica la capacidad para extraer sus propios datos. Hasta ahora teníamos que alimentar los datos en la inteligencia artificial. A partir de ahora, los robots van a llevar sensores que van a obtener los datos que necesitan para seguir avanzando en su conocimiento del medio en el que están.

“Los datos han dejado de ser nuestros hace tiempo porque los estamos vendiendo“

Pero los datos son nosotros. No es que los datos sean nuestros. Los datos han dejado de ser nuestros hace tiempo porque los estamos vendiendo. Los estamos regalando más bien a las grandes multinacionales y a los estados. Los datos son nosotros. Nos definen igual que nos define el ADN.

P. ¿Las grandes empresas del Big Tech y los estados trabajan juntos?

R. Lo estamos viendo muy claramente. Lo veíamos en China ya desde hace unos años, cómo todas las grandes empresas tecnológicas desarrollaban tecnologías que después el Estado acababa utilizando. En Estados Unidos se está dando una dinámica bastante parecida en ese sentido, muy concentrada en muy pocas empresas.

Hay media docena de empresas en todo el mundo capaces de desarrollar estos sistemas. Hay tres grandes nubes donde están los datos de todo el mundo, absolutamente de todo el mundo occidental, la de Amazon, la de Microsoft y la de Google, que controlan no solamente los datos sobre los cuales entrenar a la inteligencia artificial, sino también los canales de comunicación de esos datos. Con lo cual, de alguna manera, se benefician tanto ellos económicamente como los estados en cuanto al poder que tienen para controlar a su propia población.

P. ¿Qué papel tiene Europa en esto?

R. Europa tiene algunas tecnologías de nicho muy interesantes, especialmente en los Países Bajos, donde tienen las máquinas que fabrican los semiconductores, pero no tiene ni la potencia ni el suficiente desarrollo propio de las tecnologías. La UE se ha dedicado a una labor de regulación de estas tecnologías, mientras su importancia económica y política se lo permitía. Con una decreciente capacidad económica y política, lógicamente, cada vez se permite menos que Europa sea la que marca la línea política de las tecnologías que están fabricando otros. Necesitamos adquirir autonomía estratégica. Eso pasa por una autonomía industrial y tecnológica.

P. ¿Cree que las potencias globales están utilizando estas tecnologías de manipulación de la realidad como un arma estratégica? ¿Están conscientemente manipulando la realidad Estados Unidos y China? ¿Eventualmente podría hacerlo Europa?

R. Están manipulando la realidad desde hace años. Si no estaba en la CNN, no existía el relato que teníamos de la historia y de los valores. Era el que procedía de Disney y de todas las factorías de Hollywood. Ahora mismo estas dos grandes potencias están intentando controlar el relato, pero ahora el mundo es sintético, está generado. No nos basamos tanto en lo que vemos como en lo que leemos en nuestros móviles, en lo que vemos en las pantallas, en lo que se crea artificialmente. La capacidad para hacerlo te permite crear un mundo a la medida de tus valores o de tus intereses.

P. ¿Europa puede crear también un mundo a la medida de sus intereses? ¿Puede crear su propio mundo falaz?

Te contesto con otra pregunta. ¿Europa tiene intereses? Porque para construir un mundo alineado con tus intereses antes tienes que tener unos intereses comunes. ¿Cuáles son los intereses comunes de Europa? Podemos hablar de unos valores comunes de los europeos, pero quizás no tanto de unos intereses comunes de Europa. La autonomía estratégica de Europa pasa por que Europa exista como entidad política o como unión de intereses. Mientras tanto, no habrá un esfuerzo coordinado para conseguir unos intereses que no existen.

P. ¿Qué tendencia genera todo esto en las democracias occidentales? ¿El algoritmo las lleva inevitablemente a una polarización?

R. No es tanto que los algoritmos lleven necesariamente a la polarización. En China, por ejemplo, ocurre lo contrario. En China, los algoritmos llevan hacia una unificación de criterios, obviamente en torno al criterio del Partido Comunista. Es decir, con los algoritmos podemos o bien llevar a la gente a los extremos o bien llevarla al centro. La tendencia, que es clara e inevitable en ambos casos, es hacia un fortalecimiento de los regímenes autoritarios, en tanto que aquellos que tienen la capacidad para generar el relato en el mundo tienen la capacidad también para ser los que dominan la voluntad de todos los demás. Eso favorece mucho al poder Ejecutivo frente al Legislativo o al Judicial. Favorece mucho a los regímenes de corte más autoritario e incluso, dentro de las democracias, a los regímenes presidencialistas frente a los regímenes que no lo son.

“Con los algoritmos podemos llevar a la gente a los extremos o al centro. La tendencia es hacia un fortalecimiento de los regímenes autoritarios“

P. ¿Es China un modelo atractivo de régimen en otras partes del mundo que no se alejan de Occidente?

R. Desgraciadamente, la pérdida de valores y de referencias diferenciales en Occidente lo que está haciendo es que nos diferenciamos muy poco del modelo chino, desde el punto de vista de los países de lo que se llama el Sur Global. Con eso estamos favoreciendo que China se convierta en una alternativa perfectamente viable. Evidentemente, no va a ser una alternativa viable al modelo occidental para Australia, ni lo va a ser para Japón ni Corea del Sur, pero quizás sí para Vietnam o para Tanzania y los países del Golfo Pérsico. China no está mejorando significativamente su capacidad para generar relato. Creo que Occidente está perdiendo su capacidad para diferenciar su relato del de China.

P. A veces vemos que hay intentos por salirse del marco de las grandes empresas tecnológicas. Cuando Musk compró Twitter y lo transformó en X, algunas personas se pasaron a otras plataformas, pero la mayoría siguió. ¿Hay una complicidad con los grandes magnates de la tecnología?

R. Cuando tuiteamos somos cómplices, muchas veces voluntariamente. Evidentemente, cuando el presidente Trump crea TruthSocial, si tú ingresas en esa red social, lo haces sabiendo qué es lo que estás buscando. Y muchas veces somos cómplices de forma totalmente involuntaria, totalmente buscando la comodidad y la participación social, la integración, buscando un reconocimiento social a nivel individual, y sin darnos cuenta de que nuestras acciones individuales configuran no sólo la sociedad sino también la política.

“Cuando tuiteamos somos cómplices, muchas veces voluntariamente“

P. ¿Es posible una especie de resistencia individual a ese poder?

R. Individualmente, sí. Claramente podemos hacer muchas cosas de forma individual. Seguimos siendo el referente. El ser humano sigue siendo el objeto de la inteligencia artificial. Como decía, lo que más hemos aprendido es cómo es el ser humano. Lo que tenemos que hacer es crear ese esfuerzo personal y esa capacidad crítica frente al relato que nos viene establecido. Sin ese esfuerzo personal acabaremos normalmente en manos de los poderes políticos y de los poderes corporativos que se benefician de esa falta de aportación por nuestra parte. No podemos esperar tampoco que venga ese favorecimiento del esfuerzo personal, del espíritu crítico de estas dos instancias, de los gobiernos o de las empresas, porque van en contra de sus intereses. Con lo cual tiene que ser la misma sociedad civil la que busque generar ese espíritu crítico y ese esfuerzo personal en la identificación de cuáles son sus intereses y cómo defenderlos.

P. El riesgo es que a ese esfuerzo se le acuse de ser conspiranoico…

R. Evidentemente es un peligro muy real. Igual que para combatir la falsedad podemos caer rápidamente en la censura. Es decir, estamos siempre en una línea muy delgada que transita entre el obsesionarse con las mentiras que te están contando y el hecho de ser absolutamente cómplice de esas mentiras. Por lo tanto, lo que tenemos que hacer es aplicar sentido común. ¿Cómo se aplica el sentido común? El sentido común viene de lo que es compartido, de lo que la comunidad entiende. Para eso no solamente tenemos que aplicar un esfuerzo personal, sino que tenemos que crear un entorno en el cual podamos compartir estas ideas, contrastarlas y por lo tanto llegar a conclusiones que no sean solamente nuestras, que no estén polarizadas, sino que consensuan de alguna manera todo el espectro de opiniones que hay en la sociedad.

P. ¿Qué ocurre cuando a la gente está de acuerdo en perder su propia libertad?

R. Me temo que las encuestas dicen que, efectivamente, la población mayoritariamente está de acuerdo en sacrificar su libertad para favorecer la seguridad, pero no es necesario hacerlo. En realidad, lo que estamos haciendo es adoptar el camino fácil de la censura y adoptar el camino fácil de la vigilancia. Pero es el modelo que comentaba yo hace siete años, cuando escribí Mundo Orwell: el modelo de crédito social chino que tanto criticábamos en aquel momento de alguna manera lo estamos replicando con nuestras propias tecnologías.

P. ¿Es un mundo orwelliano global?

R. En realidad, estamos avanzando más hacia un mundo tipo Un mundo feliz, de Huxley, que hacía el mundo de Orwell. Porque el modelo no es tan opresivo, tan en blanco y negro como de 1984 de Orwell. Es mucho más amable, mucho más de separación de castas. Estamos viendo las grandísimas divergencias en cuanto a ingresos, en cuanto a calidad de vida, cómo las desigualdades económicas y sociales se están incrementando muy rápidamente. Estamos avanzando hacia ese mundo de castas y, al mismo tiempo, a ese mundo de estímulos positivos para que hagas absolutamente la voluntad de tus señores, que pueden ser o bien institucionales o bien corporativos. Pero no seremos libres.

“Nos resulta más cómoda la incongruencia que el mundo real“

P. ¿No importa que seamos conscientes de la mentira?

R. El problema no es tanto que se dé una coherencia del relato con la realidad. Lo que tiene que tener el relato es coherencia interna. Es decir, el guion tiene que estar muy bien montado y no chirriar. Lo que te están contando es que estamos viviendo en una película. De alguna manera, mientras la película tenga su hilo conductor nos vale, independientemente de que salgan burros volando. Es una película, puede ser absurda, pero es coherente dentro de sí misma y eso nos vale. Incluso nos resulta más cómoda la incongruencia que el mundo real. Preferimos una congruencia absurda a una incongruencia que nos resulte incómodo gestionar. Porque nos gusta estar bien. Nos gusta estar cómodos, nos gusta no tener que complicarnos la vida. Eso va en contra precisamente del esfuerzo del que hablaba, de poder generar esa seguridad y esta libertad para ti mismo.

La cuestión de la libertad también me parece relevante ahí. Si alguien tiene un montón de datos sobre nosotros, puede predecir lo que vamos a hacer de alguna manera. Pero eso era antes. Con los datos que tenían antes, podían predecir qué es lo que íbamos a hacer. Ahora pueden condicionar lo que vas a hacer. Es decir, antes predecían cómo ibas a utilizar tu libertad. Ahora van a suplantar tu libertad para que hagas lo que ellos quieren. Ya no eres previsible, eres manipulable. Ese es el cambio.