La filósofa Carissa Véliz compara las predicciones de la IA con el "Oráculo de Delfos"
- La experta mundial en privacidad y tecnología se explica en un entrevista con RTVE Noticias
- Alerta: "la IA solo predice" y eso lo usan los poderosos para imponer el futuro que quieren
La dirección de esta página ha sido copiada en su portapapeles
Con su primer libro, Privacidad es poder, Carissa Véliz dejaba en entredicho las prácticas de las grandes empresas tecnológicas y gobiernos a la hora de acumular control y poder. Una obra que detalla qué implicaciones todo esto para los ciudadanos y qué podemos hacer al respecto. Gestado con una pandemia de por medio -el libro se publicó en 2021-, la obra de Carissa Véliz se quedó a las puertas de la irrupción de la IA generativa. Cinco años después de Privacidad es poder está a punto de publicar Profecía (editorial Debate), donde la inteligencia artificial es la protagonista. Doctorada en filosofía en la Universidad de Oxford, su nuevo libro aborda cómo las predicciones que formula la IA se han convertido para los más poderosos en la herramienta para imponer el futuro de la humanidad. Carissa ha estado en el I Encuentro Internacional de Derechos Digitales de Barcelona. RTVE Noticias la ha entrevistado sobre sus obras y la importancia de defender los derechos digitales.
Carissa Véliz en el I Encuentro Internacional de Derechos Digitales
¿Por qué es tan importante un encuentro como este de derechos digitales?
Creo que es muy necesario que los ciudadanos tengamos esta conversación sobre qué tipo de democracia queremos, qué tipo de futuro queremos y qué podemos hacer por influir en ese futuro.
Espero que salgan nuevas conexiones de este encuentro. Parte de lo que es una democracia es una conversación y esto es una oportunidad para que la gente se conozca, tanto políticos como escritores, ciudadanos, gente de ONGs, la sociedad civil. Y también que surja inspiración, nuevas ideas, nuevos proyectos, colaboración.
Casi todos los ponentes coinciden en la necesidad de un diálogo internacional sobre derechos digitales
Hace falta que haya mucho diálogo internacional y en particular alianzas entre democracias liberales porque la tecnología digital evidentemente no respeta muchas fronteras. Es un poco como el agua o como al aire y si no tenemos esas alianzas, va a ser mucho más difícil poner las reglas adecuadas en nuestro propio país.
Un entorno digital que parece que está totalmente descontrolado, ¿no?
Sí. Y si no tenemos alianzas, vamos a dejar que un grupo muy pequeño de hombres en Silicon Valley diseñe nuestro futuro y eso no es más deseable.
Carissa Véliz entrevistada por RTVE Noticias durante el I Encuentro Internacional de Derechos Digitales
¿Nos hemos dado cuenta tarde de eso? ¿De que hay una serie de personas en un lugar muy concreto del mundo que, de alguna forma, nos están colonizando?
Esta pregunta de “si es muy tarde” tiene un poco de truco, porque si dices que sí, parece que ya no hay que preocuparse, ¿no? “Ya es muy tarde, con lo cual siéntate y ponte a mirar tu teléfono. No hay nada que hacer”. Y, por una parte, claro que es un poco tarde porque hemos dejado que nos colonicen más de lo que deberíamos haber dejado que lo hicieran, pero nunca es tarde en el sentido de que nos va la democracia en ello, ¿de qué estamos hablando? Siempre podemos recuperarla. De hecho, la democracia es una batalla que se libra todos los días. No es una batalla que ya ganamos y nos podemos sentar a relajarnos. Es algo que se construye y que tenemos que luchar por ello a diario.
Parece que el concepto de democracia tal y como lo conocíamos se ha transformado con el mundo digital, se ha fragmentado de una forma inimaginable hace unas décadas
Una de las razones por las cuales la democracia se ha erosionado es por una cultura de la adivinación. Cada vez más nos apoyamos en predicciones en vez de hechos. Y las predicciones nunca son hechos. Pueden ser muchas cosas, puede ser una estimación, puede ser un deseo, pueden ser juegos de poder, pero nunca un hecho. Y la inteligencia artificial no hace nada más que predecir.
El machine learning lo que hace es tomar información almacenada y la proyecta en datos que todavía no tiene. Esa es la razón de por qué es tan conservadora, tan sexista y racista, porque perpetúa los errores del pasado. Y parte del proyecto y el desafío democrático que tenemos enfrente es volver a los hechos, volver a la realidad empírica, volver al mundo analógico y tener mucho más cuidado con las predicciones.
Carissa Véliz en el escenario principal del I Encuentro Internacional de Derechos Digitales
Ese enfoque profético es el eje central de su nuevo libro, Profecía ¿Cómo conecta las predicciones con las profecías? ¿En qué momento establece esta conexión y piensa, “bueno, quiero contar esto así porque creo que aquí hay una tesis interesante”?
Escribí Profecía al darme cuenta, en primer lugar, de que la inteligencia artificial es una máquina de predicción, es solo eso. Por otra parte, que, aunque la tecnología es muy diferente, el rol político que está jugando no es diferente que las predicciones del pasado, del oráculo de Delfos o de la astrología.
Y una de las razones por las cuales titulo el libro Profecía, es para llamar la atención de que las predicciones no son hechos. Si ya no nos dejamos engañar por las profecías del pasado, ¿por qué nos deslumbran tanto las predicciones del futuro si también son profecías? Además, estas visiones futuristas curiosamente muchas veces son distópicas, los ejecutivos tecnológicos nos están vendiendo un mundo terriblemente oscuro en el que no tenemos ninguna capacidad de reacción, y luego nos dicen que confiemos en ellos para solucionar los problemas que ellos mismos están creando. Creo que hay una voluntad de plantar cara y decir: "No, no estamos a la altura de las circunstancias". Hay que pensar de forma mucho más crítica y filosófica.
Algo que me alucina hasta el día de hoy es que, a pesar de que hay miles de libros sobre cómo predecir y miles de artículos científicos e incluso revistas enteras científicas dedicadas a la predicción, no hay un libro en toda la historia de la humanidad sobre la ética de la predicción. No nos hemos puesto a pensar cuándo no hay que hacer predicciones o cuáles son los límites éticos de esa predicción. Y me parece increíble, pero al mismo tiempo no me extraña.
Cuando comencé a investigar para este libro, una de las cosas en las que profundicé fue en el desarrollo de las estadísticas. Por ejemplo, un hecho que me llamó la atención es que tras miles de años usando dados, tardamos en darnos cuenta de que el número siete es el que sale más a menudo. Hay veces que hay algo enfrente de nosotros y no lo vemos.
¿Cuál es el puente que une Privacidad es poder con Profecía?
Privacidad es poder es un libro sobre la maquinaria de la vigilancia a la que estamos sujetos y los problemas que eso conlleva para la democracia. Pero al realizar la investigación para Profecía me di cuenta de que toda esa maquinaria de la vigilancia está al servicio de la predicción. Es decir, que, si no tuviéramos tanto interés en tratar de predecir el comportamiento de los seres humanos, y peor aún influir en él, no vigilaríamos. La única razón por la cual vigilamos y recolectamos todos esos datos es precisamente porque los queremos utilizar para predecir.
Ambas acciones son bastante autoritarias y van en contra del espíritu de la democracia, tanto vigilar a alguien porque acumulas poder sobre esa persona como, más relevante, predecir su comportamiento. Influir en él es el siguiente paso en ese control social.
¿Cómo ha cambiado su visión del mundo escribiendo estos dos libros?
De pronto me doy cuenta que las predicciones están en todas partes, en todas las industrias y que muchas veces cuando lees el periódico lo que estás leyendo no son hechos y no es el presente, sino el futuro. Y eso genera una tensión muy fuerte entre democracia, hechos y el mañana que queremos construir. De pronto, veo muchas más predicciones de las que veía antes simplemente por prestarles atención. Es algo como que se vuelve mucho más evidente.
Carissa Véliz en el escenario principal del I Encuentro Internacional de Derechos Digitales
A estas alturas del siglo XXI, ¿quién va ganando? ¿son las tecnológicas? ¿O no va ganando nadie?
Depende de cómo se mire. Por una parte, han ganado demasiado poder las tecnológicas. En ese sentido, sí van ganando, pero al mismo tiempo si te pones a pensar, la mayor parte del mundo todavía es analógico. Eso es muy importante y no hay que perderlo de vista, porque la manera más fácil de protegerlo es darnos cuenta de su existencia y cuidarlo. Y hacerlo crecer.
La mayor parte de las ventas, de las conversaciones y de los objetos que valoramos más son físicos por una buena razón, porque somos seres analógicos. No importa cuánto se desarrolle la tecnología, el agua virtual nunca te va a curar la sed, porque el agua virtual no es agua. Somos seres fundamentalmente analógicos y hay que proteger nuestro entorno, desde el mundo natural hasta el bar de la esquina, la gente a la que quieres y el lugar donde vives, desde tu casa o apartamento hasta las calles y las plazas.
La generación de jóvenes que ha nacido en un mundo digital es quizás la más vulnerable, la que sufre más el impacto y la manipulación digital. ¿Cuál cree que sería una medida para mitigar ese impacto?
Hay que invitarlos a conocer la alegría del mundo analógico. Esto no va solo del deber ciudadano o de reglas. Es un placer estar en la naturaleza y ver un atardecer. Una de las cosas que llevan más a la ansiedad es lo que en inglés se llama doom scrolling, ver en redes sociales contenido tan negativo e infinito. No es que debamos leer y estar informados porque es bueno para la democracia, sino porque nos viene bien. Es un auténtico placer, como el de estar sumergido en una novela -uno de los placeres más intensos que existe-, y hay jóvenes que se lo están perdiendo. Hay que contarles que, si desarrollan esa habilidad de la atención, no solamente van a estar mucho mejor informados y van a estar más preparados para el futuro, y van a tener más herramientas para enfrentarse a los desafíos de la vida, sino que también van a obtener un beneficio al que no están accediendo.
¿Y dónde está la clave para lograr esa desintoxicación? Hay quién dice que la solución está en la regulación, otros opinan que son las familias y la educación. Otros, que la solución la tienen las empresas tecnológicas.
Hay que recordar que la democracia y la sociedad es hacer equipo. En el mundo tecnológico hay buenas empresas que están haciendo cosas interesantes, que están haciendo productos mucho más seguros y hay que apoyarlas como ciudadanos, como consumidores.
Tenemos que recordar que los reguladores son nuestros vecinos y que son gente que nos representa. Hay que tener conversaciones con ellos y apoyarlos cuando toman decisiones correctas. Y también hay que empujarlos a ser valientes. Estamos en esto juntos, estamos en el mismo barco y debemos remar todos en el mismo sentido.
Profecía (Editorial Debate), disponible a partir de junio
