www.rtve.es /pages/rtve-player-app/2.11.0/js
3365838
Millennium - El hombre tecnológico - ver ahora
Transcripción completa

Lo que ayer era ficción hoy es realidad

y la cosa avanza un día detrás de otro.

Leíamos novelas, veíamos películas en los años 60, 70, 80,

precisamente como "Yo, robot" o "Blade Runner"

o incluso "Star Wars".

Sin embargo, todos esos personajes que aparecían como secundarios

poco a poco se van convirtiendo en realidad.

Hoy en "Millennium" queremos hablar precisamente de robots,

de seres humanos evolucionados

y de cuando se producirán.

(Música cabecera)

Este es el libro que hace unas semanas ganó

el Premio Minotauro

que se otorgó coincidiendo con el Festival de Cine de Sitges.

Se llama "Los que sueñan"

y está editado por Planeta,

pero lo más importante es que el autor es Elio Quiroga,

nuestro invitado de hoy. Bienvenido.

Bien hallado.

Gracias.

¿Te pasaste o se pasó usted a la novela

para olvidar los disgustos del cine?

En parte sí, supongo que, como bien sabes, hacer cine

es luchar contra los imponderables, es trabajar contra la ley de Murphy.

Y al menos en la literatura

solo tienes la limitación de tu imaginación,

el tiempo, el número de páginas y poco más.

Dígame usted cuándo cree que realmente los robots

estarán a nuestro alcance en el día a día.

Ya sé que hay una cosa que se llama robótica,

que está fundamentalmente en las cocinas.

También sé que se hace ahora,

se trabaja mucho en el internet de las cosas.

Y que todo eso, evidentemente, evoluciona.

Pero estamos pensando ya en una robótica,

no diría que con sentimientos, pero sí con dudas.

Correcto.

Pues no lo sé, dependerá de un montón de cosas.

Hay un montón de campos de investigación actualmente

que tienen que confluir,

porque interactuar con seres humanos es algo muy complejo.

De todas formas, se están viendo

pequeños indicios del futuro en robots

que ayudan sobre todo a gente mayor, en hospitales,

e incluso exoesqueletos para que la gente pueda moverse

de forma más cómoda, personas que tengan dificultades de movilidad.

Todo eso supongo que irá confluyendo en el futuro

en una especie de robot o múltiples soluciones robóticas

para ayudar a hacer la vida cotidiana de la gente más fácil

que creo que será el objetivo inicial.

Y cuando se sienta usted en el ordenador a escribir un guion,

¿usted no tiene la impresión de que sus personajes

que usted crea en su cabeza tienen algo de robots?

Sí, en cierta medida,

porque al final son seres teledirigidos por uno mismo,

tienen partes de uno, trozos de uno.

Se llevan trozos de uno con ellos.

Probablemente sea así

y sean sosias de uno al otro lado del espejo, probablemente.

¿Podríamos pensar entonces en esa fórmula

de que un robot sea alguien que nosotros creemos

en función de nuestros intereses y también de nuestra sensibilidad

para que sean de un modo u otro

y los tengamos al lado para ayudarnos?

Puede ser y puede ser también que sean algo así

como lo que quisiéramos ser en el futuro,

una especie de futura humanidad que nos puede esperar

entre la humanidad y la máquina.

Eso supone que en cualquier caso que el robot

superará al ser humano.

Eso se dice, eso se cuenta.

No, no me diga que se dice y se cuenta,

sino cómo lo ve usted.

Me resulta...

Quiero decir,

hay un aspecto como muy técnico de toda esta historia

que es la forma en que la tecnología está basando la simulación

de un ser humano a través de un ser artificial, o sea, un robot.

Porque creo que todavía no estamos

y ni siquiera conocemos cómo solucionar el problema

porque no sabemos cómo funcionamos nosotros mismos.

Tendría todavía que haber una cierta evolución en el conocimiento

del funcionamiento del propio ser humano

para que podamos implementar eso en un ser artificial.

Hasta que no sepamos eso,

que no sé siquiera lo podremos saber,

creo que no podemos crear seres, digamos,

superiores o mejores que nosotros.

Y estamos en ese camino, creo.

Usted, la primera parte de su novela,

es claramente una novela de terror.

¿A usted no le da miedo eso,

que un día esos robots que están cerca

se rebelen como pasó

en el famoso HAL, en la película de Kubrick?

Totalmente.

Hay incluso una universidad de EE. UU.

que está justo enfrente de Google

que se llama la universidad de la singularidad

que tiene esa teoría de que el momento

en que la máquina tome conciencia nos va a ver y va a decir

que esta especie que vive en este planeta

no son demasiado inteligentes,

a ver si los extermina y sigue ella misma.

La culpa la tendremos nosotros.

Nosotros habremos iniciado el problema

y sigue estando en nuestras manos la solución

antes de que ocurra lo inevitable.

Vuélvalo a decir.

Nosotros somos responsables del desastre en que vivimos.

¿Y usted cree que se puede resolver?

Sin lugar a dudas, soy muy optimista. Confío en la humanidad.

Hace medio millón de años

éramos un par de tribus de cazadores-recolectores

perdidos en mitad de África.

Nadie hubiera apostado por nosotros y aquí estamos con móviles, internet.

Yo confío en la humanidad.

¿En los sentimientos buenos y en los sentimientos malos?

Pues también creo que en el poder, y esto va a quedar un poco cursi,

pero confío en el poder del amor entre los seres humanos

y que al final eso mueve montañas

y que todos los sinsabores que hemos experimentado

como especie tienen un sentido.

Está bien.

Un buen elemento para reflexionar después en el debate.

Vayamos un poco más allá.

Elio Quiroga espectador,

¿con qué películas se queda

de todas las que ha visto de ciencia ficción?

Si ese es el género.

Jolín, difícil pregunta.

Pues, por poner un par de ejemplos,

antes comentaste sobre "2001",

para mí una de mis películas de cabecera,

la habré visto 40 o 50 veces,

y creo que encierra una revisión muy interesante

sobre la condición humana.

Y por poner un ejemplo cercano, aunque sea televisión,

pues una serie como, estaba pensando en...

series relativamente recientes que hablan sobre la interacción

entre hombre y máquina como "Black Mirror",

que tiene pequeños episodios autoconclusivos

que son muy interesantes.

Me quedaría, por ejemplo, con esos dos títulos.

Pues no están nada mal.

La novela ya ha dicho usted que no es adaptable al cine,

salvo que encontrásemos a un genio como Stanley Kubrick.

Pero ¿la adaptaría usted a la televisión?

Podría ser una idea adaptarla a la televisión,

porque encierra un universo muy complejo

en el que podían ocurrir infinidad de historias.

Y hoy en día justo la televisión,

que está permitiendo hacer series muy largas

con arcos argumentales muy complejos,

digamos que está tomando un poco el relevo del cine,

que se ha vuelto como más conservador y más...

Las máquinas también dan mucho más allá.

Por ejemplo, a nuestra vida cotidiana y también a la política.

Hace poco yo leí esa noticia

que habían mejorado

que habían mejorado

los sistemas de ver a la gente

que pasa las fronteras, los coches y demás

y que simplemente la cámara, si le dan un periodo de tiempo,

podría reconocer sin pasar el control del pasaporte.

Con lo cual hacía al pasaporte un objeto inútil.

¿Eso usted lo entendería

como una aplicación "buena"

de la tecnología o mala?

Porque también es verdad

que nos ponemos en manos de las redes sociales

y les contamos todos nuestros secretos.

Como siempre es un asunto de cómo manejemos el problema

y qué decidamos hacer con la tecnología.

La tecnología de por sí siempre es inofensiva.

El problema de este asunto, por ejemplo,

es que estamos cediendo en nombre de una supuesta seguridad

parcelas de libertad a unas máquinas que no sabemos quién programa,

desconocemos cuáles son las intenciones finales

y qué pasa si se utilizan de una forma no demasiado sana.

¿Quién decide qué es malo y qué es bueno?

Tenemos que decidirlo nosotros.

Y por ende los gobiernos a los que elegimos en las elecciones.

Bueno, eso ahora podríamos empezar...

Hace poco leí... Voy a dos noticias más.

Una, en algún país de Latinoamérica que decía un técnico:

"No voten ustedes nunca a través del voto digital".

Porque...

¿Porque qué?

Porque no sabes quién está contando los votos.

El conteo manual en este momento está superauditado.

Hay interventores de los diferentes partidos,

hay una elección española que es con la que estamos familiarizados.

Hay un control vivo en el momento en que se hace.

Quién está controlando el software de esa maquinita,

quién lo ha programado, con qué intenciones.

Es preocupante. A mí me preocuparía.

Segunda noticia que yo creo que fue en agosto pasado

que un robot se rebeló en una cadena de montaje.

Yo creo que era en Alemania o en algún país del este de Europa

y mató al trabajador al que asistía,

porque, no sé muy bien qué había sucedido entre ambos,

pero lo cierto es que el robot mató al señor

que estaba en la cadena de montaje.

¿Eso no da miedo?

Eso llevaría a una novela muy interesante.

Sí que da miedo.

La palabra "rebelarse" es atribuir cualidades humanas

a objetos que por ahora no las tienen.

Algo debió de pasar con la programación de esa máquina.

Son máquinas-herramientas que simplemente repiten rutinas.

Pero a lo mejor en el futuro

tiene que haber sindicatos para robots y cosas así.

¿Quién sabe?

Todo dependerá de hasta dónde seamos capaces de llevar esta nueva aventura

de crear seres humanos artificiales.

Está bien lo de los sindicatos.

Hay muchos apuntes en la novela que me parecen interesantísimos,

como esa especie de patronal de las grandes religiones.

¿Usted cree realmente que hay una unión

entre las grandes religiones

para intentar frenar toda esa especie de evolución humana?

Probablemente sí.

En la novela se cuenta un escenario,

un futuro en que una empresa ofrece un servicio, digamos, muy especial

al público que básicamente quita clientes a las grandes religiones.

Entonces como el pastel se les reduce

se ven obligadas a unirse para luchar contra ese enemigo común

que es esta especie de gran compañía.

Y creo que sí, que al final, como digo,

confío mucho en la humanidad

y creo que la religión nos ha ayudado mucho hasta ahora.

Creo que en el hombre religioso, que es un asunto íntimo,

pero creo que en las religiones de libro ha llegado un momento

en el que la humanidad va a decir: "Ya no nos hacéis falta.

Podemos seguir los seres humanos de forma autónoma

con nuestro concepto personal de religión".

Y obviamente eso lo van a llevar muy mal.

Tendrán sus contrarreformas y va a haber mucho conflicto,

pero bueno, va a ser muy interesante.

¿Y vas a escribir una novela?

Pues ¿por qué no?

Podría ser interesante el asunto.

Vamos ahora a ver...

Vamos a dejar todo esto en el aire para nuestra tertulia.

Vamos a ver un reportaje que nos permitirá

introducirnos de lleno en ella

y también presentar a nuestros invitados.

A uno de ellos, Elio Quiroga, ya lo conocen ustedes.

Esto que ven es un exoesqueleto,

un robot acoplado a tronco y piernas que permite andar

a los que no pueden hacerlo.

Países como EE. UU., Japón o Israel lo comercializan,

eso sí, solo para adultos.

España es pionera en exportar esta tecnología al campo pediátrico

y ella, Elena García, es la responsable.

Un exoesqueleto es un robot que está por fuera del cuerpo.

Sustituye a los huesos, le da rigidez.

Luego tenemos los motores que dan movilidad

y al mismo tiempo aportan fuerza.

Es equiparable al músculo.

Luego tenemos una serie de sensores integrados.

La sensibilidad del sistema es capaz de entender

lo que le está pasando a la persona

y también sabe un poquito el estado del robot.

Y hay un cerebro que es el controlador,

es un ordenador.

Lleva un programa a bordo

y es el que se encarga de obtener esa información sensorial,

comprobar que todo está ocurriendo como tiene que ocurrir,

que se está generando una marcha natural

y corrige o manda los movimientos a las articulaciones

a través de los motores, o sea, los músculos

para que se mueva el exoesqueleto y camine.

Hasta la fecha se han desarrollado dos prototipos.

El primero, que se probó con éxito en una niña tetrapléjica

hace ya un par de años, y el segundo,

el más pequeño del mundo.

Ten en cuenta que cuando las personas perdemos la capacidad de caminar,

sufrimos una degeneración física muy importante.

El mantener la marcha ayuda a combatir complicaciones

como la escoliosis, que es uno de los problemas más graves

que tienen estos niños, porque afecta a la capacidad pulmonar.

Otro tipo de deformidades,

problemas en la rigidez de las articulaciones...

Entonces, el mantenerles caminando, por supuesto,

tiene un efecto rehabilitador, tiene un impacto en su salud,

pero principalmente hay que tener en cuenta el impacto psicológico

que tiene el conferir autonomía en las actividades diarias.

Va a necesitar lógicamente la ayuda de los padres o del fisioterapeuta

para poder colocárselo, pero no es difícil de poner.

Es modular, conque primero se pone una pierna, luego otra

y no reviste ninguna complejidad.

Lo podrían utilizar sin problema.

En España, 120 000 niños sufren patologías

que les impiden caminar.

La cifra asciende a 700 000 en el caso de Europa

y a 17 millones en todo el mundo.

La compañía Marsi Bionics es la única a nivel mundial

que pretende comercializar este tipo de exoesqueletos.

Está hecho para ayudar a la gente que no puede caminar.

-Para ayudar a mi hermana.

Con esta campaña de crowdfunding quieren lograr

que este robot deje de ser un prototipo de investigación

para convertirse en una realidad.

Una vez conseguido,

calculan que su coste en el mercado sería de 50 000 euros,

tres veces menos de lo que cuestan, por ejemplo,

los exoesqueletos para adultos en EE. UU.

Además tendría varias tallas

que se irían ajustando al crecimiento del niño.

Por favor, danos los recursos para que podamos fabricarlos.

¿Qué significaría un robot de estas características

en el día a día de un ser humano?

Y sobre todo, ¿somos realmente conscientes de hasta qué punto

la tecnología puede ayudar al hombre?

Un buen trabajo de investigación, un buen trabajo social

para por ahora al menos

es una experiencia francamente positiva la que hemos visto

en nuestro reportaje.

A Elio Quiroga lo conocen y a los demás contertulios

los presento ahora mismo.

Ahí está el señor Miquel-Àngel Serra, biólogo.

Doctor en Biología por la UAB.

Trabaja en neurociencias

en el laboratorio de neurofarmacología

de la Universidad Pompeu Fabra de Barcelona

y es profesor de bioética y gestión de la investigación científica.

Ha coordinado junto a Albert Cortina

el ensayo "¿Humanos o posthumanos?"

que está editado por la editorial Fragmenta y que yo recomiendo.

Me parece un libro apasionante y cuando los he leído

y me lo parecen, lo digo inmediatamente.

También está con nosotros

el señor Fernando Broncano, filósofo.

Doctor en Filosofía por la Universidad de Salamanca,

catedrático de Lógica y Filosofía de la Ciencia

de la Universidad Carlos III de Madrid.

Desarrolla su trabajo sobre la noción de racionalidad

y al estudio de las relaciones entre ciencia, técnica y cultura.

Es autor, entre otros, de un libro con un título maravilloso,

que es "La melancolía del cíborg"

y que está editado por la editorial Herder

en una colección de pensamiento

dirigido por Manuel Cruz

que ha estado aquí en Millennium

en dos ocasiones, que yo recuerde.

También es un libro francamente interesante,

distinto al anterior,

y que también me tocó, y eso que no soy experto

en los temas de los que hablamos ahora.

Nuestra invitada, Concepción Monge, ingeniera.

Licenciada en Ingeniería Electrónica por la Universidad de Extremadura.

Profesora de sistemas robotizados

e investigadora de robots humanoides en el Robotics Lab

de la Universidad Carlos III de Madrid.

Ha colaborado en el asesoramiento científico-técnico

de la película "Autómata",

nominada a los premios Goya 2015, que no tenemos aquí,

pero que pueden encontrar ustedes en las plataformas que hay de cine

y previo pago de una cifra no muy alta la pueden ver ustedes

fácilmente, con mucha facilidad,

que esa es una gran ventaja que la técnica o la tecnología

nos permite en estos momentos.

Yo empezaría con una cosa que me parece muy básica,

ya que el libro de Miquel-Àngel

que hemos presentado, el de "¿Humanos o posthumanos?",

yo creo que tocaría intentar definir

lo que son los humanos,

los transhumanos y los posthumanos

para que al menos estemos en un punto de partida común.

Muy bien, me parece correcto.

Yo estoy de acuerdo con él,

y lo primero tenemos que saber qué es un ser humano.

Todavía no lo sabemos.

Llevamos muchos años, desde la Grecia clásica,

intentando entender qué es ser humano.

Y todavía estamos en la tarea. Lo comentábamos antes con Fernando.

Por lo tanto, tenemos un gran trabajo que hacer todavía.

El concepto de transhumano y también el de posthumano,

viene de la corriente conocida como "filosofía transhumanista".

Es una filosofía que tiene ya bastante recorrido

en países anglosajones, pero no en nuestro país.

Y es relativamente reciente su aterrizaje aquí.

Sin embargo, tiene una gran importancia,

porque recibe una financiación importante

y llevan a cabo proyectos de investigación

en diferentes países, sobre todo en EE. UU. y Reino Unido.

Ellos entienden como transhumano

un humano en transición, un humano mejorado

al cual se le han aplicado tecnologías,

tecnologías emergentes, las NBIC,

nanotecnología, la biotecnología,

tecnología de la información y ciencia cognitiva,

para conseguir aumentar de una forma muy importante y significativa

sus capacidades.

Las capacidades que tenemos los humanos

se ven aumentadas en el transhumano, pero todavía lo podemos reconocer.

Sin embargo, el posthumano es algo que llegará,

según dicen los transhumanistas,

que llegue a la singularidad tecnológica.

Lo que dicen ellos, la singularidad.

La singularidad, tú hablabas antes de la universidad de la singularidad,

ahí están trabajando en ese tema, por ejemplo,

pues se da cuando la inteligencia artificial

se fusione con la parte biológica y la supere.

Si queréis un ejemplo, sería como si los robots pudieran adquirir

unas propiedades que solo tenemos los humanos y superarnos ampliamente

e incluso prescindir de nosotros, como tú también apuntabas.

La diferencie entre un transhumano y un posthumano será clarísima.

No habrá ninguna duda, según dicen los filósofos transhumanistas,

de que son seres completamente diferentes,

quizá una nueva especie dicen ellos, no lo sabemos.

Tampoco nos lo podemos imaginar.

Es algo inimaginable para cualquiera que sea anterior a la singularidad,

a ese fenómeno que algunos dicen que se producirá en unas décadas,

otros quizá en un siglo, otros en menos tiempo, eso no lo sabemos.

Pero este es un poco el marco en que nos movemos.

Ha salido varias veces

una palabra antigua

que en los sistemas educativos actuales parece que está de bajada,

pero parece muy importante que es la filosofía.

¿Estamos manejando

cuando hablamos de humanos, transhumanos, robots y demás,

fundamentalmente, aparte de tecnología, filosofía?

Sí, yo creo que es central.

Hay muchos problemas filosóficos que están implicados

en lo que decía Miquel-Àngel.

Digamos que aquí hay como dos cuestiones

en el debate transhumanismo-posthumanismo.

Uno es el aspecto de promesa tecnológica,

es decir, tenemos ahora una serie de posibilidades,

algunas de ellas se van a realizar, otras no.

Lo que propone el transhumanismo es un modelo,

una promesa de mejora de la especie humana.

Lo que plantea el posthumanismo...

Ahí los filósofos discutimos un poco.

Hay el posthumanismo que trasciende a la humanidad

y está también, hay muchas formas de posthumanismo menos radicales,

que lo que plantean es un repensar

lo que fue el humanismo tradicional.

El humanismo tradicional estaba muy centrado en el antropocentrismo,

considerar que el centro del universo es la especie humana

como si todo hubiera convergido para realizarla

y fuéramos dueños de la naturaleza. Ese es el humanismo que...

¿Y el nuevo humanismo dónde estaría?

El nuevo humanismo, estas formas que también son posthumanistas

son las que plantean dos cuestiones.

Una, la de que tal vez estábamos equivocados al sentirnos

el absoluto centro de la naturaleza

que tal vez eso nos ha llevado a ser una especie invasora

que está destruyendo su propio lugar de habitáculo

y quizá deberíamos repensar el hecho de que nosotros no tenemos esencia.

Como decía Ortega, lo que tenemos es más bien historia y cultura.

Y en la medida que tenemos historia y cultura,

está por hacer la especie humana.

Entonces podemos pensar que somos una mezcla

de naturaleza y artificio y de técnica

y por tanto nuestro horizonte no está cerrado.

Aquí hay dos maneras de entenderlo.

Una es determinista, creo que podemos discutirlo después

esta inevitabilidad de la singularidad

que me parece más que discutible.

Y la otra cuestión, que es más interesante,

es en qué medida podemos comenzar a cambiar, a pensar, a meditar

sobre qué posibilidades y qué horizonte

nos cabe pensar como deseable.

Y a mí me parece que el nuevo humanismo

o lo que llamamos las nuevas humanidades

trabajan en esta línea de no separar la tecnología

de nuestros propios futuros y la ética

y nuestras políticas de especie, por llamarlo de alguna manera.

De alguna manera, por lo que le escucho,

sería una puesta al día de esas condiciones básicas

del humanismo, de la ética, de la libertad,

de todo eso.

Claro.

Todas las viejas... ¿Y la ingeniera qué piensa?

Bueno, esto me resulta muy interesante, la verdad.

Nosotros en mi universidad trabajamos muy a nivel mecatrónico,

lo comentaba antes con los participantes a esta charla.

Díganos lo que es mecatrónico, porque yo no lo sé.

(RÍE) La estructura física, el chasis del robot.

Por lo menos en mi grupo de investigación.

Y tenemos otros grupos que hablan de emociones,

hablan de sentimientos y, de hecho,

Fernando colaboró en alguna de nuestras tesis como jurado.

Y hemos estado comentando que qué bonito esto de modelar

la emoción y de implementarla en un robot para que aparentemente

parezca que siente.

Y es verdad que nosotros cada vez más trabajamos con sociólogos,

psicólogos, antropólogos, por ejemplo.

Ahora tenemos una línea de robots evolutivos en la que,

un poco como dice el investigador responsable Carlos Balaguer,

jugamos un poco a hacer robots,

jugamos a ser Frankenstein.

Y, bueno, proponemos una serie de tareas,

discernimos cuál es el robot que mejor puede hacerla,

independientemente de que esto suponga

que tenga que tener tres brazos o una cola

o cuatro ojos.

Entonces, siempre el contacto con el antropólogo

que nos ponga un poco los pies en la tierra

y que digan si eso puede ser o no viable, o no.

¿Por qué tiene que ser así? ¿Por qué no pensar en otra posibilidad?

Entonces este es un poco el tema.

Me quedo aquí estupefacto con alguna de las cosas

que me ha gustado que haya dicho.

Ha hablado mucho de simulación,

con lo cual eso en el mundo de la simulación,

yo creo que la ficción puede ser un viaje

a toda esa simulación.

Pero volvamos un poquito para atrás,

porque yo también necesito,

y los espectadores supongo que también algunos,

saber eso que se llama robot

y que solamente hemos visto en las películas,

en "Planeta prohibido", por ejemplo,

es el tópico más grande.

¿Cómo son? ¿Son como los inventados por los creativos de Hollywood?

¿O son de otro modo completamente distinto?

Bueno, yo creo que el robot tiene múltiples formas.

Antes hablábamos de que una red eléctrica

podía considerarse un robot.

Yo creo que en el momento en que tengan un cierto grado

de autonomía y de inteligencia,

podemos considerar que hablamos de un robot.

Independientemente de su morfología.

Pero sí que es cierto que el cine nos ha llevado o nos ha obligado

a tener esa imagen del robot como un ente humano

o con cierta forma conocida,

humana o un perro o... en fin.

Y todo lo que se aleja un poco de ahí

pues ya entramos en la discusión si esa definición

aplica o no aplica.

Yo soy partidaria de definir al robot como cualquier dispositivo

que pueda tener una cierta capacidad de inteligencia y de autonomía.

Y que pueda resolver ciertas tareas.

Antes hablábamos de ese robot que es capaz de resolver

todos los problemas, todas las tareas y eso creo que estamos lejos de ello.

Ahora mismo hacemos robots para tareas particulares

y son muy eficientes para tareas particulares.

No solo es un problema que requiera un nivel de inteligencia brutal,

pero para ese problema en concreto.

Un teléfono celular. Un teléfono móvil, claro que sí.

Es un robot.

Podemos considerarlo así.

De hecho, muchos teléfonos móviles tienen muchísima más inteligencia

y autonomía que pueda tener cualquier dispositivo

que ahora mismo se venda como un robot

para un juguete, por ejemplo, para un niño.

Quién me iba a decir que pueda tener más inteligencia

que cualquier ser humano.

Depende también de qué ser humano hablemos.

Yo creo que después de oírles a todos ustedes,

estamos ante un gran debate sobre el futuro de la humanidad,

la organización social, las ciudades,

el hábitat en que vivimos,

la relación con el orden natural...

A mí me gustaría que todos, por eso le miro a usted...

¿Ustedes creen que estamos preparados

para vivir lo que se avecina,

aunque sea el título de una serie de televisión?

Tengo mis dudas. Básicamente, como espectador,

persona que vive en este entorno en el que están ocurriendo

muchos cambios en nuestra generación,

estamos viendo una cantidad extraordinaria de cambios.

Que se han venido a llamar acontecimientos disruptivos.

Por ejemplo, la aparición de Internet,

los móviles inteligentes, Facebook...

Nos cambió la vida. Yo estoy colgado al WhatsApp,

todo el día mandando mensajitos.

Acontecimientos que cambian sociedades enteras.

Están ocurriendo de una forma que, en mi opinión,

nadie está supervisando.

Se lanzan inventos al aire a ver qué pasa.

Por un lado es muy interesante, pero nos estamos usando

a nosotros mismos como conejillos de indias.

De una forma que no haríamos con un medicamento.

Nadie ha pensado en las consecuencias

que puede generar este tipo de cosas.

Puede ser grave.

Hay gente que se mata al cruzar un semáforo sin mirar

porque están con el WhatsApp.

Eso es un cambio radical.

Y nadie está preocupándose de probar esas cosas, ¿no?

-Por eso, precisamente, Albert y yo coordinamos el libro

que presentaba antes Ramón. Creemos que falta ese debate.

Falta ese debate en nuestra sociedad.

Más todavía en nuestro país, como decía al principio.

Es una obligación que tenemos nosotros

de tomar conciencia de estos avances tecnológicos

que comentas, y evaluar cuáles son los beneficios y los riesgos.

No hay solamente beneficios o riesgos, hay las dos cosas.

Tenemos que valorar, en cada caso, qué nos conviene más.

Y decidir, tomar una decisión,

tomar una posición clara sobre dónde ponemos los límites.

Es indudable que los avances tecnológicos

nos permiten adquirir prestaciones,

poder hacer cosas mucho mejor que antes,

pero ¿a cambio de qué?

Siempre hay que pagar algún precio.

Pagamos el precio de toda nuestra libertad,

un poco de la misma, nuestra privacidad...

A mí me sorprendió, yendo a preparar el libro,

un estudio de una universidad americana

en la cual habían estudiado a 3000 personas,

tampoco sé si al azar, pero 3000 personas

es un número elevado, y habían descubierto

que 1000 de ellas llevaban implantado un chip de radiofrecuencia, RFID.

La mayoría de ellos no lo sabían.

Con estos chips se puede geolocalizar una persona,

se puede saber dónde está. Se pueden saber más cosas.

Y me preguntaba: "¿Dónde se lo habían implantado si no lo sabían?".

La mayor parte lo tenían en el dorso de la mano

o en los empastes dentales.

Claro, cuando lees estas cosas, te quedas sorprendido.

No ha habido un debate.

No se ha preguntado a esa persona si estaba de acuerdo

en implantarse ese chip.

Por lo tanto, el debate es necesario, es imprescindible.

Es cierto lo que tú dices,

que el hombre se ha creído el centro de la creación.

En cierto modo, sí lo es,

siempre que sea para responsabilizarse de sus acciones

y para cuidar la casa común,

que es, de momento, donde estamos viviendo todos.

¿Estamos dispuestos, vuelvo a mi pregunta recurrente,

a aceptar una clase humana mejorada?

La clase humana siempre ha sido mejorada.

No, pero mejorada con las pautas actuales.

Sí. La dificultad es definir qué es "mejorada".

Es como la inteligencia, no sabemos cuánta inteligencia

o qué es la inteligencia.

Hay claramente aspectos

terapéuticos o de longitud de vida...

Hay muchas que las consideramos una mejora.

La cuestión central

es qué consideramos que nosotros queremos ser.

¿Una clase humana mejorada es una clase humana más libre?

La libertad es una dimensión fundamental nuestra.

Ser capaces de realizar lo que queremos.

¿O una especie humana mejorada es solamente aquella

que tenga, digamos, un aspecto

con cánones de belleza nuevos o distintos?

El problema que estaba planteando Miguel Ángel...

Ahí vamos a empezar a debatir qué queremos ser.

Y qué trayectorias consideramos que mejoran la especie humana,

y cuáles son simplemente dispositivos

de orden puramente estético o superficial.

Hay que estar abiertos a la mejora de la especie humana

porque es parte de lo que hacemos siempre

cuando nos educamos y cuando aprendemos

sobre nuestra propia historia.

Pero no significa que cualquier invento nuevo

suponga una mejora. Es algo que tenemos que debatir,

decidir y empezar a discutir seriamente.

Ahora sí hay posibilidades prácticas de realizarlo.

-Cuando oigo hablar de mejoras de la especie,

muchas veces hablamos de que sea más inteligente.

Muchas veces nos olvidamos de la inteligencia emocional,

de la emoción, del amor que hablabais antes.

Yo, como lo vivo,

es que la introducción de la tecnología ahora mismo

nos lleva a estar... Estamos sumisos al móvil,

estamos mirando aquí abajo, no nos miramos a los ojos.

Y cada vez menos. Ni nos hablamos.

Ni nos hablamos. Y hablamos de mejorar la especie.

Pienso que la forma de mejorarla

es a través de una comunicación directa,

de quererse, de tocarse.

Me cuesta un poco creer

que en esta dirección en la que nos vamos a mover

a nivel emocional podamos estar pensando

en que queremos desarrollar una especie mejorada.

Esta parte habría que tratarla mucho más.

Y que hubiera un equilibrio, ¿no? Creo, me parece.

Antes, quería hacerle una pregunta que me he olvidado.

Hemos estado hablando de robots, pero me gustaría que me contase

cuál es la diferencia entre un robot y un cíborg.

Bueno, el cíborg normalmente va a tener forma humana.

Los cíborgs, tal y como estamos acostumbrados a interpretarlos

y a percibirlos, a través del cine,

de proyectos de investigación, tienen este aspecto humano.

Normalmente, bípedos y demás.

El robot, esa definición es mucho más amplia.

Hablamos de robots industriales, a los que estamos acostumbrados,

en las fábricas de coches...

Antes hablabais del accidente que ha habido en Alemania.

Creo que fue un mal funcionamiento de la máquina.

La máquina, por supuesto, no se rebeló contra el humano.

Esa es la gran diferencia, es la apariencia.

Hace que las definiciones muchas veces se difuminen

o jueguen en una línea fina

que genera mucho debate.

Seguimos hablando de lo mismo que hablamos siempre aquí,

de ética, de moral...

Mi duda es si sabemos generar otra ética,

otra moral, más próxima

a los cambios tecnológicos.

Sí, sí. Es un reto importante.

De hecho, no podemos pensar en una ética demasiado particular.

Esto afecta a toda la humanidad.

Nos tenemos que poner de acuerdo todos,

o la gran mayoría, mejor todos, en algo.

Si no, lo que no se puede hacer en un sitio, se hará en otro.

Y ya sabemos que esto sucede porque no hay fronteras.

Si se puede hacer en este país, la gente irá a ese país,

a ese centro de investigación, a esa industria.

Hay una cosa preocupante, a mí me preocupa,

y es dejar en manos de una iniciativa privada

demasiado neoliberal

el liderazgo en el progreso de estas nuevas tecnologías

y su aplicación a los seres humanos,

y también al entorno.

¿Por qué lo digo?

A nadie se le escapa que hay empresas muy conocidas,

que están la mayor parte en Estados Unidos,

como pueden ser Appel, Google, Facebook,

y que están llevando a cabo proyectos en ese sentido.

En la universidad de la singularidad,

uno de los centros en Silicon Valley,

llevan adelante este tipo de proyectos.

Claro, el tecnooptimismo que respiran en estos lugares

casi oculta cuáles son los posibles riesgos.

No sé si se habla de límites éticos en estos sitios.

Desde luego, oyendo hablar a alguien que está allí,

a uno se le olvidan rápidamente,

porque las ventajas que suponen esos avances tecnológicos son tales

que parece imposible que no puedan ser buenos.

Estoy de acuerdo con Fernando cuando dice

que tenemos que reflexionar. Es que ya no pensamos.

Decías que no hablamos, no nos vemos...

También es cierto. Es importante la parte emocional.

Es lo más difícil de suscitar en un robot.

El tema de suscitarle emociones.

Sin embargo, es la forma de hacerlo más humano.

Es lo que se pretende desde allí.

Creo que los posthumanistas, la filosofía transhumanista,

adolece un poco de esto.

Dejarlo todo en manos de ese capital privado...

Sabemos que Google está comprando empresas de robótica,

y lo hace por algo, no lo hace por nada.

Gasta muchísimo dinero.

Es fundamental que nosotros nos interroguemos

e intentemos dar respuestas consensuadas, evidentemente.

Para el bien de la humanidad.

¿Nuestro futuro es vivir en sociedades totalitarias?

Se ha sido siempre el problema de...

Lo digo porque estaba haciendo memoria de las películas...

"Gattaca"...

Todas esas que tienen ese tono de sociedad totalitaria.

Y eso que aún no habían llegado las redes sociales para acabar de...

Uno de los primeros teóricos

de las relaciones entre técnica y sociedad

es un arquitecto y medio filósofo norteamericano,

Lewis Mumford, decía que las pirámides de Egipto

eran tecnologías que producían una sociedad totalitaria

porque tenían que organizar a la gente de manera piramidal

para construir la pirámide.

Y siempre hubo un debate entre si optar por tecnologías

que fueran dirigiendo a la sociedad, como ocurre en parte ahora

hacia concentraciones de poder

que luego son límites muy difíciles de superar,

o hay que promocionar tecnologías más reticulares

que hagan que la gente entre en contacto unos con otros,

sean más libres, tengan más capacidades de decisión.

Y es una batalla

en la que no puede mezclarse solo cuestiones técnicas

ni solo cuestiones sociales.

Lo estabas planteando antes muy bien.

Ahora necesitamos nuevas éticas, nuevas formas de pensar la sociedad,

la política, el mundo entero,

en donde mezclemos las trayectorias técnicas y las sociales,

y las ecológicas, que aquí se ha hablado poco,

pero estamos en un mundo en el que el límite ecológico es central.

Me parece que el debate entre sociedades autoritarias

y sociedades más libres es central también

en el qué límites tecnológicos hay a las sociedades

y qué constricciones tecnológicas hay a las sociedades del futuro.

Me gustaría ir un poco más allá.

¿Somos capaces, si dejamos al margen el cine,

de imaginar,

de saber cómo será nuestra sociedad?

Es decir, ¿iremos a votar cada cuatro años?

Mal vamos.

-Democracia real.

Nosotros también lo planteamos. Algún autor del libro lo plantea.

La necesidad, la conveniencia

de que el ciudadano ejerza un control más allá de los cada cuatro años.

En nuestro país es bastante raro, es impensable,

que haya una democracia más continuada.

Un ejercicio por parte de la ciudadanía.

Pero yo creo que...

En una sociedad del futuro, si es una sociedad totalitaria,

va a ser muy difícil.

Y lo que dibujan los filósofos transhumanistas

va más bien hacia una "nocracia",

hacia una élite que es la que va a dominar.

¿Estas tecnologías se van a poder aplicar a todo el mundo?

¿O solamente a unos cuantos, a los que tengan dinero para pagarlo?

Es una preocupación que a mí me suscita temor.

Porque...

Iniciativa privada, falta de consenso público,

falta de participación...

Estos ingredientes pueden producir una sociedad

en la cual no se respeten los derechos,

ya no digo de la minoría, sino de la mayoría.

Pero además hay una cosa importante,

y es que, según la filosofía transhumanista,

todos tenemos que mejorar. Es un deber moral, dicen ellos,

mejorarse para ser más felices. Lo dicen ellos.

Yo no estoy de acuerdo, pero lo dicen ellos tal cual.

Es una cita de Nick Bostrom o David Pearce

o de otros filósofos transhumanistas que conocerás.

Pero ¿qué hacemos con los que no llegan a esos estándares?

¿Los dejamos aparte, los discriminamos?

Ya no te digo las personas que tienen alguna discapacidad

o capacidades singulares. ¿Qué hacemos?

¿Los seguimos valorando como seres humanos o no?

¿O en una sociedad totalitaria, los que no se mejoren,

o no nos queramos mejorar, o no nos podamos mejorar,

van a estar discriminados, esclavizados,

bajo el dominio de la élite? Esto es preocupante.

Películas como "Gattaca" o "Elysium", por ejemplo, hablan de eso.

Sí, son películas, de acuerdo,

pero a veces los cineastas tienen una función de avisador social.

Creo que es muy importante. Quizá analógica,

pero creo que importante. Vamos a hacerles un poco de caso.

Seguimos en el futuro. ¿Qué predicarán las iglesias?

Uy.

-Justamente, el transhumanismo del que hablas,

que está muy metido en grandes monopolios de Internet

como Google, por ejemplo, está cerca de ser una secta.

Es una línea de pensamiento arreligiosa,

pero al mismo tiempo están planteando verdades incuestionables

como "mejora o estás equivocado".

En un mundo que al mismo tiempo está construyendo máquinas

que sustituyen a trabajadores.

Si esos trabajadores no reciben sueldos y no consumen,

¿cómo les atraemos a esta sociedad tan maravillosa

si no van a tener dinero con que vivir y alimentarse?

¿Se ocupará la religión transhumanista de esto?

-Yo siempre he creído en la religión

como algo que une a las personas.

Luego, cada cual tiene su interpretación.

Personalmente, pienso que quizás la tecnología

y lo que nos espera en el futuro nos va a desunir.

Nos puede deshumanizar si no tratamos bien...

La tecnología es maravillosa, yo la defiendo,

pero muchas veces el uso que se hace de la tecnología

es lo que nos distancia.

Es un poco volver al tema anterior de no mirarnos,

de no escucharnos, de no tocarnos.

Yo, como concibo esa religión de acercamiento,

de amor entre todos, espero que esa sobreviva

por encima de todas las ramas que puedan surgir,

como bien dice Elio,

con esta explosión tecnológica que tenemos ahora mismo.

-Se me está ocurriendo una cosa curiosa en esta línea.

Es que la tecnología está asumiendo una función religiosa

en un mundo en que los dioses parecen haberse ido.

Es, algunas veces, el horizonte tecnológico

el que asuma el destino,

lo que era la imagen de la providencia

en las religiones más tradicionales.

Ahora, todos los bienes, y también todos los desastres,

o sea, el miedo y el deseo,

parecen cada vez unirse más a la tecnología,

de manera que, para...

Más en la cultura popular, en la cultura de masas,

va asumiendo el papel de destino.

Y esto es un poco siniestro.

En el transhumanismo más optimista, me parece que roza ya la teología.

Está planteando, está promoviendo o prometiendo el cielo en la tierra.

Olvidándose de los problemas de la desigualdad,

de la libertad, de nuestro propio control del destino.

Y yo creo que está produciendo fenómenos

como los que plantea Concha

de eliminar aquellos componentes que eran centrales en las religiones,

que eran la solidaridad, la unión humana, etc.,

para una especie de nuevo individualismo

sofisticado, hiperbólico,

que al final es una forma desastrosa de pensar en todo seudomístico.

-Yo creo que, si nos quedamos en la parte más material,

más tecnológica, si no vamos un poco más allá

e intentamos encontrar una tercera dimensión,

una dimensión más espiritual, nos vamos a quedar inermes

ante estos planteamientos seudorreligiosos

de los transhumanistas,

de esta como new age o como lo quieras llamar.

Estos escenarios futuros totalitarios los hemos visto en el pasado.

Todos podemos recordar alguno.

Con lo cual, nos tenemos que armar

de lo que nos ha dado nuestra propia cultura,

y es esa capacidad de empatía, de cooperatividad,

que desde un punto de vista evolutivo,

de evolución del ser humano, es lo que nos ha permitido triunfar,

al ser humano, dentro de lo que es su ambiente, su hábitat.

Es cierto que a veces lo hemos transformado a peor.

Pero también tenemos la capacidad inmensa de enmendar los errores,

de corregirlos. Aún estamos a tiempo. Creo que nos queda mucho.

Pero, hablando con uno de los investigadores

de la Universidad Pompeu Fabra, Ricard Solé,

que trabaja en sistemas complejos, en vida sintética,

él ha hecho una propuesta. Hace poco ha publicado

un artículo sobre la posibilidad de utilizar

vida artificial, bacterias ingenierizadas,

para resolver problemas elementales complejos

como puede ser recuperar un lugar contaminado,

un hábitat contaminado, para que se sanifique.

Este tipo de intervenciones son aquellas que verdaderamente

ayudan a cooperar a los seres humanos

y hay un beneficio claro para todos. Hay otras iniciativas, desde luego,

que también utiliza la tecnología

y que suponen una mejora en personas que tienen alguna enfermedad.

Ahí también la tecnología ayuda mucho.

Lo comentábamos antes, ¿no? Paralíticos cerebrales,

gente que ha sufrido una lesión medular.

Mi querido amigo e investigador Pepe Millán,

en la Politécnica de Lausanne, está consiguiendo que puedan

realizar órdenes ejecutivas a través de un ordenador

personas que no pueden mover nada absolutamente,

solo con sus ondas cerebrales.

Este tipo de cosas sí es cooperatividad,

sí que es empatía, sí que es una mejora clara,

sí que es una atención a la diversidad.

Ahí creo que no nos equivocamos.

El tiempo prácticamente se nos ha terminado.

Y me temo que tendremos que volver

dentro de unos cuantos programas

a ese debate básico

que se sustenta detrás de todo eso.

Se me han quedado muchas preguntas.

Motivadas por muchas dudas.

Fundamentalmente, porque no soy capaz de imaginar

cómo puede evolucionar...

Un día nos lo encontraremos directamente,

saldremos a la calle y veremos según qué cosas.

Hemos ido evolucionando a lo largo de los años.

Y, también, cosas que parecían imposibles no lo son, ¿no?

Es una cuestión de ir viéndolo.

Me gustaría, antes de irnos del todo,

dar las gracias a nuestros invitados.

Pero también recordar los libros.

Ya saben ustedes que en Internet,

en la web de RTVE,

tienen ustedes una página dedicada a este programa.

Y también pueden ver los programas anteriores,

información de nuestros invitados,

de los libros y de las películas que hay sobre el tema.

A ver, primero, el de Miquel-Àngel Serra.

Y de Albert Cortina. Sí, de Albert Cortina.

Los dos, coordinadores de este "¿Humanos o posthumanos?"

que está editado por Fragmenta.

Tengo aquí el de Elio Quiroga, "Los que sueñan",

una novela que empieza como terror.

Luego hay una especie de programa filosófico,

y luego viene una ciencia-ficción pura,

y que ganó el Premio Minotauro 2015.

El de Fernando Broncano, "La melancolía del cíborg".

¿Usted cree que la melancolía, es mi duda de siempre,

es realmente un elemento característico

de la modernidad cultural?

Sí, esa era la tesis. Esa era la tesis.

Digamos, la emoción que caracteriza las líneas modernas, ¿no?

Tenemos aquí "La melancolía del cíborg",

que está editado por Herder su colección de Pensamiento.

Y tengo aquí también unos cuantos más.

Uno de Gedisa que se llama "Lo posthumano",

de Rosi Braidotti.

Tengo otro de Òscar Vilarroya,

"Palabra de robot.

Inteligencia artificial y comunicación",

que está editado por Sin Fronteras, de la Universidad de Valencia.

"Trabajar en la era digital", de Luis Lombardero,

editado por Lid.

Y un clásico, que siempre está bien y a todos nos gusta,

que podemos haber leído, releído,

el "Yo, robot", de Isaac Asimov,

que está editado por Edhasa,

y está en una colección de bolsillo francamente leíble,

no de esas que te quedas con las páginas a la mano.

Gracias, insisto, y nos despedimos.

Les esperamos otra vez con mucho gusto la próxima semana.

(Música créditos)

  • A mi lista
  • A mis favoritos
  • El hombre tecnológico

Millennium - El hombre tecnológico

16 nov 2015

La humanidad está a punto de dar un salto evolutivo gracias al progreso tecnológico y al desarrollo de la inteligencia artificial. Actualmente contamos con avanzadas herramientas como la nanotecnología o la ingeniería genética, pero ¿qué seremos capaces de hacer en el futuro? ¿la tecnología dominará nuestras vidas? ¿seremos una nueva especie tecnológicamente mejorada? ¿Hasta dónde podremos expandir nuestra conciencia? ¿Alcanzaremos la inmortalidad?

ver más sobre "Millennium - El hombre tecnológico" ver menos sobre "Millennium - El hombre tecnológico"
Programas completos (91)

Los últimos 225 programas de Millennium

  • Ver Miniaturas Ver Miniaturas
  • Ver Listado Ver Listado
Buscar por:
Por fechas
Por tipo
Todos los vídeos y audios