www.rtve.es /pages/rtve-player-app/2.17.1/js/
4981359
Millennium - 2001, la inteligencia - ver ahora
Transcripción completa

Hace ahora más de 50 años tuvo lugar en España

el estreno de la película de Stanley Kubrick

"2001: una odisea del espacio",

que con el paso del tiempo se ha demostrado

que es una de las películas más importantes

de la historia del cine.

En ese film, estrenado en la Semana del Cine en Color de Barcelona,

descubrimos un personaje, el HAL 9000,

un ordenador que se harta de la debilidad de los seres humanos

y decide tomar el poder dentro de la nave espacial.

Ese es un tema que ahora es recurrente.

En una exposición de la Fundación Telefónica

también hemos podido informarnos

de los riesgos de la Inteligencia Artificial.

Hoy vamos a hablar

en este "Millenium" que ahora empieza

de "2001" y la Inteligencia Artificial.

Me da una cierta vergüenza confesar

que en el estreno en España de "2001",

la película de Stanley Kubrick,

yo estuve, milagrosamente,

porque no tenía la edad, por muchas cosas,

pero estuve en un festival de cine que había en Barcelona en esa época,

que se llamaba la Semana del Cine en Color

y que dirigía José Luis Warner, que era un buen crítico de cine.

Ahí se proyectó por vez primera en nuestro país la película.

No en el lugar en donde tenían lugar las sesiones del festival,

que era el Palacio de Congresos de Montjuic,

porque la película se exhibía en 70 milímetros

y esa sala no tenía proyector de 70 milímetros

y la llevaron a otra sala.

Tengo una duda en la cabeza de en qué cine fue proyectada,

pero ahí tuvo lugar el estreno de la película en España.

Esa película en donde el ordenador se rebela,

se cansa de los seres humanos

y dice que él puede ser más

que los seres humanos.

Y ahí está el nudo gordiano de la película

y del programa de hoy.

Le voy a dejar a Gerardo Sánchez, que es uno de nuestros invitados,

que nos haga esa apología de "2001".

Supongo que algún día la van a sacar en su espacio de cine clásico.

Espero.

Porque después de 50 años ya es un clásico,

aunque nos acordemos del estreno y todo eso.

Algún día tenéis que definir en un artículo profundísimo

qué es una película clásica.

Es un problema definir eso, ciertamente,

a raíz de lo que dice la gente.

Para mí es un clásico absoluto.

Bueno, mi evocación de "2001" es diferente a la tuya,

ya quisiera yo poder decir que la vi en el estreno.

Yo la vi en un reestreno y recuerdo que en ese reestreno,

tendría yo 17 o 18 años,

estaban Pilar Miró y Eduardo Sotillos,

que me los presentó mi padre, que los conocía.

Yo, antes de ver "2001" ya la había muchas veces,

porque había leído con unos 11 o 12 años

el libro de Arthur Clarke, que tenía en casa mi padre,

y viendo las fotos que venían en color de la Biblioteca Salvat

imaginaba esa película que ya me parecía maravillosa.

Debo decir que cuando la vi, siendo ligeramente distinta al libro,

me pareció maravillosa, hasta hoy,

que la he visto en cine más de 40 veces

y unas cuantas más en sus diversas...

¿40 la has visto? Más de 40.

La he llegado a ver veces con los rollos cambiados en el cine,

con gente detrás de mí diciendo:

"A mí me habían dicho que era una película muy rara".

La he visto otra vez

que pasaba una rata por delante de mí en un cine de barrio.

Bueno, mi experiencia con ella siempre ha sido maravillosa,

inolvidable, cada vez me descubre más cosas,

no me canso de verla.

Tengo pendiente de ver la versión restaurada

que he comprado en 4k.

Habría que pedirle a la Filmoteca Española

que instalase un proyector en 70 milímetros

y la proyectase, porque en Barcelona es verdad

que hay una sala que puede proyectarla,

pero en Madrid no hay, con lo cual deberían equipar,

comprar un proyector

de los que hay en Madrid, que creo que todavía queda alguno,

y proyectarla.

Bueno, no le he presentado,

podríamos decir eso de "no hace falta".

Él es el director del programa "Días de cine", de TVE,

Gerardo Sánchez.

Un programa del que ha sido redactor, subdirector.

Es amante del cine, coleccionista de películas,

en su blog titulado "El hombre tranquilo"

nos habla sobre todo de cine, nos cuenta que ya ha perdido

las cuentas, las veces que ha visto "2001"

y que es una de las películas de su vida,

pero antes de pasar a más invitados, a mí me gustaría que me dijeses

de qué manera Kubrick

y otros grandes cineastas

como Ridley Scott en "Blade Runner"

han sabido pronosticar el mundo en el que vivimos.

¿Son realmente unos visionarios? Kubrick ciertamente lo era.

Es verdad que choca un poco la visión tecnológica,

el realismo, el hiperrealismo de las soluciones técnicas que da

a la visualización de la vida

en un futuro que ya es pasado para nosotros

y que es triste que no se pareciese en 2001

a lo que Kubrick y Arthur Clarke vaticinasen,

pero, por ejemplo, fracasó estrepitosamente

al no ver que no habría dos bloques políticos,

la Unión Soviética, que está muy presente en una parte,

ha desaparecido.

Hace poco veía un documental en el que Arthur Clarke

estaba en la NASA, viendo el módulo lunar,

y decían: "Kubrick y Clarke

piensan que en el siglo que viene todo esto será real".

Yo creo que lo visualizaron muy bien,

las soluciones técnicas que dan para visualizar ese futuro,

esas naves espaciales,

esa estación espacial alrededor de la Tierra orbitando

y creando gravedad artificial...

Todo eso lo he visto luego en algunas películas,

porque en el cine de ciencia ficción tradicional

en las naves espaciales hay gravedad y eso, obviamente, es imposible,

y eso Kubrick nos explica muy bien por qué podían estar andando.

Luego Ridley Scott en su "Blade Runner"

y su futuro distópico con unos replicantes

que eran más humanos que los propios humanos,

con esa conciencia de su fin

y esa petición de respuestas a su creador,

que a fin de cuentas es lo que hacemos todos.

Gracias por estar, Gerardo, como siempre.

Seguiremos viendo los clásicos, a ver si proyectas rápidamente

el "2001". Ojalá.

También está aquí con nosotros Ramón López de Mántaras.

¿O Mantarás? Mántaras.

Mántaras. Doctor en Física y en Informática,

profesor de investigación

del Consejo Superior de Investigaciones Científicas

y desde 2007 dirige

el Instituto de Investigación en Inteligencia Artificial.

Es Premio Nacional Julio Rey Pastor de Matemáticas e Informática,

el máximo galardón científico en nuestro país.

Es el asesor científico

de la exposición Más allá de 2001: odiseas de la inteligencia.

Luego hay un plano ahí que te recomiendo que veas

de los bocetos de la película de Kubrick,

de la Fundación Telefónica,

de la que hemos hecho un reportaje

y seguiremos hablando.

Tengo aquí el libro editado por el Consejo Superior.

"Inteligencia Artificial", que está en Catarata Editores

y eso me permite, ya que el libro se llama

"¿Qué sabemos de Inteligencia Artificial?",

preguntarle exactamente eso:

¿exageramos mucho con la Inteligencia Artificial

o realmente la conocemos muy poco?

Bueno, las dos cosas.

Exageramos mucho

y, posiblemente, se exagera mucho porque se conoce poco.

Si uno está, digamos,

en la cocina de la Inteligencia Artificial

y, por lo tanto, desarrollándola y contribuyendo a la investigación

y, por lo tanto, sabe muy bien

la realidad de la Inteligencia Artificial,

el contraste con lo que muchas veces leemos o nos hacen creer es abismal.

La Inteligencia Artificial

está todavía mucho más en sus orígenes, mucho más limitada

de lo que tendemos a pensar o nos quieren hacer creer

por intereses económicos o los que sean.

El ciudadano medio tiene miedo de la Inteligencia Artificial.

"Me voy a quedar sin trabajo,

nos van a quitar la mayoría de cosas que puedo hacer..."

Sí, está claro y esto es una parte del problema.

No digo que no haya que tener

preocupación por los desarrollos en Inteligencia Artificial,

pero no por la Inteligencia Artificial en sí,

la Inteligencia Artificial en sí no es nada,

no tiene ni intencionalidad

ni por sí misma no quiere hacer nada.

Debe ser la primera cosa del mundo que no tiene intencionalidad.

Un robot, una máquina no tiene intencionalidad ni objetivos

ni deseos ni nada.

Pero el constructor de la máquina sí.

Los diseñadores y luego el uso de la máquina,

ahí sí se puede hacer un mal uso, un uso indebido de la tecnología.

Es una tecnología de doble uso, como muchas otras tecnologías

y ahí sí que se plantean situaciones que hay que examinar a fondo,

regular y pensar en posibles limitaciones.

A lo mejor una de las limitaciones

que, en mi opinión, hay que analizar profundamente

es la capacidad de autonomía

que estamos dispuestos a darle a la máquina.

Autonomía absoluta, ¿sí o no?

Por ejemplo, ¿no?

Bueno, yo tengo mi opinión sobre este tema muy clara,

pero bueno, es una parte importante a tener en cuenta,

la autonomía que se le da a la máquina,

pero se la damos nosotros.

La máquina no se toma la autonomía por sí misma.

Cuidado con esto.

¿Pero puede tomarla o no? No.

¿Nunca? No, si no se prepara,

si no se diseña para que eso sea posible, no.

En el fondo, detrás estamos nosotros siempre, el ser humano, siempre.

Hay quien hay que temer, en todo caso,

o estar preocupado por es el ser humano

y lo vemos continuamente en el mundo, desgraciadamente,

incluso fuera del ámbito de la Inteligencia Artificial,

dónde está realmente lo que es preocupante

en nuestra sociedad y en el mundo es el ser humano.

Tenemos también aquí al señor Carlos Balaguer,

catedrático, director del Robotics Lab,

de la Universidad Carlos III de Madrid desde 1996.

Sus líneas de investigación se centran entre otros

en el desarrollo de robots humanoides

y en la interacción humano-robot.

Es director de la Asociación Europea de Robótica euRobotics

y presidente del Consejo de Ciencia y Tecnología

de la Comunidad de Madrid.

Ese fenómeno del valle inquietante por el que los humanos,

de forma instintiva, tenemos miedo a los humanoides,

¿cómo nos lo traduciría usted? Bueno, es cierto.

El valle inquietante está muy relacionado

con los replicantes.

Si tú ves a una persona que es exactamente como tú en el metro,

vestida igual, con las mismas gafas, te inquietas,

te inquietas mucho y esto te crea una inseguridad.

Sin embargo, si le abres la camisa

y ves que está lleno de chips y circuitos y motores,

te quedas más tranquilo.

¿Usted cuando vio "Blade Runner" se inquietó?

Sí, sí, sí. Es una película inquietante,

por el sentido

de que la replicación robótica de una persona es posible.

Hay un profesor muy famoso en Japón

que hace robots igual que él, exactamente igual,

la misma chaqueta, las mismas gafas

y se ponen los dos al lado y los dos hablan.

Sin embargo, ves

que las limitaciones de eso son muchísimas.

El robot está programado para decir una serie de cosas,

para mover las cejas o los ojos de una manera,

mientras el autor

puede moverse libremente.

Y el otro está en una microprogramación

de sus gestos y de su habla.

Yo creo que la replicación es algo del futuro,

lo que sí hoy día es importante

que los robots colaboren con los humanos,

convivan con los humanos

y yo creo que la robótica colaborativa

es lo que está ahora mismo en auge.

Gracias por venir.

Hace unos años, cuando yo trabajaba con la próxima invitada,

que es Mabel Klimt, un día, en una conversación informal,

me habló de que una

de las especializaciones nuevas del Derecho

era el Derecho de los robots.

Le pedí que me ampliase un poco más eso

y me contó que ya había demandas en contra de los robots

y que había que especializarse

para defender los intereses de los robots

o las acusaciones que había contra ellos.

Ella está aquí ahora. ¿Sigues con los robots o no?

Sí. ¿Sí?

Cada vez más, has visto. Hoy por hoy, todavía son cosas,

pero tengo mucha curiosidad por saber

si todo lo que se lee en los libros es realmente posible,

porque llegará el punto

en que si de verdad tienen conciencia

y de verdad tienen autonomía

en el momento de tomar sus decisiones,

legalmente van a dejar de ser cosas

y entonces habrá que tomar muchas decisiones.

Hasta el punto de que la última ponencia a la que he ido,

interesantísima, incide

en que hay que hablar de ética de la Inteligencia Artificial,

el ponente era un sacerdote, porque hasta tal punto estamos

con el planteamiento ético

de dónde de verdad deberían ser las reglas del juego

que no hablamos de leyes todavía, sino de ética,

qué reglas intrínsecas deberíamos poner

a la Inteligencia Artificial

para que realmente fuera útil al ser humano.

Esto casi nos retrotrae a Platón y su "República",

donde se hablaba de cierto pacto social

que tiene que existir

para que podamos convivir como sociedad,

qué tenemos y a qué estamos dispuestos a renunciar

para que esto realmente funcione y sea útil,

considerando que siempre el ser humano debería ser

el eje temático sobre el que algo más,

que tenemos que decidir qué es todavía,

los abogados por lo menos,

está ya disponible y con sus recursos

y produciendo cosas.

No sé hasta qué punto es realmente realista,

pero cuando te pones a leer, no sé si influidos por el cine o no,

pero hay muchos autores que hablan de cosas,

de "hackear" la mente,

que van a superar los "bits" la capacidad humana

y una serie de cosas que, desde el Derecho,

yo solo puedo llevarme las manos a la cabeza

y querer regularlo cuanto antes.

Mabel Klimt es abogada,

especialista en propiedad intelectual

y también en nuevas tecnologías.

Es socia de un bufete que se llama Andersen Tax & Legal.

Imparte clases en diferentes másteres

sobre su especialidad.

Preside la junta directiva

de la Asociación Española del Derecho del entretenimiento,

es miembro de la Academia

de las Artes y Ciencias Cinematográficas de España.

Ustedes cuando se pregunten

por qué se hacen estas películas y no otras,

piensen en Mabel Klimt,

porque ella en su trabajo,

en su bufete se dedica a buscar financiación para el cine español,

con lo cual, los productores hacen sus proyectos,

pero si no hay dinerito, dinerito, no hay película, película

ni serie, serie.

Ahí están un poco las claves de la cuestión.

Con lo cual, si un día hablamos

de por qué hacemos el cine que hacemos,

invitaremos otra vez a Mabel Klimt.

¿Usted cree que será necesario

que las leyes recojan los principios de Isaac Asimov

según las cuales un robot nunca puede dañar a un ser humano

y siempre debe obedecer, salvo que se vulnere la primera ley?

Buena pregunta.

Estamos en este momento debatiendo sobre ello.

Necesariamente normativa se va a aplicar.

Hoy por hoy, la normativa de los seguros,

la normativa de las responsabilidades

tienen bastante que decir sobre qué pasa si hay un accidente,

pero ya el coche autónomo ha demostrado

que no es tan fácil que una regla máxima sea

"no le hagas daño a una persona", porque un coche autónomo

puede tener que decidir estadísticamente

si mata a un grupo o mata a uno, digamos la ley del mal menor.

Entonces, sí, en eso estamos

y es posible que en un futuro veamos algo como eso.

Interesante y también inquietante, porque al final

yo creo que los robots, si son capaces de actuar,

aunque usted diga que no, que siempre hay el espíritu humano

o detrás está el ser humano,

también muchos experimentos genéticos,

como los recientes de Japón, no deberían haberse producido

y, sin embargo, están ahí.

Yo no sé si lo he dicho antes,

en la Fundación Telefónica, en la Gran Vía, en Madrid,

estamos ya en los últimos días,

hay una exposición que se llama

"Más allá de 2001: odiseas de la inteligencia".

Hemos querido hacer

un pequeño reportaje sobre esa exposición

que nos permitirá centrar la primera parte del debate de hoy.

"Brazos robotizados que dibujan retratos en tiempo real.

A través de la mirada primera de Kubrick,

el propósito de esta exposición es mostrar los hitos

de las inteligencias humana y artificial

desde sus orígenes hasta nuestros días."

Más de medio siglo después,

la película "2001: una odisea del espacio"

aún nos ayuda a comprender el futuro

y en esta exposición rinden su particular homenaje,

de hecho, utilizan la película como hilo conductor

para crear un viaje a través de la mente

y de la evolución de la Inteligencia Artificial.

Aquí podemos encontrar

desde algunos de los manuscritos y bocetos

que utilizó Kubrick para crear su película

hasta esta máquina,

que fue una de las primeras en jugar al ajedrez

sin intervención humana.

Durante mucho tiempo, el ajedrez se consideró

la máxima expresión de la inteligencia humana,

siendo así que cuando Turing,

en 1950, se plantea si una máquina puede ser inteligente,

cree que para demostrarlo el ejemplo más ilustrativo

sería ver si una máquina

puede ganar a un humano en una partida de ajedrez.

Ahí se iniciaba una investigación que culminaría con Deep Blue

y esa partida de Kasparov en la década de los 90

que finalmente ganaría la máquina.

"Stanley Kubrick, adelantándose a su tiempo,

mostró en la película algunos de los avances tecnológicos

que ya forman parte de nuestras vidas."

En la película podemos ver

objetos que podrían ser lo que hoy entendemos como iPads, por ejemplo.

Podemos ver una máquina que nos está reconociendo,

que es lo que hacen hoy en día los móviles.

"A través de analogías entre escenas de la película

y una selección de piezas y proyectos interactivos,

la muestra nos acerca al potencial de las máquinas pensantes

para la resolución de problemas."

En la exposición podemos ver muchísimas aplicaciones positivas

de la Inteligencia Artificial, vemos cómo está ayudando ya

en el diagnóstico médico, por ejemplo,

o como a través de drones con Inteligencia Artificial

se puede, por ejemplo,

llevar medicinas a zonas de muy difícil acceso,

pero, por supuesto, la Inteligencia Artificial

también tiene una serie de aspectos y de dimensiones

de las que debemos estar muy atentos

y que debemos regular y exigir que estén bajo control.

Una sería, por ejemplo,

la aplicación militar de la Inteligencia Artificial,

todos esos drones

que se empiezan a utilizar para mandarlos a la guerra.

"Por ello cada vez hay más voces que reclaman leyes específicas

que regulen el uso de estas tecnologías."

Otro tema complejo es el de la vigilancia.

Vemos, por ejemplo, como en ciudades chinas

hay cámaras que están registrando 10.000 caras por cada 0,1 segundos.

"Con sistemas parecidos a este

que emulan la capacidad de visión del ojo de HAL, que todo lo ve

y que en pocos segundos recopila

más de 20.000 parámetros de cualquier cuerpo y rostro.

Esta exposición

es una puerta abierta a ese futuro de la mente no humana

y cómo el ser humano

debe enfrentarse a sus propias creaciones.

¿Hasta dónde es capaz de llegar la Inteligencia Artificial?

¿Serán las máquinas capaces de generar conciencia de sí mismas

e incluso rebelarse contra los seres humanos?"

Yo no sé cuál es el momento más peligroso con una máquina,

pero si parto de "2001" es el momento en que HAL se rebela

y, de alguna manera, puede generar otra máquina más inteligente

que el mismo ordenador inicial.

¿Es así o no? A ver, HAL...

No es del todo correcto decir que HAL se rebela.

HAL se defiende.

HAL se da cuenta de que lo quieren desconectar,

con lo cual se supone que es una Inteligencia Artificial general,

no tiene que ser tan específica como las que tenemos ahora,

que solo saben hacer una cosa bien,

HAL tiene una inteligencia genérica, general.

Y se supone que a partir de ese momento

es una inteligencia,

lo que llamamos desde el punto de la Filosofía,

una Inteligencia Artificial fuerte,

no tiene sentimientos, emociones, conciencia, etc.

Se da cuenta de que lo van a desconectar.

Esto lo interpreta como que lo van a matar.

El contexto este es matar para una máquina, desconectarla.

Entonces, lo que hace es defenderse.

Si hubiera habido un juicio hipotético

y un juez hubiera tenido que decidir sobre qué ocurrió

tendría el atenuante de la defensa propia HAL.

HAL no es una Inteligencia Artificial malvada, ni mucho menos.

De hecho, en la película nos la muestra, en mi opinión,

bastante más humana o con más sentimientos

que los astronautas.

Los astronautas

tienen una cara de póquer todo el rato impresionante.

No manifiestan prácticamente ninguna emoción, ni Dave ni Frank.

Demuestra más emotividad, más emoción,

más humanidad finalmente la máquina que los seres humanos.

Un poco similar con "Blade Runner",

en "Blade Runner" también representa finalmente...

Roy Batty es más humano que los humanos.

Creo que es un mensaje muy bonito, por cierto.

-Este es el fundamento

por el que los abogados no van a desaparecer,

porque siempre hay puntos de vista. (RÍEN)

-Sin duda, sin duda. No todo es reducible.

El reduccionismo de reducirlo todo

a una serie de acción-reacción,

algo muy bien delimitado, muy bien controlado

no existe en la realidad. -Efectivamente.

-Y el mundo es complejo, incluso para nosotros,

por ese motivo, el indeterminismo, la incertidumbre, lo que nos rodea.

Ahora, tenemos la inteligencia general suficiente

y un sentido común, que es básico

y las máquinas no tienen ni creo que lleguen a tener nunca,

que nos permite, a pesar de un mundo indeterminista e incierto,

tomar decisiones y vivir y avanzar.

Y esto las máquinas, en mi opinión, no lo llegarán a tener.

-Claro, en "2001", HAL 9000, efectivamente,

yo nunca tuve la sensación de que se rebelara como tal,

sino que él, como es una máquina muy bien diseñada

y tiene esas emociones

que parecen pertenecer a la Inteligencia Artificial,

que a fin de cuentas es una réplica de nuestra propia inteligencia,

pues yo tengo la impresión de que en esos parámetros

están todos los factores posibles, desde la empatía, el miedo...

El miedo es un factor muy poderoso de autodefensa.

(ASIENTE)

HAL se equivoca, que también es una condición muy humana, ¿no?

Se equivoca y, al ser cuestionado, es cuando se defiende

y, al defenderse,

actúa como actuaría una persona para defenderse

entre otras cosas, matando.

Eso me lleva, me recordaba

que el cine ya ha retratado un juicio a un robot.

Una película muy poco conocida, una precuela de "Matrix",

unos cortos que se llaman "Animatrix",

están dentro de una serie llamada "Primera resurrección",

y ahí hay un juicio a un robot

que se ha rebelado porque era tratado como un esclavo

y se rebela contra sus amos.

Es sometido a juicio y, al ser condenado a muerte,

provoca la rebelión de los robots que dará lugar

a lo que luego conocemos como "Matrix".

-"Metrópolis", del año 20 y tantos. 29.

Película alemana, pues también el inicio de la revolución

parte de un robot, de su conciencia y tal...

-¿A "Metrópolis" te refieres? -Sí.

-"Metrópolis", una película clásica. -De Fritz Lang, sí.

-En este caso, el robot era inducido para provocar.

-Y también en "Yo, robot", un ejemplo mucho más cercano,

justamente la duda está en si rompe esa regla de matar,

asistiendo a alguien al suicidio, o eso es lo que pareciera hacer,

perdón por el "spoiler",

si realmente está cometiendo un delito

y puede ser juzgado

y toda la disquisición interna del protagonista sobre ello.

Entonces, siempre llevado a momentos límite ese...

-Sin embargo, los robots actuales

sí que pueden ver tu estado emocional.

Es decir, los robots hoy día tienen una capacidad limitada,

pero pueden ver, por tu análisis facial,

cómo estás a través de unos patrones,

pueden reconocer en la voz,

según las sílabas cómo tú te sientes,

y en ese sentido el robot sí que puede empatizar contigo.

Es decir, si se conoce cuál es tu estado anímico,

si estás eufórico, triste...

El robot puede entrar en sintonía contigo

y ayudarte, de alguna manera, a superar eso.

Es decir, eso de robot-compañero, asistente hoy día es posible.

Está en los laboratorios, no está en la tienda,

pero es posible hoy día. -¿También puede saber si mientes?

-Eh... Bueno, esto ya es más complicado.

Yo creo que esto de la máquina de la verdad y tal...

Yo creo que esto es más delicado. -Pero sí que hay "softwares" médicos

que detectan por la biometría facial y tal, algo muy de moda también,

si has entendido la pregunta que te están haciendo,

para reorientar al médico.

-Que yo creo que la robótica, actualmente,

es en el sentido de ser un ayudante, un compañero, un asistente

que, además, puede emocionalmente ayudarte en algún momento,

no va a resolver tu problema de fondo,

pero puede empatizar contigo.

El robot de "2001", HAL, canta. Canta.

Incluso cuando lo desconectan se va quedando sin voz, arrastrando,

que es un momento emotivo.

Usted decía

que los dos protagonistas tenían cara de palo.

Me ha venido a la memoria ahora

qué película de Kubrick es una película emotiva,

como la entendemos nosotros, porque él era bastante...

Todas sus películas me han venido de golpe.

No hay.

Incluso la película en la que más se muestran los sentimientos,

"Barry Lyndon", en el enamoramiento

de Barry hacia el personaje de Marisa Berenson

es también muy frío, ahí, al lado del lago.

Y "Eyes Wide Shut", ahí tampoco...

Es curiosa esa película.

Es posiblemente de las que más me gustan a mí de Kubrick,

aunque sea imperfecta,

porque trata de algo tan humano como enamorarse.

Bueno.

Sigamos con... ¿Ibas a decir algo? De todas formas, que una máquina,

a través de un sistema de visión artificial

pueda analizar rasgos faciales y esté programada...

No olvidemos nunca que detrás hay un "software",

está programada por seres humanos, los programadores.

Puede estar programada para que reconozca o identifique,

clasifique, categorice entre tristeza, sorpresa, alegría...

Pero no tiene la más mínima idea del significado de estos conceptos,

es lo que nos tiene que quedar muy claro.

La programas,

pero cuando detecta una situación de tristeza o lo que sea o estrés,

a lo mejor el propio programa

está hecho de manera que, como consecuencia de esta detección,

haga una cosa o la otra.

Igual que la podemos programar para que se mueva por aquí

y cuando detecta un obstáculo lo evite.

Es exactamente lo mismo.

El robot que evita obstáculos

no tiene la mínima idea de lo que es un obstáculo,

no sabe como nosotros

que los sólidos no se pueden atravesar.

-Sin embargo, en el momento en el que...

-Este sentido común no lo tienen las máquinas.

No tenemos la más mínima, la más mínima idea

de cómo dotar de sentido común a las máquinas.

El camino a posibles Inteligencias Artificiales generales,

no ya fuertes, generales,

en el sentido de que hagan bien no una única cosa,

sino una variedad, sean multitarea, esto no lo sabemos hacer,

pero, además,

pensar en la Inteligencia Artificial fuerte,

que tenga conciencia, emociones... Esto está fuera de cuestión.

Es decir, esto es imposible prácticamente.

-Pero es posible que cuando se hizo "2001"

siempre usamos en casa un ejemplo estupendo,

me entenderéis.

Cuando ves "Regreso al futuro", que viaja al futuro el protagonista,

curiosamente hay ordenadores, móviles, coches que vuelan,

pero no hay teléfonos móviles, nadie recaló que era básico.

-Y en "Matrix" tampoco, curiosamente.

En "Matrix" hay un teléfono de línea.

-Y cuando se hizo "2001" hablar de que el ordenador pudiera

reconocer rasgos faciales era una cosa no posible

y, sin embargo, el progreso de la técnica,

que es un poco lo que al Derecho o a nosotros como sociedad

es parte del temor, tiene una velocidad tan grande

que hace que seguramente nos pille si no somos previsores,

a pesar de que, de momento, no es físicamente posible

que siquiera exista esa posibilidad

con el condicionante tan grande que tendrá para el hombre,

pues hay que empezar a planteárselo,

aunque sea una cosa de ciencia ficción,

que es adonde creo que llegas. -Lo que hay que plantearse

es, por ejemplo, situaciones que pueden darse,

de control masivo de la ciudadanía

mediante cámaras u otro tipo de sistemas.

O el crédito social en China, por ejemplo.

Esto sí que son cosas que no son futuro, esto está aquí,

pero no tiene nada que ver con la Inteligencia Artificial

ni las emociones ni la conciencia de las máquinas, nada en absoluto,

tiene que ver con programación informática pura y dura.

¿En el cerebro de un robot qué hay? ¿Un algoritmo? Pregunto.

Sí, en lo que sería el cerebro de un robot

lo que hay es una unidad central de proceso,

que es la tecnología basada en circuitos integrados,

en el silicio, en transistores integrados,

que tienen dos estados.

Físicamente es bien conocido y bien modelizado

y lo que ocurre ahí es que hay un programa,

que lo que hace es que se ejecuten

una serie de instrucciones transitorias del programa

y esto hace que la máquina, el ordenador, el robot,

cuando el ordenador está dentro de un cuerpo de robot,

pues haga lo que hemos diseñado dentro de un "software"

para que haga.

Y nada más.

Por iniciativa propia no modificará su programa,

no cambiará su programa él solito.

No lo cancelará y no lo sustituirá por otro que programará él mismo...

A siglos vista no lo sé, pero en la actualidad es impensable

y no hay la más mínima idea

de cómo se podría llegar a hacer algo así.

-Yo creo que con la tecnología actual es impensable,

pero ya no recuerdo quién dijo

que todo lo que el ser humano puede imaginar puede hacerse real

y yo creo que en un futuro yo no descarto

que todas esas cosas puedan pasar,

porque habrá un "software" que pueda ser consciente

de su propia condición de reescritor.

A fin de cuentas, nosotros somos un "software",

estamos programados genéticamente para...

-Eso está en el ADN. -Millones de años de evolución.

-Sí, nacemos obviamente programados para...

Un bebé, nada más nacer, está programado en su ADN,

por ejemplo, para amamantarse, esto no se lo enseñan,

y muchas otras cosas,

pero luego sigue un proceso que Jean Piaget

y otros psicólogos conectivistas lo estudiaron muy bien,

que es la psicología del desarrollo, el desarrollo cognitivo,

interactuando con su entorno van aprendiendo,

aprenden a sincronizar la vista con los movimientos de su brazo.

Si un bebé está continuamente tirando cosas al suelo,

no es para fastidiarnos es porque está programado

porque así mejora su motricidad, sus capacidades motoras.

Hay muchísimas otras cosas.

Esto no tiene nada que ver

con la programación actual en informática.

-En el momento en que los logaritmos permiten exponer o ir mejorando,

empieza a aprender de alguna manera, me corregirás seguro,

y exponemos a los ordenadores

a una cantidad cada vez más ingente de datos,

por estadística se irá perfeccionando su actividad.

-No. Los sistemas actuales no aprenden.

-Yo estoy de acuerdo con Ramón

en que el aprendizaje será muy limitado

y solo para tareas muy determinadas. -Exacto.

-Es decir, un robot que aprenda a planchar, por ejemplo,

¿qué es lo que hacen los investigadores?

Primero, aprenden del humano.

La primera fase es aprender del humano.

¿Cómo se hace eso? Es una tarea física, no es mental.

Aprender del humano, después replicarlo en lo que se pueda

y después reaccionar

a estímulos externos que puedan existir.

Que la temperatura de la plancha suba,

que la tela se doble...

Ese tipo de realimentación básica es posible, pero no más allá.

Que un robot se autoprograme, se autoenseñe

ahora mismo no es posible ni en el próximo futuro.

-Y cuando han aprendido una cosa son incapaces de hacer otra

y, si les enseñas a hacer otra, se olvidan de la anterior.

Eso se conoce muy bien

con el problema del olvido catastrófico.

Es un problema abierto que no sabemos resolver.

Tú enseñas a un sistema de aprendizaje,

en base a cantidad de datos a jugar al ajedrez,

que ya se ha hecho,

no me invento el ejemplo porque es de todos conocido,

o a jugar a "Go" y será mejor que cualquier ser humano.

A continuación entrenas este mismo sistema

para que reconozca entre perros y gatos,

lo aprenderá a hacer perfectamente,

pero olvídate de que vuelva a jugar a "Go".

Olvido catastrófico.

Tienes que entrenarlo desde cero, como si no lo hubieras hecho antes,

para que vuelva a jugar a "Go",

pero se olvidó de distinguir entre perros y gatos.

-Y ese entrenamiento lleva mucho tiempo.

-Este es el gran problema. Fijémonos lo limitados que están.

Llamar a esto "aprendizaje"

para mí es abusar del término "aprendizaje",

porque nosotros aprendemos incrementalmente, los seres humanos,

relacionamos lo que hemos aprendido con lo que ya sabíamos.

No aprendemos, pero enriquecemos nuestro conocimiento del mundo.

Las máquinas ni aprenden conocimientos realmente

ni son más sabias...

Es enorme el abismo que hay

entre la Inteligencia Artificial y la humana, es enorme.

A mí me preocupa lo que leemos muchas veces,

que nos da la sensación de que la diferencia es pequeña,

y no, hay que decir las cosas como son.

-Así y todo, con lo que me dices sacar un coche autónomo a la calle

cada vez me da más miedo. -A mí también.

Yo no creo que haya coches autónomos 100 %,

nivel cinco de autonomía

en muchos años, en muchos años.

Es otra exageración.

-Otra cosa importante es que, sacando un coche a la calle,

ya pondré un ejemplo jurídico, es quién es responsable.

-Que no hace falta que tenga nivel cinco de autonomía

para que ahí haya problemas de responsabilidades.

Aunque sea un nivel cuatro ya se plantean problemas.

-El problema fundamental

es que el coche autónomo puede ser muy evolucionado,

pero es que el coche autónomo conviva con coches no autónomos,

con conductores humanos.

Por ejemplo, en Hamburgo, para 2030 quieren hacer

una parte del centro de la ciudad solo para coches autónomos.

Los coches autónomos entre sí se pueden coordinar, entender...

-A diez kilómetros por hora.

-Sí, sí, pero es en el centro, no en autopistas.

Pero la convivencia entre un conductor,

sobre todo en algún país latino, con un coche autónomo es complicado.

-Es que el coche no se movería en determinadas circunstancias.

-Claro.

-El director, el número uno de Waymo,

la empresa que está trabajando en el coche autónomo,

las personas que más saben de hacia dónde va el coche autónomo,

hace tres o cuatro días leí una entrevista en la que decía:

"Quizá debamos olvidarnos del coche autónomo 100 %".

El nivel cinco en cualquier circunstancia,

en cualquier situación de luminosidad,

nieve, llueva, sea de noche,

estén o no bien marcadas las líneas de la carretera...

Bajo cualquier circunstancia,

independiente de cualquier situación,

sea el coche completamente autónomo, ni este señor no lo ve nada claro.

-La cosa es complicada.

Yo quisiera preguntarles qué les pasa,

porque han hecho su trabajo ingente,

al final resulta

que la inmensa mayoría de la sociedad

lo sabe porque ve una película en el cine

o en la televisión el sábado por la tarde.

¿Esas imágenes que aprendemos del cine son erróneas?

No, está muy bien que la ciencia ficción,

él lo sabe mejor que yo, haga estas cosas,

pero tenemos que tener claro

qué es real y qué es ciencia ficción.

Mientras tengamos claro esto, ningún problema con las películas.

La ciudadanía

tiene que estar informada y tener sentido crítico

y educarla quizás para eso.

Quizás lo que nos falla

es que no estamos formando bien al niño, al ciudadano.

-Es la clave.

-No lo estamos educando con suficiente sentido crítico.

Se lo creen todo, porque algo sale en una pantalla te lo crees.

Cuidado con eso, y no me refiero a la pantalla de televisión solo.

Pantalla de ordenador también.

-Pero que precisamente este tipo de debate,

la divulgación de lo que se hace, la Ciencia,

el día a día de los investigadores en su laboratorio es fundamental.

-Este programa es fundamental para esto.

-Enseñando qué es lo que es posible en cinco años y qué no lo es.

Esto desmitifica

este concepto de Inteligencia Artificial

a lo loco, a lo bestia.

Últimamente utilizamos muchos conceptos, los mezclamos,

y que no sabemos si tienen mucha relación unos con otros.

Por ejemplo, el "big data" y la Inteligencia Artificial.

El "big data" y el "data analytics" son dos ciencias

que realmente tienen

una parte de capacidad de almacenar mucha información,

que los computadores puedan almacenarlo,

y otra es de procesar esa información

y sacar alguna información.

Para eso, los estadísticos o matemáticos

tienen unos algoritmos cada vez más elaborados.

El "big data" es una herramienta que se puede usar en muchos sitios,

en la banca, en los mismos coches autónomos...

Pero evidentemente es una herramienta

unida a la Inteligencia Artificial, unida a la robótica,

que es como el centro

de toda esta ciencia,

y cada vez la ciencia se hace más en la frontera.

Esto de que yo solo sé esto está desapareciendo.

Los grandes avances científicos en el campo de "big data",

Inteligencia Artificial y robótica están en la frontera entre ellos.

-Con otras disciplinas también.

-Sí, en la frontera de estas disciplinas

y ahí es donde habrá el bum de los nuevos avances

en los próximos años, en la frontera.

¿Por ejemplo?

Pues, por ejemplo, el "big data" y el tema de salud.

Salud y "big data",

hace falta saber mucha estadística y medicina

y el que sepa estadística, medicina

y un poco de ingeniería y un poco de "software"

será la persona que triunfará ahí,

porque todo el tema del cáncer,

de las enfermedades está muy relacionado con el "big data".

¿La toma de decisiones?

Pues después habrá programas de Inteligencia Artificial

que tomarán una decisión.

Si el tumor es de nivel dos o cuatro.

-Este programa de hace poco que hablaba de enfermedades,

si tú combinas todo esto que él está diciendo,

por ahí te puede ayudar, más comunicación, en tiempo real,

a poder saber por dónde una epidemia se puede desarrollar

y enfocar tus esfuerzos en ese tipo de cosas,

que es una cosa estupenda, buenísima y necesaria.

-Afortunadamente hay

una lista interminable de aplicaciones

extraordinariamente positivas para la sociedad,

en particular para la salud, de la Inteligencia Artificial.

Naciones Unidas está aplicando Inteligencia Artificial

en países en vías de desarrollo, en África y otros lugares

y están logrando cosas interesantísimas

para abastecer de medicamentos mediante drones,

lo que llaman la última milla, hasta el último momento,

para llegar rápido a lugares

que no son transitables para los camiones

o hay que vadear un río y no hay puentes

y habría que hacer 200 kilómetros para pasar al otro lado

y un dron lo hace en minutos...

Hay cantidad de aplicaciones de la Inteligencia Artificial

que son extraordinariamente beneficiosas.

-El lado "Star Trek" y no el lado "Mad Max" de la historia.

-De eso es de lo que tendría que hablarse más.

Pero yo también quiero hablarles de otra cosa y preguntarles.

Del mismo modo que hablamos de Inteligencia Artificial

y su relación con los seres humanos, habría que preguntar

si los seres humanos son mejorables con Inteligencia Artificial.

Bueno. -Bueno, hay una tendencia

de realmente, sobre todo con la robótica,

los implantes biónicos, toda esta tecnología,

de poder mejorar el cuerpo humano.

Por ejemplo,

todos los implantes biónicos de manos amputadas, etc.,

que lo que hacen es que una persona que no podía hacer unas operaciones

ahora las pueda hacer.

Hay un ejemplo muy ilustrativo en un hospital en Austria,

en el que a una persona amputada

le implantaron una mano biónica

y dice: "Puedo abrir la botella,

pero ahora mismo no puedo atarme los zapatos,

pero no me preocupa,

porque dentro de dos años sacarán otra mejor

y, al sacar otra mejor,

me podré atar los cordones de los zapatos".

Quiere decir esto

que podemos mejorar nuestro propio cuerpo.

Nuestro cuerpo no es perfecto y "2001" dice que es una evolución.

Eso interpretamos cuando la vemos. Pero nuestro cuerpo no es perfecto.

Perdona, la gran...

Sí, efectivamente, cómo va evolucionando

ante la inteligencia.

Nuestro cuerpo podría ser mucho mejor.

Por ejemplo, solo tenemos ojos que miran hacia delante,

no tenemos visión hacia detrás. Esto lo podemos mejorar.

Que los investigadores en robótica e Inteligencia Artificial,

como dioses del Olimpo que pueden decir:

"Vamos a mejorar

y en vez de levantar cinco kilos con la mano podremos levantar 50".

Una serie de cosas que son impensables.

-Y hace años, sin la Inteligencia Artificial,

los implantes cocleares para...

Esto, los que llevamos gafas,

para mí esto es una tecnología que ha mejorado mi capacidad visual,

si no, lo veo todo borroso.

A veces hablamos de grandes cosas

y nos olvidamos de aquellas cosas que hace años que tenemos.

Es una cosa progresiva.

Es cierto que gracias a la robótica

hay sensores cada vez más sofisticados,

Inteligencia Artificial cada vez más sofisticada...

Lo que hacemos es que cada vez esta línea de progreso,

de mejorar las capacidades de nuestro cuerpo, por ejemplo,

se puedan acelerar o extender

más allá de lo que hace unos años podíamos imaginarnos, sin duda,

pero yo creo que está muy bien que las cosas vayan por ahí

y luego el equipo persona-máquina,

se ha demostrado en muchas aplicaciones,

en medicina, por ejemplo,

que es mejor que cualquiera de los dos por separado.

Hay un efecto de sinergia muy interesante.

Diagnóstico basado en la imagen,

una radiografía, una ecografía, cualquier tipo de imagen médica,

y hay un montón de ejemplos ya

en donde se ve que los errores del médico humano

y los errores del sistema de Inteligencia Artificial

no se solapan, no están correlacionados, se complementan,

con lo cual, al trabajar en equipo

disminuyen enormemente la tasa de error global.

Bajó de un 5 o 6 % en la detección de tumores cancerígenos

en mamografías, el ser humano cometía un 5 o 6 % de errores,

pero gracias a trabajar en equipo, no sustitución,

en equipo con el sistema de Inteligencia Artificial

bajó al 0,5 %, 99,5 % de aciertos.

Eso es extraordinario.

Podría hablar de muchos ejemplos en esta línea,

donde el equipo persona-máquina es mucho mejor que por separado.

-Pero al contrario esa simbiosis te obliga también a modificar

qué formación le das al profesional,

porque tiene que saber si la máquina está fallando o no.

-Claro, tiene que tener un mínimo de...

-Un mínimo de conocimiento.

Y luego que Stephen Hawking en algún momento dijo

que los robots tienen que tener

un botón de apagado de urgencia por las dudas.

-Siempre lo tienen. -Los actuales lo tienen.

-O sea, que el tema de la formación y la educación es clave en esto.

-Sí, es clave. Interesante.

Seguimos hablando de cine. Me gustaría cerrar con unas palabras

sobre ese "2001" que tanto nos gusta

y que se ha convertido

en uno de los grandes clásicos de la historia del cine.

Pues yo no sé qué más decir.

Cada vez que veo "2001" me evoca cosas nuevas

y a la vez cosas antiguas.

Supongo que es que me hago mayor y cada vez la veo más...

Creo que los seres humanos, creo particularmente,

que hemos creado un dios al que nos parecemos,

aunque las tradiciones cuentan que nos parecemos a ese dios creador

y nosotros tendemos a reproducirlo en aquello que creemos,

en este caso en HAL 9000,

que es ese personaje omnisciente en la Discovery.

Siempre me llamó la atención dónde se hizo la Discovery,

esa máquina tan maravillosa que vaga por el espacio.

En el libro se cuenta un poquito. En la película se obvia.

Ese HAL 9000 reproduce a la Humanidad,

pero con todos nuestros defectos y nuestras virtudes.

Trata de ser empático, que es una condición de las personas,

pero a su vez se defiende y luego nos deja grandes preguntas,

que son propias de cualquier persona que piense alguna vez

y mire al cielo, quiénes somos, de dónde venimos y adónde vamos.

Esas tres preguntas me suenan.

(Risas) Es así de sencillo.

¿Cuántas veces nos las hemos hecho? Casi todos los días.

Gracias a los cuatro por estar aquí con nosotros.

Gracias también a nuestros invitados

y a los espectadores que ven y siguen el programa desde casa.

Nada más.

Les esperamos la próxima semana,

pero yo creo que tenemos que decir algo.

Este es el último programa

que grabamos en Villaviciosa de Odón,

que es donde lo hemos hecho en las últimas temporadas,

en unos estudios que se llaman Adisar.

A mí me gusta siempre despedirme del estudio,

porque es como un sujeto paciente,

que resiste todo lo que decimos.

También otros programas de cine de esta cadena

se han hecho en este mismo estudio.

A partir de la semana que viene estamos otra vez en Prado del Rey

y también les daremos la bienvenida cuando lleguemos allí.

Por tanto, gracias a Villaviciosa.

Bienvenido sea Prado,

que tampoco hay tanta diferencia de kilómetros

entre un lugar y otro.

Volveremos a la casa madre de Televisión Española.

Salimos para ir a Buñuel, vinimos aquí

y ahora otra vez para allí,

no sé si con robots o sin,

pero ya lo veremos cuando lleguemos.

Gracias y hasta la próxima semana.

  • A mi lista
  • A mis favoritos
  • 2001, la inteligencia

Millennium - 2001, la inteligencia

12 feb 2019

Programa de debate presentado por Ramón Colom sobre inteligencia artificial y robótica con Ramón López de Mantaras, Gerardo Sánchez, Carlos Balaguer y Mabel Klimt

ver más sobre "Millennium - 2001, la inteligencia " ver menos sobre "Millennium - 2001, la inteligencia "
Programas completos (152)

Los últimos 364 programas de Millennium

  • Ver Miniaturas Ver Miniaturas
  • Ver Listado Ver Listado
Buscar por:
Por fechas
Por tipo
Todos los vídeos y audios