Cristina Pitarch, de Anthropic España: “Ni la visión catastrofista de la IA, ni la muy optimista son correctas"

• La empresa de inteligencia artificial Anthropic acaba de abrir un centro estratégico en Madrid
• Su llegada a España coincide con el llamamiento del CEO de la compañía a un consenso global para regular la IA

Entrevista a Cristina Pitarch, responsable de Anthropic España

Cristina Pitarch es la responsable de la primera oficina que Anthropic abre en España. Antes de aterrizar en una de las empresas pioneras en inteligencia artificial, desarrolló parte de su trayectoria profesional en Google España, en el terreno de la ciberseguridad. Es una fiel creyente del desarrollo seguro y responsable de la IA. Recién aterrizada en el puesto, concede una entrevista a RTVE Noticias. En una semana convulsa para la inteligencia artificial, con continuos mensajes catastrofistas, Pitarch quita hierro al asunto, aborda el estado actual de los modelos, su regulación y los planes de la compañía tras la apertura de sede comercial en Madrid. Destaca que España es uno de los principales países europeos en adopción de Claude (el asistente de Anthropic). Toma posesión del cargo unos días después de que Dario Amodei, CEO de la compañía, haya pedido que se ralentice la investigación en IA y un consenso global para su regulación antes de que esta tecnología se descontrole.

En unas semanas, el debate sobre la inteligencia artificial parece haber girado hacia la seguridad. Hemos escuchado mensajes catastrofistas y Dario Amodei ha planteado que se ralentice el desarrollo para acompasarlo con la seguridad. ¿Ha cambiado algo ahora o era una preocupación que ya existía?

No es algo que haya surgido en las últimas semanas; esto viene de lejos. Tanto nosotros como el propio Dario Amodei llevamos meses, incluso años, planteándolo. Es un tema que ha saltado a la primera línea recientemente debido a ciertas comunicaciones que lo han hecho más público, pero a nosotros nos viene de maravilla. Nos da un altavoz mucho mayor para transmitir lo que llevamos años defendiendo: que no puede existir una inteligencia artificial sin seguridad. El enfoque de Anthropic es muy interesante porque priorizamos la seguridad antes que el producto; siempre se concibió primero un entorno seguro antes de lanzar una herramienta al mercado. Lo que buscamos ahora es que tanto el resto de los proveedores de inteligencia artificial como los gobiernos pongan siempre la seguridad en primer lugar. Si este mensaje logra calar cada vez en más gente, mucho mejor.

Cristina Pitarch, responsable de Anthropic España

Cada día aparecen noticias sobre incidentes y sobre modelos que pueden saltarse controles o realizar acciones difíciles de interpretar. ¿Se nos ha ido la inteligencia artificial de las manos? ¿Se ha cruzado una línea que ya no podemos controlar?

No se ha cruzado esa línea, y ese es precisamente el llamamiento que estamos haciendo. Lo que estamos viendo son ciertos indicios de cómo se podría llegar a sobrepasar. Funciona como una especie de alerta sobre lo que podría suceder en el futuro. Pero, desde luego, de momento no se ha traspasado; estamos en una etapa demasiado temprana como para pensar que no hay control. Lo que debemos hacer es plantearnos cómo mitigar esos riesgos. Muchos de estos incidentes ocurren en entornos controlados y lo sabemos, precisamente, porque se han logrado detener. Son señales de que la tecnología avanza cada vez más rápido; desde el verano hasta ahora el crecimiento ha sido exponencial. Ahora que contamos con el foco público, es el momento idóneo para prestar atención y actuar todos juntos.

Teniendo en cuenta las incidencias y los problemas que se están detectando, ¿no le preocupa que las empresas, las instituciones y los gobiernos tengan miedo de poner sus datos e información confidencial en estos modelos?

Bueno, ellos no ponen sus datos; nosotros no usamos nunca los datos de la gente que está usando Claude. Depende del grado de seguridad que cada empresa tenga internamente. La seguridad se está convirtiendo poco a poco en la demanda más grande que existe. Vengo del mundo de la ciberseguridad y, obviamente, nosotros llevamos muchísimo tiempo diciendo: "Hay que tener un cuidado extremo y cada vez más". Hace 5 años, muchísimas empresas pensaban que la ciberseguridad no era un asunto importante, la dejaban en segunda línea. Ahora, prácticamente ninguna piensa eso. Tenemos que dar un tercer paso, que es ser proactivo y pensar cómo asegurar algo desde su lanzamiento.

Cristina Pitarch, responsable de Anthropic España en su visita a los SSII de RTVE

¿Cómo se puede garantizar la seguridad antes del lanzamiento de los modelos, también desde los gobiernos? ¿Hace falta más regulación? ¿y cómo debería ser para no frenar las ventajas de la inteligencia artificial?

Es muy poderosa y no está suficientemente regulada. Si piensas en cualquier industria del mundo, por ejemplo, la aeronáutica, los aviones, lo hemos regulado entre todos. Es lo mismo para la IA, tiene que ser regulada. No es que después de un accidente de avión puedas decir: "Esta regulación viene de ahí"; la regulación ya estaba, se va adaptando. La inteligencia artificial es tan poderosa que se necesita una regulación a nivel mundial. Una regulación que no frene la innovación, ni las ventajas que nos está dando, que son inmensas.

"Se trata de pausar e ir más despacio"

Esta semana hemos visto que no hay consenso entre los gobiernos ni entre las grandes empresas de IA sobre una pausa. Si otros países o competidores no frenan, ¿puede permitirse Anthropic ir más despacio por motivos de seguridad?

Más que frenar, se trata de pausar e ir más despacio hasta que estemos seguros de cómo van saliendo los modelos. Por supuesto que nos lo podemos permitir, porque no vamos a actuar de otra manera. Al final, nuestro pensamiento es que, si damos ejemplo, los demás nos seguirán. Intentaremos ser la voz cantante tanto dentro del gobierno como en la Unión Europea, colaborando en todas las regulaciones para que se adopte este enfoque, que consideramos el camino correcto. Tengo la esperanza de que, al final, todos se darán cuenta de que esta es la forma de actuar. De hecho, varios grandes directivos de empresas como OpenAI ya han declarado que esta es la vía adecuada, y poco a poco se irán sumando más, porque no hay otra alternativa.

Cristina Pitarch de Anthropic España en su vista a los SSII de RTVE

"Todos queremos que estos avances beneficien a la humanidad"

Con intereses tan distintos entre compañías y gobiernos, ¿pueden ir de la mano el desarrollo y la seguridad? ¿Es posible un desarrollo seguro por regulación y por competencia, o dependerá de lo que decida cada empresa?

Tiene que ir de la mano, y estoy convencida de que así será. A nivel personal, nunca me involucraría en un proyecto de este tipo sin tener la certeza de que la seguridad es la prioridad absoluta. Creo que la mayoría de las empresas del sector piensan de la misma manera; al final, todos queremos que estos avances beneficien a la humanidad. Por eso, confío en que lograremos alcanzar un consenso global en cuestión de meses.

"Las empresas de ciberseguridad ya están desarrollando sus propios modelos de IA"

Usted viene del mundo de la ciberseguridad. En este debate parecen quedar en segundo plano las empresas que llevan años protegiendo sistemas y organizaciones. ¿Qué papel tienen junto a las compañías que desarrollan los modelos?

Tienen un papel muy importante. Las empresas de ciberseguridad ya están desarrollando sus propios modelos basados en inteligencia artificial para defender mejor tanto a sus clientes como a las organizaciones a nivel interno. Por lo tanto, obviamente tienen mucho que decir y aportar. Nosotros estamos colaborando activamente con muchísimas de ellas en ese sentido; al fin y al cabo, que todos seamos fuertes nos beneficia a todos y nos hace mejores. No existe una competencia real entre nosotros. De hecho, los modelos actuales ya analizan y programan mejor, ofrecen respuestas más completas y son capaces de ejecutar tareas de manera más prolongada.

¿Qué le diría a quien ve amenazado su puesto de trabajo o teme ser sustituido por la inteligencia artificial?

Creo que la idea de la inteligencia artificial no es sustituir a nadie, sino ayudarte a realizar tu trabajo de una manera más efectiva. A nivel personal, en mi día a día, delego en la inteligencia artificial lo que no quiero hacer. Prefiero invertir mi tiempo en tareas que requieren capacidad de razonamiento, creatividad e innovación, que al final es lo que prácticamente a todos nos entusiasma de nuestra profesión; eso siempre va a estar ahí. El otro día estuve en un colegio y es impresionante cómo la IA puede ayudar a los profesores. Todo ese tiempo que antes dedicaban a preparar materiales o a labores administrativas ahora se lo ahorran, permitiéndoles centrarse en enseñar a sus alumnos. Para mí es increíble que podamos ofrecer a todo tipo de profesiones la habilidad de dedicarse a su verdadera esencia, y no a la carga burocrática y de papeleo que nos ha invadido últimamente. Ese salto de productividad todavía parece pendiente en muchas empresas.

Cristina Pitarch, de Anthropic España, en su visita a los SSII de RTVE

"La IA ayudará a que cada empleado sea mucho más creativo y avanzado"

¿Cuánto camino queda para que se note? ¿Podría compensar posibles pérdidas de empleo y cambiar las tareas a las que se dedican los trabajadores?

Actualmente, el nivel de adopción y uso de la inteligencia artificial en las empresas es bastante básico. Sin embargo, esto va a cambiar y a escalar rápidamente. En cuestión de meses veremos cómo se gana productividad en diferentes áreas. Ya se aprecian diversos proyectos piloto enfocados en partes muy concretas para evaluar su funcionamiento, y en los próximos meses pasarán a producción y se convertirán en herramientas de uso diario. Creo que el tiempo que ganaremos gracias a este avance nos ayudará a que cada empleado sea mucho más creativo y avanzado a la hora de solucionar problemas. La IA no viene a eliminar el trabajo de nadie, sino a ayudarte con las tareas que no aportan valor o que no quieres hacer.

Durante años se decía que Silicon Valley innovaba y Europa regulaba. Ahora que las empresas de IA también piden reglas, ¿en qué posición está Europa?

Europa siempre ha adoptado una postura reguladora que, de hecho, coincide con lo que nosotros solicitamos: estamos pidiendo regulación, e incluso más regulación. Sin embargo, creo que el proceso debe ser más rápido y más sencillo. Al final, aunque Europa sea un entorno muy regulado, en este ámbito específico todavía no avanzamos al ritmo que deberíamos. Por ello, haría un llamamiento a las instituciones europeas para que regulen de una manera simple, que fomente el avance tecnológico, pero que, al mismo tiempo, nos aporte seguridad a todos en este entorno. De este modo, podremos convertirnos en un referente para el resto del mundo, que es el verdadero propósito de la regulación. Bien empleada, la regulación es fantástica.

El CEO de Anthropic, Dario Amodei Ludovic MARIN / AFP

"No creo que la regulación frene la innovación, pero debería ir más deprisa"

¿Existe el riesgo de que la regulación europea frene la innovación o dificulte proyectos que avanzan en otros países?

Nosotros hemos firmado el tratado de la regulación europea de inteligencia artificial porque estamos de acuerdo con lo que se plantea; creemos que es el camino a seguir. No considero que esté frenando la innovación; lo que ocurre es que va despacio. Todos estos procesos avanzan con demasiada lentitud, mientras que la inteligencia artificial evoluciona muy deprisa. Europa habla de soberanía digital, pero la realidad es que muchos de los modelos predominantes, como Claude o ChatGPT, vienen de fuera.

Claude ya se comercializaba en España. ¿Por qué decide Anthropic abrir una oficina aquí precisamente ahora? ¿Qué puede aportarle el mercado español y cuál es el objetivo de esta apuesta?

Vemos a España como un mercado importantísimo. De hecho, estamos observando un dato muy curioso: España tiene un nivel de adopción de Claude que es 2,7 veces mayor de lo que le correspondería por su volumen de población. Estamos, por ejemplo, por encima de Alemania en este aspecto; es una tasa de adopción de Claude realmente alto. Además, el país cuenta con un ecosistema empresarial excelente, tanto por las grandes corporaciones —compañías españolas que son referentes mundiales en sectores como las finanzas o el retail— como por un entorno muy vibrante de startups. Actualmente, están batiendo récords en cuanto a crecimiento de equipos y escalabilidad, y muchas de ellas ya utilizan Claude. Queríamos estar aquí para formar parte de todo esto, ayudar al ecosistema y lograr que esta adopción de la inteligencia artificial que vemos en España dé un salto cualitativo, pasando de la fase de piloto a la de ejecución.

¿La expansión estará orientada también a las pequeñas y medianas empresas españolas, o Anthropic se centrará en grandes compañías y startups?

En España, casi el 99% del tejido empresarial está compuesto por pequeñas y medianas empresas, por lo que es imposible avanzar en este mercado sin contar con ellas. Obviamente, queremos apoyar a las pymes, ya que consideramos que necesitan esta tecnología para seguir desarrollándose. Así que la respuesta es un sí absoluto.

Al hablar de la nueva oficina en España, ¿se refiere a una sede únicamente comercial o a un centro con otras funciones dentro de la estrategia de Anthropic?

Es un centro real de negocio. Contamos tanto con perfiles comerciales como con arquitectos e ingenieros y, de cara al futuro, incorporaremos más personal enfocado en alianzas y políticas públicas. Por lo tanto, no se limitará a ser una oficina comercial; será un centro estratégico con el que buscamos que España se convierta en un foco clave para el sur de Europa y en una referencia para los países hispanohablantes, con los que compartimos una relación tan estrecha.

Logotipo de la compañía Anthropic con la imagen de un robot

Hoy una empresa o una institución puede elegir entre Claude, ChatGPT, Gemini y otros modelos. ¿Por qué debería elegir Claude? ¿Qué cree que le aporta frente a sus competidores?

Estoy convencida de que el gran factor diferencial de Claude es la seguridad. Sabemos que los modelos más avanzados van a seguir evolucionando, pero para mí es una cuestión de principios; se trata de tener la certeza de que el modelo ha sido probado y reprogramado para ser lo más seguro posible. Creo que tanto las empresas como los ciudadanos debemos exigir ese nivel de seguridad.

Sigue siendo poco habitual encontrar a mujeres al frente de empresas de ciencia y tecnología. ¿Le ha resultado difícil llegar a este puesto y cómo vive la posibilidad de convertirse en referente para otras mujeres y niñas?

Nunca es fácil. Siendo totalmente honesta y transparente, las mujeres no lo tenemos sencillo, pero creo —y me gustaría— que casos como el mío, que afortunadamente cada vez hay más, sirvan de ejemplo para todas aquellas niñas que están pensando en su futuro. Quiero que sepan que pueden llegar a donde ellas quieran, ya que hoy en día no hay ningún sector vetado para que una mujer ocupe un puesto de liderazgo. Estoy encantada de poder desempeñar ese papel. Yo también tuve mis propios referentes en su momento. Sé que el camino es complejo, pero aquí estamos. Ayer, en una conferencia que dimos en ISDI ante una comunidad tecnológica, fue muy curioso ver que el 50% de los asistentes eran mujeres. En un momento dado, pidieron que levantaran la mano y pensé: "Estamos mejorando". Es muy significativo que, en un entorno tan técnico como el de la inteligencia artificial, la mitad de los asistentes voluntarios fueran mujeres. Ojalá sigamos así.

"Ni la visión catastrofista, ni la muy optimista son correctas"

En las últimas semanas hemos visto titulares muy optimistas y otros muy preocupantes sobre la IA. ¿Cree que seguirá esa montaña rusa de noticias e informaciones hasta que se acompasen el desarrollo y la regulación?

Creo que este tema tiene dos vertientes. Por un lado, está la parte sumamente optimista, con personas que piensan que la inteligencia artificial va a sustituir a los coches y que terminaremos volando por el cielo; por otro lado, está la postura totalmente catastrofista que augura que en dos años ya no habrá mundo. Ninguna de las dos visiones es correcta; al final, debemos buscar un punto medio, que es hacia donde nos dirigimos. Considero que la inteligencia artificial aporta muchísimos avances. A nivel personal, una de las razones por las que me incorporé a Anthropic fue precisamente por sus aplicaciones en el ámbito de la salud. Todos tenemos familiares que pasan por situaciones difíciles de enfermedad, y tengo la esperanza de que, en un periodo de tiempo corto, la tecnología ayude a evitar ese sufrimiento. Me entusiasma formar parte de una empresa capaz de lograr avances tan tremendos en medicina de cara al futuro.

No obstante, también debemos ser plenamente conscientes de los peligros a nivel medio. Tiene que existir una conciencia social similar a la que tenemos al no cruzar la calle cuando el semáforo está en rojo. Es exactamente lo mismo: una cuestión de educación, de ser conscientes de los riesgos, comprender las normas y seguir adelante.