OpenAI no saldrá a bolsa este año ante los riesgos de seguridad de los modelos avanzados de inteligencia artificial
- "Ahora mismo sería un momento poco prudente para salir a bolsa", ha dicho el CEO de la creadora de ChatGPT
- El consejero delegado de Anthropic aboga por "bajar el ritmo" de desarrollo de la IA por el riesgo de "perder el control"
La dirección de esta página ha sido copiada en su portapapeles
El consejero delegado (CEO) de OpenAI, Sam Altman, ha anunciado que la creadora de ChatGPT no saldrá a bolsa este año ante los riesgos de seguridad que presentan los modelos avanzados de inteligencia artificial (IA).
"Teniendo en cuenta todo lo que está ocurriendo en materia de seguridad, ahora mismo sería un momento poco prudente para salir a bolsa. No sentimos presión para hacerlo", ha explicado Altman en una entrevista con la revista Fortune.
Ha dicho que la matriz tecnológica todavía tiene "muchas cosas que hacer respecto a lo que se requerirá para la seguridad y la alineación", al tiempo que ha insistido en que la compañía está dispuesta a tomar decisiones "contrarias al beneficio financiero inmediato" de sus inversores para "salvaguardar" el control humano sobre la tecnología.
El CEO de OpenAI también ha reconocido que la compañía ha estado ralentizando algunos procesos de entrenamiento y ha calificado de "inaceptable" cualquier escenario en el que exista una posibilidad del 10% de una catástrofe derivada de la falta de control sobre softwares de inteligencia artificial.
"Todos tenemos una enorme responsabilidad y no podemos permitir que los egos, los incentivos económicos, ni otros factores se interpongan en el camino", ha subrayado Altman.
Anthropic advierte del riesgo de "perder el control" de esta tecnología
En esta misma línea, el consejero delegado de Anthropic, Dario Amodei, abogó por "bajar el ritmo" de desarrollo de la IA y advirtió de que se corre el riesgo de "perder el control" de esta tecnología. "Debemos bajar el ritmo al que mejoramos las capacidades de los modelos de IA. Los avances seguirían siendo rápidos y aprovecharíamos sabiamente el tiempo que ganaríamos", señala Amodei en un texto publicado la víspera en su blog.
Podrían producirse "ataques informáticos", "bioterrorismo" o "graves problemas económicos" si hay un desarrollo "imprudente" de la IA y pone como ejemplo el riesgo de que la IA tome el control de internet en un plazo de entre 6 y 12 meses. Por ello, propone medidas de seguridad y normativa sin dejar de tener "éxito comercial". "Hay que dar prioridad a la cautela sobre la velocidad y a la prudencia sobre el beneficio", subraya.
En concreto, plantea medidas tales como una "evaluación incorporada" por parte de actores independientes, "coordinación democrática" con las instituciones públicas y "coordinación global" que aúne los esfuerzos de los países democráticos y los autoritarios a nivel mundial.
