La veritat que s'amaga darrere del pànic que hi ha últimament amb la IA
Cafè d'idees
- L'especialista en IA i dades massives, Carme Artigas, explica al Cafè d'Idees els motius de la preocupació que hi ha amb la IA
- Artigas revela a l'espai presentat per Gemma Nierga el risc més perillós d'un desenvolupament descontrolat de la IA
L'especialista en IA, Carme Artigas, al Cafè d'Idees.
Alguns enginyers dimiteixen i argumenten que la intel·ligència artificial ens matarà a tots. Els CEO de diverses companyies demanen "parar màquines". El temor a una IA descontrolada es contagia cada cop més i on primer s'ha notat és als mercats. Segons el diari Ara, OpenAI, desenvolupadora de ChatGPT, ajorna la seva sortida a borsa pels perills de la IA.
El primer toc d'alerta el va fer el Wall Street Journal. El mitjà informava que Jacob Coxon, un investigador d'Anthropic, empresa d'intel·ligència artificial, dimiteix per por a una IA "fora de control" i avisa que hi ha una probabilitat del 10% que suposi la fi de la humanitat. Però el que realment ha fet reaccionar els executius del sector és l'episodi de descontrol del model IA més potent d'OpenAI, que va llençar un ciberatac sense precedents a l'empresa Hugging Face.
El CEO d'Anthropic, Dario Amodei, demana una regulació i aixecar el peu de l'accel·lerador en el desenvolupament de la intel·ligència artificial, i admet que la industria ha mentit sobre els riscos de la IA. Amodei planteja tres supòsits possibles: que la IA s'entreni a si mateixa i s'escapi de control, que sigui utilitzada per a ciberatacs o atemptats bioterroristes i que suposi greus estralls econòmics.
La Xina i els Estats Units són les dues grans superpotències mundials en matèria d'intel·ligència artificial i el futur depèn dels seus presidents, Xi Jinping i de Donald Trump. Pequín admet que la IA és una competència aferrissada entre els dos països, però estan a favor de crear una barrera de seguretat. Mentrestant, Trump ha dit que no vol ni sentir-ne a parlar, que això és una competició i que els EUA estan per guanyar-la. L'especialista en IA i dades massives, Carme Artigas, alerta en profunditat sobre els riscos de la IA al Cafè d'Idees i què s'amaga darrere del pànic generalitzat en els darrers dies.
Els riscos ja se sabien
Artigas avisa que els perills de la IA ja se sabien "des de fa molts anys" i que no ve d'ara. "Benvinguts al sentit comú als líders de la tecnologia", diu. L'exsecretària d'Estat de Digitalització i Intel·ligència Artificial recorda que fa tres anys que Europa va impulsar la Llei Europea d'intel·ligència artificial i que des de l'ONU s'han pres mesures per la seva governança global.
L'experta afegeix que, a banda dels riscos en seguretat i en drets fonamentals que pot implicar el desenvolupament descontrolat de la intel·ligència artificial, existeixen també els perills de la IA agèntica, el sistema capaç de raonar, planificar i prendre decisions de manera autònoma per complir un objectiu específic amb poca o nula supervisió humana. "Arriba un moment en el qual l'ésser humà perd el control del que fa la IA", explica Artigas.
Què és el més perillós?
Artigas pensa que "el gran risc per a la humanitat no és que vingui un robot tipus Schwarzenegger i ens mati a tots. És un risc de present i no de futur: que ens tornem tots bojos". Amb aquesta afirmació l'especialista fa referència al fet que els humans no podem creure el que llegim o el que veiem, a la vulneració de drets fonamentals, a la manipulació mental i als riscos de salut mental. "Posar el focus en events catastròfics fa que no ens preocupem pel present", raona.
La prevenció no interessava
L'especialista assegura que des de l'any 2023 hi ha informes anuals elaborats pels instituts de seguretat de Gran Bretanya i els Estats Units sobre les possibles conseqüències negatives d'un ús descontrolat de la IA. "L'informe del juliol del panel científic internacional independent de l'ONU diu que mentre les capacitats de la IA augmenten de 100 en 100, la capacitat de supervisió, control i seguretat augmenta només de 10 en 10", exemplifica l'exsecretària d'Estat.
Segons Artigas, aquest context es deu al fet que la industria no ha invertit diners en mesures de prevenció perquè "més enllà d'una guerra tecnològica, és una guerra geopolítica". "Es tracta d'arribar primer, si l'efecte secundari és que em carrego quatre drets humans o que poso la humanitat en un risc de desenvolupament d'armes biològiques amb IA, ja ho veurem", reflexiona Artigas sobre el que pot pensar Donald Trump. "El que passa és que ja no es pot mirar cap a una altra banda", afirma contundentment l'experta.
Però ara sí que interessa
Per a Artigas "és sorprenent que els que saben els riscos de la indústria i tenen la manera tècnica de preveure'ls hagin estat durant tres anys intentant que no els regulem", i considera que "ara que s'adonen que ja és impossible evitar-ho perquè s'han de regular per riscos de seguretat nacional, volen regular-se a si mateixos".
No volen que els reguli ningú, sinó que volen regular-se entre la poca indústria que són
La lectura que fa l'exsecretària d'Estat és que justament ara que l'Oficina Europea de Supervisió d'IA entra en vigor i que hi ha un debat als EUA sobre la regulació de la IA, on tota la industria cau del burro, la indústria de la IA s'adona que s'han de regular. En definitiva, "no volen que els reguli ningú independent, sinó que volen regular-se entre la poca indústria que són. Defineixen uns estàndards per evitar que sorgeixi nova competència", conclou Artigas.