Fer consultes mèdiques a ChatGPT: un advocat i un metge n'exposen els perills
L'ALTAVEU
- L'Altaveu reflexiona sobre els límits de la intel·ligència artificial generativa en l'àmbit de la salut
- Menys sexe i més parelles: l'antropòloga Bruna Álvarez explica el canvi d'hàbits sexuals en els joves
La dirección de esta página ha sido copiada en su portapapeles
"Actua com un metge i analitza els resultats d'aquesta analítica." Aquesta pregunta innocent, formulada a ChatGPT, obre un debat sobre els límits de la intel·ligència artificial i els riscos.
D'entrada, 230 milions de persones arreu del món fan servir xatbots d'IA cada setmana per fer consultes relacionades amb la salut. I aquesta tendència ha impulsat ChatGPT Salut, el nou xatbot d'OpenAI enfocat precisament a l'anàlisi mèdica. De moment, aquesta funcionalitat no està disponible en territori europeu, ja que no s'ha garantit el compliment de la legislació de Brussel·les, que considera les dades mèdiques com a especialment sensibles.
“La IA busca molt més ràpid que nosaltres“
David Barastegui, doctor de l'Instituto Cugat, ha explicat a l'Altaveu que la IA no és necessàriament perjudicial quan s'enfoca a la salut: "Aquests bots tenen accés molt més ràpid i més processament ràpid del que puguem tenir els humans. Busquen molt més ràpid que nosaltres."
“La qüestió és com ho preguntes, què li preguntes i quines dades li deixes“
El doctor Barastegui també ha explicat que un dels principals inconvenients de la IA és que et dona un ventall de possibles patologies, i que continua sent necessària una interpretació adequada de les respostes. El metge ha posat l'exemple d'una taca a la pell, que podria ser des d'una ferida lleu fins a un càncer. És aquí on el paper dels professionals de la salut esdevé fonamental.
"La qüestió és com ho preguntes, què li preguntes, quines dades tu li deixes al servidor... Perquè ell acaba tenint aquestes dades", assenyala el metge, que obre també el debat sobre la privacitat, molt qüestionada en l'àmbit de la IA. Al cap i a la fi, els xatbots no deixen de ser caixes negres on tota la informació que hi introduïm acaba als servidors, de vegades situats en tercers països fora de la Unió Europea.
Les dades de salut són molt sensibles
I el problema real és què se'n fa d'aquestes dades. L'advocat especialista en entorn digital, Ramón Arnó, ha explicat a l'Altaveu de La 2Cat per què la Unió Europea considera un perill l'accés de les corporacions nord-americanes a les nostres dades sanitàries, especialment per la possibilitat que les comercialitzin a terceres empreses. "Imagineu-vos que una entitat bancària o una asseguradora accedeix a aquestes dades de salut, que és la mateixa companyia que després no ens renovarà l'assegurança de vida", ha assenyalat.
“Et poden suplantar la identitat“
Un altre exemple del lletrat és el ciberatac a l'Hospital Clínic de Barcelona que va exposar les dades de milers de pacients, cosa que pot facilitar estafes: "Et poden suplantar la identitat i dir que truquen de part del teu hospital perquè tenen la teva informació." En el cas dels xatbots d'IA, serien els mateixos usuaris els qui lliurarien la seva informació sanitària.
Arnó també ha exposat un últim risc d'aquests xatbots, que són les al·lucinacions. "A diferència dels humans, s'inventen la resposta quan no saben què contestar-te", conclou l'advocat. En definitiva, cal ser curosos amb les dades que lliurem als xatbots i també amb les respostes que ens donen.
