Un estudi per a detectar possibles biaixos en les respostes en la intel·ligència artificial
Obrim el programa amb en Jordi Miralles, el nostre meteoròleg de confiança, per tenir el balanç de les temperatures i les pluges del dia.
Seguidament, ens hem aturat un moment per indagar en un projecte de la Universitat Oberta de Catalunya. Una investigació de la UOC amb la Universitat de Luxemburg estan desenvolupant LangBiTe, un programa open source (de codi obert) que avalua si els models de les intel·ligències artificials estan lliures de biaixos i compleixen amb les regulacions vigents sobre no discriminació.
Sergio Morales, investigador de la Unitat de Transformació Digital, Intel·ligència Artificial i Tecnologia de la UOC, és un dels principals impulsors i considera que la gent pren aquestes eines molt ràpid i no se sap què hi ha darrere exactament. Posa èmfasi en la responsabilitat de les empreses per vigilar els sistemes i fer complir les normatives. Explica que han detectat biaixos sobretot en època de campanyes electorals, en respostes relacionades amb el gènere i les professions i diferències entre llengües. Al final de la intervenció, Morales ens avança que el pròxim objectiu és aplicar el mateix sistema a la generació d’imatges.
