Vivències en primera persona de la nostra Comunitat: Adrián Arnaiz Rodríguez, investigador a ELLIS Alicante i becat jove d’investigació de la Fundación Banco Sabadell: “La IA fiable ha de ser segura, justa, explicable i governable.”
«Com a investigador a ELLIS Alicante i becat jove d’investigació de la Fundación Banco Sabadell, la meva feina parteix d’una convicció: la intel·ligència artificial (IA) en què val la pena confiar no és la que automatitza més, sinó la que entén millor el món humà en què actua. Quan parlem d’IA, gairebé sempre ho fem en els mateixos termes: més capacitat, més precisió, més automatització. Jo també vaig començar la meva trajectòria investigadora atret per aquesta promesa. Però després del meu doctorat a ELLIS Alicante he arribat a una altra conclusió: la gran pregunta ja no és només si una IA pot decidir bé, sinó què significa decidir bé quan hi ha persones, drets, contextos socials i normes en joc. La meva tesi doctoral, dirigida per la Dra. Nuria Oliver, defensada el setembre de 2025, titulada “A Sociotechnical Approach to Trustworthy AI: from Algorithms to Regulation”, resumeix aquest recorregut: passar de mirar només els algoritmes a entendre la intel·ligència artificial com un sistema més ampli i sociotècnic.»
Per a mi, parlar d’intel·ligència artificial fiable significa demanar que els sistemes d’IA no només siguin potents, sinó també justos, robustos, interpretables, auditables i alineats amb els valors i les normes de la societat en què s’utilitzen. Aquesta ha estat la idea que ha guiat la meva recerca a ELLIS Alicante, on he treballat sobre decisions d’alt impacte, xarxes socials, col·laboració entre humans i algoritmes, i la intersecció entre IA, regulació i governança. No són temes separats. Formen part del mateix problema.
Una de les primeres coses que vaig aprendre en investigar va ser que la justícia algorítmica no es pot tractar com un afegit ètic que s’afegeix al final. Quan deleguem en un algoritme decisions que afecten l’ocupació, les finances personals o l’accés a serveis públics, la precisió tècnica deixa de ser suficient. També cal preguntar-se a qui perjudica més quan s’equivoca, quins biaixos reprodueix i quins danys pot reforçar sense que gairebé ens n’adonem. Per això, una part important del meu treball s’ha centrat en la discriminació algorítmica i en com convertir diferents perspectives de justícia en un problema tècnic mesurable. Però també vaig entendre una cosa igualment important: no n’hi ha prou amb arreglar el model. Cal analitzar tot el sistema sociotècnic.
Això es veu amb especial claredat a les xarxes socials, on els algoritmes no només “preveuen” o “classifiquen”: recomanen, prioritzen continguts, decideixen què guanya visibilitat i condicionen què veiem i què deixem de veure. En altres paraules, també donen forma a part del nostre entorn social. Per això m’interessa estudiar no només la justícia en decisions individuals, sinó també la desigualtat estructural en xarxes i sistemes de recomanació. És un dels debats centrals del nostre temps: entendre que l’impacte de la IA no depèn només de la seva precisió. També depèn de l’ecosistema social que ajuda a construir.
“La intel·ligència artificial (IA) en què val la pena confiar no és la que automatitza més, sinó la que entén millor el món humà en què actua.”
La meva estada internacional a l’Max Planck Institute for Software Systems va reforçar una convicció: que el repte en la interacció humà-IA està en dissenyar millors formes de col·laboració entre tots dos, saber quan la IA pot complementar el judici humà, quan convé supervisar-la i com repartir millor les decisions per reduir errors i assumir millor la responsabilitat. Aquesta idea de complementarietat entre decisió humana i suport algorítmic m’interessa precisament perquè aporta una mirada menys tecnològica i més realista del problema.
També he comprovat que aconseguir una intel·ligència artificial en la qual puguem confiar depèn de la seva governança. És a dir: de la capacitat de traduir principis generals a pràctiques concretes, de connectar innovació amb rendició de comptes i de crear institucions capaces de supervisar sistemes complexos. Per això una part del meu treball s’ha centrat en debats sobre regulació, drets digitals i responsabilitat algorítmica. He pogut participar en espais molt diversos, des de col·laboracions vinculades a la Carta de Drets Digitals fins a xerrades en entorns de policy-making com el Joint Research Centre o el Comitè JURI del Parlament Europeu. Aquesta experiència m’ha reafirmat en una idea: una bona IA ha de poder explicar-se i governar-se.
Mirant enrere, veig la meva etapa a ELLIS Alicante com un aprenentatge continu. Vaig començar pels models, vaig continuar amb les xarxes i l’equitat, i vaig acabar entenent que la confiança en la IA també rau en com s’integra en organitzacions, institucions i processos humans. En aquest recorregut he col·laborat amb equips internacionals, he estat investigador visitant a MPI-SWS, he coorganitzat un tutorial a ICML 2024 sobre graph learning i he fet ponències sobre IA, justícia algorítmica i regulació. També he pogut conèixer premis Nobel i Turing com a Heidelberg Young Researcher, col·laborar amb investigadors d’institucions capdavanteres com Intel Labs o Google Research, i participar en activitats de lideratge dins la comunitat científica. Aquest recorregut no hauria estat possible sense el suport d’institucions que, com la Fundación Banco Sabadell, entenen que l’excel·lència investigadora ha d’anar unida a un compromís ferm amb la societat i els seus problemes reals.
Si avui hagués de resumir la meva recerca en una sola frase, reiteraria que la intel·ligència artificial en què val la pena confiar no és la que automatitza més, sinó la que entén millor el món humà en què actua, perquè darrere de cada model hi ha persones, decisions i institucions que importen. I això exigeix més que bons algoritmes. Exigeix criteri, supervisió, context i regles. Exigeix, en definitiva, una intel·ligència artificial que no només sigui capaç, sinó també digna de la nostra confiança.
