La incorporació de sistemes d’intel·ligència artificial a processos de decisió pública planteja un dels reptes democràtics dels pròxims anys. RACHAEL parteix de la premissa que "aquestes tecnologies poden contribuir a millorar la innovació pública i secundar determinats processos de governança, però també poden afectar l’autonomia cognitiva de les persones, l’atribució de responsabilitat i la confiança en les institucions". En aquesta línia, cerca generar evidència científica sobre les condicions sota les quals la ciutadania accepta o rebutja la participació de la IA en decisions amb implicacions ètiques, socials i polítiques.

El projecte combina enfocaments experimentals, quantitatius i qualitatius. Està configurat per dos subprojectes. El primer, també denominat RACHAEL, està liderat per Jorge Garcés i desenvoluparà un experiment amb una mostra de 1.250 persones residents a Espanya per a estudiar si el fet de saber —o de creure saber— que una proposta ha estat elaborada per una persona experta o per un sistema d’IA modifica la percepció de legitimitat, imparcialitat, justícia i confiança. Els dilemes es presentaran a través d’escenaris ficticis vinculats a àmbits com la redistribució de recursos, la seguretat, la justícia procedimental, la defensa i els drets. El disseny permetrà observar no sols la valoració inicial de les decisions, sinó també com canvien les opinions quan es revela l’autoria real de les recomanacions.

D'altra banda, el segon subprojecte, AImar, analitzarà els factors personals, actitudinals i contextuals que influeixen en l’acceptació de la IA en la governança democràtica. L’estudi examinarà el paper de la confiança en la IA, la confiança institucional, els valors prepolítics i la delegació cognitiva, entesa com la tendència a transferir part de l’esforç deliberatiu a sistemes automatitzats. Per a això, s’aplicarà una enquesta estructurada a la mateixa mostra de 1.250 participants i es realitzarà un seguiment qualitatiu longitudinal amb entrevistes en profunditat, orientat a comprendre com evolucionen les percepcions ciutadanes sobre la IA en contextos polítics i ètics.

Cap a una governança algorítmica més transparent

L’equip integra perfils de ciència política, psicologia, polítiques públiques, màrqueting, economia del comportament i anàlisi de decisions, una combinació interdisciplinària i sociotècnica que pretén connectar la recerca sobre raonament moral i confiança amb el disseny de marcs de governança algorítmica més transparents, responsables i inclusius.

A més, RACHAEL elaborarà un repositori estructurat d’aplicacions reals d’IA en el sector públic, tot prestant especial atenció a casos relacionats amb drets, distribució de recursos, accés a serveis, confiança institucional i participació ciutadana. A partir d’aquest treball, el projecte desenvoluparà un marc analític per a avaluar sistemes de governança algorítmica en funció de criteris com ara transparència, explicabilitat, rendició de comptes, supervisió ciutadana, capacitat de rectificació i adaptació institucional. Els resultats seran contrastats amb responsables públics, experts tècnics i jurídics, organitzacions de la societat civil i representants ciutadans mitjançant tallers deliberatius.

El grup investigador espera "que les troballes de RACHAEL contribuïsquen a orientar la integració ètica i socialment responsable de la IA en les institucions democràtiques". Segons el professor Garcés, “el projecte aspira a oferir evidència útil per a responsables públics, organitzacions socials i professionals que treballen en la transformació digital del sector públic, ajudant a anticipar riscos de desconfiança, biaixos o pèrdua de legitimitat quan les decisions es basen en sistemes automatitzats.” En aquest context, la Universitat de València reforça el seu paper en la recerca sobre governança democràtica, innovació pública i efectes socials de les tecnologies emergents.

La iniciativa està finançada amb un pressupost de prop de 500.000 euros, en el marc de la convocatòria 2025 de projectes de recerca en l'àmbit de la intel·ligència artificial del Ministeri de Ciència, Innovació i Universitats i l'Agència Estatal de Recerca. 

Sobre Polibienestar

Polibienestar és un institut públic de recerca de la Universitat de València, líder en projectes d’excel·lència europeus, especialitzat en l’anàlisi de polítiques públiques i en el desenvolupament d’innovacions socials orientades a millorar el funcionament dels sistemes de benestar europeus. Amb una àmplia trajectòria en projectes nacionals i internacionals, l’institut desenvolupa recerca aplicada, interdisciplinària i sociotècnica en àmbits com la governança, la sostenibilitat, la innovació social o la participació ciutadana.