En aquesta nova entrega de Pensat i Dret, els professors Adrián Todolí, Iván Medina i Ana Montesinos ens analitzen els riscos i vulnerabilitats relacionats amb l'ús d'algoritmes.

La professora Montesinos ens explica com la manca de regulació dels algoritmes podria derivar en la vulneració de molts dels nostres drets fonamentals, com ara la protecció de dades, la no discrimnació i la igualtat o la tutel·la judicial efectiva.

La regulació de la càrrega de treball per part d'algoritmes podria, atenent a l'exposició del professor Todolí, suposar una amenaça per a la salut dels treballadors. Així mateix, el dret a la igualtat i la no discrimació, podria veure's afectat en els sistemes de reclutament.

És per això que cal assegurar-se que el disseny tracte d'evitar els posiobles efectes adversos i, en aquest sentit, la proposta de reglament d'intel·ligència artificial de la Unió Europea proposa incloure professionals de les Ciències Socials i Jurídiques en els equips que dissenyen els algoritmes. Així mateix, els experts coincideixen en que les auditar els resultats i educar els ciutadans en els riscos potencials d'aquestes eines resulta imprescindible.

Tenint en compte els riscos, el que és clar és que el potencial impacte positiu de la IA en l'administració pública, l'assignació de recursos o el màrqueting electoral és immens. De qualsevol manera, hem de tratctar d'evitar els usos fraudulents de les dades generades per la intel·ligència artificial i per a això és necessària una regulació que garantisca la transparència i la responsabilitat.