El curs “Procediments de disseny, implementació i desplegament de sistemes d'intel·ligència artificial d'alt risc” que es va celebrar del 25 al 27 de juny en la seu de la UNED a Alzira es va centrar en proporcionar els coneixements necessaris per a entendre els requeriments bàsics de la Llei sobre Intel·ligència Artificial (IA) des de la conformació dels conjunts de dades a la implementació dels processos de compliment vinculats a camps com l'anàlisi de riscos en el context de la IA que va donar nom a la sessió. La ponència del professor Ricard Martínez va consistir en l'enfocament de risc centrat en la garantia dels drets fonamentals.

La Llei d’IA de la Unió Europea dissenya un complex sistema dirigit a garantir que el desenvolupament de sistemes d’IA d'alt risc és segur en considerar la garantia dels drets fonamentals i l'evitació de riscos sistèmics per a la democràcia i l'estat de dret. Així mateix, s'orienta al disseny de productes segurs subjectes a validació de conformitat i ambdues dimensions es troben subjectes a processos ben definits que requereixen un enfocament multidisciplinari i integrat.

Entre els processos que va tractar el curs també es trobava la garantia dels drets, la governança de les dades i la seguretat, entre altres. A més, des de l'enfocament de la IA en salut, es va abordar amb casos reals l'ús de grans models de llenguatge o del desplegament de la IA siga entesa com a producte mèdic o embeguda en dispositius d’aquesta naturalesa.

El projecte EUCAIM va ser, en aquest sentit, un exemple dels reptes de la IA en l'àmbit de la salut. La iniciativa aborda la fragmentació dels repositoris d'imatges de càncer existents i establirà un Atles distribuït d'Imatges de Càncer amb més de 60 milions de dades anonimitzades d'imatges de càncer de més de 100.000 pacients.

El sistema serà accessible a metges, investigadors i innovadors de tota la UE per al desenvolupament i l'avaluació comparativa de ferramentes d’IA fiables. Els integrants de l'àrea de privacitat i seguretat de l’IRTIC lideren les tasques que garantisquen l'adequat compliment normatiu del projecte.

EUCAIM està cofinançat per la Unió Europea mitjançant l'acord de subvenció número 1011100633. Les opinions expressades són responsabilitat exclusiva dels autors i no reflecteixen necessàriament les de la Unió Europea. Ni la Unió Europea ni l'autoritat que concedeix la subvenció poden ser considerades responsables d'aquestes.