15 september 2024

Títol: Implementació de la Intel·ligència artificial en els òrgans de l'Administració de l'Estat de Xile

Autora: Olivia Fernanda Zelaya Ely

La investigació té per objectiu analitzar la implementació de la IA en l'Administració pública a Xile, avaluar l'estat i avanç normatiu sobre el tema, i demostrar la necessitat urgent de regular l'ús d'aquestes tecnologies per a assegurar la seua aplicació òptima en l'àmbit del dret públic. Per tant, se centra en la implementació de la IA en els serveis públics de Xile, la regulació actual i les seues perspectives futures.

Es justícia en atenció a l'augment exponencial en l'aplicació de sistemes de IA per part dels òrgans públics i la falta de regulació. És fonamental equilibrar el vertiginós avanç de la tecnologia amb la protecció dels drets fonamentals, a fi de fomentar l'ús ètic de la IA i optimitzar la gestió dels procediments de les entitats públiques.

El treball s'estructura en tres capítols. El primer denominat “Intel·ligència Artificial”, que aporta una visió general de la concepció i evolució de la IA, reconeixent l'existència de múltiples conceptes i les seues característiques tècniques associades. Així mateix, s'avaluen els possibles riscos derivats de la seua implementació en l'Administració pública, diferenciant entre aquells que afecten els drets de la ciutadania i els relacionats amb la falta de transparència, sense desconéixer l'existència d'altres riscos inherents al seu ús.

Posteriorment, estudia l'aplicació de la IA en l'Administració pública, destacant la necessitat d'adaptar les estructures administratives a aquests avanços tecnològics i els avantatges que porta amb si la seua implementació. També s'aborden les dificultats que implica introduir aquests canvis i la imperiosa necessitat d'establir un marc regulador garantista que aborde els riscos derivats de l'ús de la IA en el sector públic.

El segon capítol denominat “Intel·ligència Artificial a Xile”, se centra en l'aplicació concreta de la IA al país, examinant el seu ús i implementació. Primer, s'analitza un cas d'algorisme predictiu en el sistema de justícia criminal, per a després centrar-se en l'ús de la IA en els òrgans de l'Administració, tant en el nivell central, municipal, d'educació i salut. 

Finalment, s'examina el marc normatiu actual a Xile en relació amb la regulació de la IA, considerant aspectes constitucionals, legals i administratius. S'analitza la modificació constitucional de 2021, així com lleis rellevants com la de Protecció de Dades Personals i la de Transformació Digital de l'Estat. També es revisa la Política Nacional d'Intel·ligència Artificial, i des d'un punt de vista administratiu, es consideren la Directiva de Compres Públiques N° 44 i la Circular N° 711, que tracten sobre la incorporació de tecnologies avançades en la gestió administrativa.

L'últim capítol, titulat “A la recerca d'una nova llei marc de IA”, s'enfoca en el futur regulador de la IA a Xile. Es realitza una anàlisi de les propostes legislatives que busquen establir un marc legal. En particular, s'examinen dos projectes actualment en tramitació en la Cambra de Diputades i Diputats: el Butlletí N°15.869-19, del 24 d'abril de 2023, que regula els sistemes de IA, la robòtica i tecnologies connexes en diversos àmbits d'aplicació; i el Butlletí N°16821-19, del 7 de maig de 2024, que regula específicament els sistemes de IA. S'aborden els seus aspectes més rellevants, la classificació dels sistemes segons el nivell de risc i el marc institucional. 

Finalment, s'efectua una breu anàlisi del projecte a llum del Reglament de IA a la Unió Europea, amb la finalitat d'oferir una perspectiva internacional sobre les millors pràctiques i enfocaments reguladors. El propòsit és contribuir al desenvolupament d'un marc regulador adequat en l'àmbit de la IA per a assegurar que els sistemes algorítmics, especialment en l'àmbit públic, siguen ètics, transparents, públics i explicables . Això garantirà que l'adopció de IA no sols millore l'eficiència i eficàcia dels serveis públics, sinó que també protegisca els drets i garanties enfront de l'accelerat avanç de la Intel·ligència Artificial.