Inteligencia artificial y Justicia en la Unión Europea: statu quo y perspectivas de futuro.
Rosa Cernada Badía
Profesora de Derecho administrativo. Universidad Católica de Valencia
En los últimos años, la Inteligencia Artificial está provocando un giro copernicano que afecta a múltiples profesiones. Este fenómeno es especialmente significativo en lo que se refiere al ejercicio de la abogacía, ya que los profesionales del Derecho pueden beneficiarse de los usos de la Inteligencia Artificial para desarrollar un asesoramiento jurídico más eficiente y tomar decisiones más precisas, tanto en el sector privado como en el público.
Consciente de la importancia de aplicar correctamente las tecnologías a la Justicia, la Unión Europea trabaja desde 2009 en la digitalización de la Justicia. En el marco de esta política, se han publicado desde entonces tres planes y estrategias en materia de Justicia en red. En la actualidad, se encuentra vigente la Estrategia 2019-2023 relativa a la Justicia en Red Europea (2019/C 96/04) y el Plan de Acción 2019-2023 relativo a la Justicia en Red Europea (2019/C 96/05).
Si bien la política de Justicia en red (e-justice) se orienta con carácter general a la digitalización del sector justicia desde que viera la luz en el desarrollo programa de La Haya para 2004-2009, en los últimos cinco años la Inteligencia Artificial se ha convertido en una de las principales herramientas analizadas por las autoridades de la Unión Europea para ser aplicada legal y éticamente a la Justicia, con pleno compromiso con los principios y valores propios de la Unión europea.
En concreto, el Consejo Europeo en las Conclusiones de 13 de octubre de 2020 sobre "Acceso a la Justicia: aprovechar las oportunidades de la digitalización" (2020/C 342 I/01) puso de relieve los riesgos de la aplicación de la Inteligencia Artificial en la Justicia.
En particular, el Consejo destacaba los retos que plantea en cuanto a la posibilidad de:
- promover procesos opacos de toma de decisiones;
- afectar a derechos fundamentales como la privacidad, la protección de datos o el derecho a un juicio justo o;
- fomentar la discriminación, los estereotipos y los prejuicios existentes.
En este punto, si bien en el ámbito de los servicios públicos, la sentencia de 27 de febrero de 2020 del Tribunal de Distrito de la Haya resulta de obligada referencia, toda vez que el tribunal entendió que el algoritmo del sistema de indicación de riesgos utilizado por el Gobierno holandés para evaluar la posibilidad de fraude a la seguridad social o hacienda resultaba poco transparente, vulneraba el artículo 8 del Convenio Europeo de Derechos Humanos y resultaba estigmatizador.
Más allá del debate general sobre la Inteligencia Artificial en la Unión Europea, el análisis de su impacto en la Justicia fue evaluado por la Comisión Europea en dos documentos clave:
- el Estudio sobre Justicia Penal Digital (Cross-border digital criminal justice – Final report,) de la Dirección General Justicia y Consumidores publicado en 2020;
- Comunicación de la Comisión al Parlamento europeo, al Consejo, al Comité Económico y Social europeo y al Comité de las Regiones: La digitalización de la justicia en la UE Un abanico de oportunidades {SWD(2020) 540 final}, de 2 de diciembre de 2002
Estos documentos señalaban los beneficios de aplicar la Inteligencia Artificial en el sector de la justicia. A título de ejemplo, pueden citarse entre otros, la posibilidad de anonimizar de forma más eficiente las resoluciones judiciales, la conversión de voz a texto, los chatbots, etc. No obstante, estas ventajas deben sopesarse con los innegables riesgos que entrañan, en particular los que afectan a los derechos fundamentales. Y específicamente al derecho a la tutela judicial efectiva y a la protección de datos personales.
La normativa europea que se ha venido aprobado en los últimos años trata de promover la implantación de sistemas de inteligencia artificial siempre con el debido respeto a los derechos fundamentales, los valores de la Unión y la unidad del mercado común. En particular tras la aprobación del Libro blanco sobre inteligencia artificial “Un enfoque europeo orientado a la excelencia y la confianza”, de 19 de febrero de 2020, que sienta las bases de la futura regulación europea.
En concreto, la Comisión Europea publicó el 14 de septiembre de 2020 un exhaustivo documento sobre el uso de tecnologías innovadoras en el sector Justicia en el que analiza casi un centenar de proyectos desarrollados en Europa, como ROXANNE o LOCARD.
- La mayoría de estos proyectos (46%) tienen por objeto el tratamiento de grandes volúmenes de datos estructurados y no estructurados para su análisis.
- Otros proyectos se refieren al tratamiento de grandes volúmenes de archivos audiovisuales (18%), el acceso a la justicia (15%), el cumplimiento de la protección de datos (14%) o la mejora en la gestión administrativa (13%), entre otros.
En cualquier caso, la adecuada elección de los sistemas de Inteligencia Artificial en Justicia es de extrema relevancia tal y como pone de manifiesto los usos de la Inteligencia Artificial considerados de Alto riesgo que se pretenden incluir en el futuro Reglamento europeo de Inteligencia Artificial tras la propuesta de la Comisión Europea en 2021. Este documento ha sido recientemente modificado por el borrador de la Comisión de Mercado Interior y la Comisión de Libertades Civiles que enriquece la anterior propuesta incluyendo más usos prohibidos de los sistemas de Inteligencia Artificial. A título meramente ejemplificativo pueden citarse, entre otros, los siguientes usos prohibidos:
- sistemas de identificación biométrica en tiempo real y a distancia;
- sistemas policiales predictivos (basados en perfiles, localización o comportamientos delictivos anteriores)
- sistemas de reconocimiento de emociones en la aplicación de la ley o la gestión de fronteras
Si bien la potencial peligrosidad de estos usos es innegable, no eclipsa la neutral utilidad de los sistemas de Inteligencia Artificial destinados a actividades administrativas auxiliares como por ejemplo los usos relativos a: i) la anonimización de resoluciones judiciales, documentos o datos; ii) los destinados a automatizar tareas estrictamente administrativas o iii) los orientados a mejorar el procedimiento para la asignación de recursos o gestión de infraestructuras.
Estos usos, siempre que no afecten a la propia Administración de justicia, pueden ser magníficos sistemas para desatascar nuestros sobrecargados juzgados, coadyuvando en último término a mejorar la calidad de la Justicia en los Estados miembros de la Unión europea.
Por último, los organismos europeos subrayan la importancia de la colaboración entre los distintos grupos de interés en el sector Justicia para garantizar los beneficios potenciales del uso de la Inteligencia Artificial. Particularmente con el objeto de garantizar un servicio más eficaz evitando las dilaciones indebidas. Promover una mejor comunicación entre tecnólogos, profesionales de la justicia, sectores privado y público y, por qué no, universidades podría impulsar las sinergias para desarrollar soluciones adecuadas basadas en sistemas de Inteligencia Artificial.
Aun así, las instituciones europeas advierten que, en todo caso, el enfoque basado en el riesgo debería impregnar los desarrollos presentes y futuros de los sistemas de Inteligencia Artificia, por lo que la necesidad de una cuidadosa consideración de las cuestiones éticas y jurídicas implicadas deviene la piedra angular de la implantación de estos sistemas en nuestros Estados constitucionales democráticos.
No cabe duda de que la Inteligencia Artificial es toda una realidad en Europa. El uso adecuado de la misma es nuestra oportunidad y responsabilidad.
Vicedecana de la Facultad de Ciencias Jurídicas, Económicas y Sociales. Profesora de Derecho Administrativo y de las TIC. Universidad Católica de Valencia.
Profesora de Derecho Administrativo y Derecho de las Tecnologías de la Información y la Comunicación en la Universidad Católica de Valencia. Doctora en Derecho (Mención Internacional) en la Universitat de València . Licenciada en Derecho y en Administración y Dirección de Empresas en Universidad Pontificia Comillas (ICAI-ICADE, E-3).
