La inteligencia artificial como herramienta para hacer mejores normas
Elsa Marina Álvarez González
Prof. Titular de Derecho Administrativo
Secretaría Académica del I-INGOT1
Universidad de Málaga
La función normativa en nuestro país se está viendo gravemente afectada por las consecuencias de los cambios tan acelerados que estamos viviendo en los últimos tiempos. Tenemos un grave problema de exceso de normas. Sin duda, la proliferación normativa a la que asistimos en los últimos tiempos se ha convertido en una de las principales causas de la debilidad del sistema de fuentes jurídicas. A esto debe añadirse, en lo que se refiere a las normas con rango de ley y de carácter reglamentario, la falta de calidad y racionalidad que impera en nuestra técnica legislativa, lo que nos lleva a una vulneración del principio de seguridad de jurídica y que justifica, a nuestro entender, la desconfianza actual del ciudadano en el sistema político-legislativo.
En este contexto, entendemos que empieza a ser urgente mejorar la calidad regulatoria para verdaderamente alcanzar un buen gobierno y altas dosis de transparencia. Y para ello, creemos que es fundamental introducir la utilización de la inteligencia artificial en el proceso normativo. Es cierto que ello todavía no está previsto en nuestro ordenamiento jurídico, pero dado el avance de las innovaciones tecnológicas y su aplicación ya a muchos sectores de actividad, e incluso su tímida introducción en la actuación administrativa, entendemos que es un desafío al que el Derecho administrativo deberá prestar atención más pronto que tarde.
Si las administraciones públicas pueden utilizar la inteligencia artificial para racionalizar y agilizar la tramitación del procedimiento administrativo, así como para la emisión de informes que pueden ser generados por algoritmos a partir de los datos que estén en poder de un determinado órgano, creemos que también puede ser de utilidad en el proceso normativo.
La inteligencia artificial puede contribuir a la adopción de resoluciones de mayor calidad basadas en un análisis exhaustivo y completo de todos los datos a disposición de la administración pública y a la vista de los precedentes existentes. Y ello también puede contribuir a mejorar la calidad de nuestras normas. Se trataría de automatizar algunos trámites del proceso normativo, pero sin poner en entredicho los derechos de los ciudadanos y de los colectivos que tienen una participación activa en el proceso sobre todo en los trámites de consulta previa y de información pública.
Mientras parece claro que la inteligencia artificial puede facilitar el ejercicio de potestades regladas, no es una cuestión pacífica su uso para el ejercicio de potestades discrecionales. En ellas la Administración realiza un valoración o ponderación de distintos derechos, bienes o intereses que debieran quedar al margen de la inteligencia artificial de forma que no pudieran suplirse con un algoritmo, aunque tecnológicamente sea posible. Se trata de reservar la toma de determinadas decisiones a los humanos, lo que se ha denominado “reserva de humanidad”2. No obstante, es cierto que en la toma de decisiones discrecionales es donde se puede encontrar una mayor ganancia de eficiencia utilizando herramientas de inteligencia artificial. En ellas, la situación respecto de los entornos donde el incremento de la capacidad de cálculo permite nuevas inferencias y una mejor identificación de situaciones, causas o posibles soluciones la transformación es cualitativamente diferente. En estos casos las ganancias de eficacia tienen que ver con la mejor capacidad de, empleando estas herramientas, realizar valoraciones sobre la realidad o adoptar decisiones diferentes a las que habrían adoptado o generalmente adoptan los seres humanos y que, además, no necesariamente son susceptibles de ser anticipadas o previstas con facilidad por los instrumentos normativos y de regulación. Y en estos supuestos es donde están los mayores riesgos, pues se desconoce el funcionamiento de este tipo de programas (los efectos de la “caja negra”), lo que puede llevar incluso a impedir a los programadores una predeterminación fiable de los resultados concretos que ofrecerá el programa una vez se ejecute y que obligan a confiar de forma ciega en la corrección de estos resultados. Es precisamente en esta cuestión donde el derecho público debe posicionarse y dar una respuesta jurídica3.
En cualquier caso, y sin conocer cuál será el devenir del derecho administrativo en esta cuestión, en lo que se refiere a la potestad normativa (legislativa y reglamentaria), se trata de una potestad discrecional pero con trámites reglados. El carácter discrecional de esta potestad tiene un valor añadido con respecto a los actos administrativos discrecionales pues consiste en la decisión de regular una determinada materia creando una norma jurídica que va a pasar a formar parte del ordenamiento jurídico con todo lo que ello implica. Creemos que esa voluntad de decidir regular una materia, su motivación y justificación, es decir, la propia adopción de la iniciativa no puede dejarse en manos de la inteligencia artificial (es difícil imaginar que sea el programa informático quien sustituya esa voluntad), pero si hay algunos trámites dentro del complejo proceso normativo que con una actuación administrativa automatizada y con algunas herramientas de inteligencia artificial podría no sólo agilizarse sino redundar en una mejor calidad normativa.
Para ello, debemos extrapolar al proceso normativo los criterios que exige la LRJSP para la actuación administrativa automatizada en la tramitación del procedimiento administrativo. Como es sabido el art. 41.1 de la LRJSP establece que se entiende por actuación administrativa automatizada “cualquier acto o actuación realizada íntegramente a través de medios electrónicos por una Administración Pública en el marco de un procedimiento administrativo y en la que no haya intervenido de forma directa un empleado público”. En este tipo de actuaciones debe establecerse previamente el órgano u órganos competentes, según los casos, para la definición de las especificaciones, programación, mantenimiento, supervisión y control de calidad y, en su caso, auditoría del sistema de información y de su código fuente. Asimismo, se indicará el órgano que debe ser considerado responsable a efectos de impugnación.
De este modo, se garantiza el ejercicio de la competencia por el órgano que la tiene atribuida lo que se traduce en que su titular debe tener la capacidad efectiva de supervisar el funcionamiento de los algoritmos. Ello presenta un problema nada desdeñable pues habrá titulares del órgano que bien no tienen acceso al algoritmo o bien no comprenden su contenido. Esto nos lleva a otra cuestión importante: ¿deben las Administraciones públicas externalizar en empresas de base tecnológica el diseño de los algoritmos a través de la contratación pública o deben crear dentro de su organización órganos especializados?. Y esta cuestión desencadena otra: ¿cómo funciona el sistema de responsabilidad por los daños que pueda ocasionar el algoritmo? ¿es responsable el titular de la competencia (en nuestro caso el órgano que ejerce la potestad normativa) o el creador del programa informático?. En este contexto, una opción podría ser la atribución de funciones de supervisión de los algoritmos a un órgano independiente o la exigencia en los pliegos de cláusulas de una mínima explicación sobre el contenido del algoritmo o de certificaciones para garantizar la capacidad de supervisión por parte del titular del órgano4.
En cualquier caso, el ejercicio de la potestad normativa corresponde al órgano que la tiene atribuida siendo este al que corresponde la supervisión de los algoritmos que se utilicen en el proceso normativo. Teniendo claro la premisa anterior creemos que serían perfectamente automatizables los tramites de consulta previa, audiencia e información pública. Estos trámites canalizan la participación pública en el proceso normativo y, hasta el momento, solo se ha regulado su realización por medios electrónicos, pero, no podemos perder de vista el poder que están adquiriendo las redes y plataformas sociales como medios de canalización de la información. Por ello, entendemos que la participación pública del proceso normativo a través de ellas permitiría obtener una valiosa información y un gran volumen de datos que, procesados con inteligencia artificial, ayudarían a las instancias públicas en la toma de decisiones normativas5.
En esta línea, tenemos el ejemplo de EEUU donde las agencias federales norteamericanas utilizan las innovaciones tecnológicas en el proceso normativo aplicando análisis computacional de textos (eRulemaking) en la participación ciudadana que se realiza en una plataforma digital que propicia una alta participación y cuyos resultados se evalúan con inteligencia artificial. Así, en la fase previa a la elaboración de las normas reglamentarias, el proceso prenormativo (notice-and-comment), se gestiona por medios electrónicos y se utilizan las nuevas tecnologías para distribuir información y recoger comentarios de la sociedad sobre las iniciativas regulatorias a través de una única plataforma en internet6.
Este modelo ha sido objeto de algunos estudios que ponen de manifiesto que la incorporación de las nuevas tecnologías al procedimiento de elaboración de normas parece cumplir con cuatro finalidades: primera, aumenta la legitimidad democrática del producto regulatorio a través de la transparencia y la participación en el contenido de la norma; segunda, contribuye a mejorar la calidad de la regulación porque el eRulemaking permite obtener información adicional, como por ejemplo los impactos que puede tener una norma o una regulación concreta, así como los efectos positivos y negativos que puedan las medidas u otras opciones de regulación; tercera, implica una mayor eficiencia en tanto en cuanto reduce los costes de funcionamiento de la agencia federal correspondiente; y, cuarta, puede aumentar el grado de cumplimiento de la regulación por parte de los destinatarios y las Administraciones públicas, porque una mayor transparencia normativa implica mayor aceptación por sus destinatarios, y facilitar el control judicial7.
Utilizar esa información y los datos masivos que genera puede ser de gran utilidad para mejorar el proceso de toma de decisiones públicas. Así, podemos distinguir distintos tipos de datos normativos: a) datos previos a la aprobación de la iniciativa normativa (datos e información empírica y/o especializada a partir de los cuales adoptar las decisiones normativas, obtenidos a partir de los resultados de los trámites de consultas previas, audiencia e información pública, de informes institucionales sectoriales, de organismos de control y supervisión, de análisis de resultados de la jurisprudencia, incluso de investigaciones académicas, y de la participación en plataformas y redes sociales, en el sentido que aquí se apunta); b) datos posteriores a la aprobación y entrada en vigor de la disposición normativa, en particular, los datos relativos a la aplicación y cumplimiento efectivos de las normas jurídicas; y, c) los datos oficiales de los distintos ordenamientos jurídicos vigentes, por el gran volumen de normas y tipos normativos que los integran, y cuya falta de claridad demanda una urgente simplificación y racionalización de las fuentes jurídicas8.
Las ventajas del uso de estas tecnologías digitales en el proceso normativo nos parecen claras, no sólo para valorar la participación ciudadana sino incluso para poder interpretar desde el impacto que puede tener una norma o su grado de cumplimiento, facilitar la evaluación normativa (tanto ex ante como ex post), ofrecer mayor transparencia normativa, e incluso, para proporcionar información sobre cómo regular determinadas situaciones. Poder disponer de esa información privilegiada sin duda redunda en una mejora de la calidad normativa. Entendemos que la introducción de herramientas de inteligencia artificial agilizaría enormemente estos procesos y ayudaría a que España mejorara su calidad regulatoria.
Nota: Un estudio en profundidad de este tema puede verse en nuestro trabajo: La función normativa y la técnica legislativa en España. Una nueva herramienta: la inteligencia artificial, Ed. Tirant Lo Blanch, 2022.
1 Instituto de Investigaciones Jurídicas en Gobierno y Territorio de la Universidad de Málaga.
2 PONCE SOLÉ, J., “Inteligencia artificial, Derecho administrativo y reserva de humanidad: algoritmos y procedimiento administrativo debido tecnológico”, Revista General de Derecho Administrativo, núm. núm. 50, 2019, pág. 28.
3 BOIX PALOP, A., “Los algoritmos son reglamentos: la necesidad de extender las garantías propias de las normas reglamentarias a los programas empleados por la Administración para la adopción de decisiones”, Revista de Derecho Público: Teoría y Método, vol.1, 2020, pág. 230.
4 CERRILLO I MARTINEZ, A., “El impacto de la inteligencia artificial en el Derecho Administrativo, ¿nuevos conceptos para nuevas realidades técnicas?”, Revista General de Derecho Administrativo, núm. 50, 2019, pág. 23.
5 En este sentido, CANALS AMETLLER, D., “El proceso normativo ante el avance tecnológico y la transformación digital (inteligencia artificial, redes sociales y datos masivos),” Revista General de Derecho Administrativo, núm. 50, 2019, pág. 11.
6 Para ARROYO JIMÉNEZ, L., el eRulemaking supone una manera diferente de tramitar y resolver los procedimientos normativos, es un modo de gestión de los procedimientos dirigidos a la producción de normas que se caracteriza por la utilización de las nuevas tecnologías de la información y la comunicación más allá de los sitios web, porque posibilita la incorporación a este procedimiento de herramientas tales como la posibilidad de formular alegaciones por vía electrónica o la celebración de reuniones abiertas al público, así como el empleo de redes sociales, blogs u otras aplicaciones “con la finalidad de aumentar la transparencia y participación de los ciudadanos. “Participación electrónica y elaboración de normas administrativas en España y en los Estados Unidos de América”, en MARTÍN DELGADO, I. (Dir.), La reforma de la administración electrónica: una oportunidad para la innovación desde el derecho, Madrid: INAP, 2017, (págs. 231-258).
7 Así lo recoge CANALS AMETLLER citando al profesor ARROYO en “El proceso normativo ante el avance tecnológico y la transformación digital (inteligencia artificial, redes sociales y datos masivos),” Revista General de Derecho Administrativo, núm. 50, 2019, pág.13.
8 Así lo ha recogido CANALS AMETLLER, D., “El proceso normativo ante el avance tecnológico y la transformación digital (inteligencia artificial, redes sociales y datos masivos),” Revista General de Derecho Administrativo, núm. 50, 2019, pág. 17.
Prof. Titular de Derecho Administrativo
Secretaría Académica del I-INGOT
Universidad de Málaga
Elsa Marina Álvarez González es profesora titular de Derecho Administrativo de la Universidad de Málaga.
