Robotización de las actividades administrativas vs. capacidades humanas. ¿Escenarios contrapuestos?

1. Una premisa necesaria

En el año 2019, Carles Ramió publicó un recomendable texto titulado «Inteligencia Artificial y Administración Pública». La misma obra mostraba un subtítulo provocador: «Robots y humanos compartiendo el servicio público». Especialmente interesante, por lo menos para mi, fue el capítulo dedicado a la robotización de la burocracia en el que el autor desarrolla algunos temas que hoy en día resultan de gran actualidad (2019:61-71). Temas que se entremezclan: burocracia administrativa, derecho administrativo tradicional, inteligencia artificial, algoritmos etc.

En este texto, tengo el propósito de analizar muy brevemente y sin el afán de dar soluciones, ciertos elementos que caracterizan la transición digital del sector público. Antes, considero interesante explicar por qué en esta contribución, es correcto utilizar el término transición y menos el concepto de transformación —en ambos casos digital—. Cuando utilizamos el término transformación imaginamos un proceso de cambio lento al que tanto el usuario como las personas que ejercen en el seno de la Administración pública, se van acostumbrando paulatinamente y, casi, pausadamente. No es el caso del concepto de transición, pues éste aspira a materializar un proceso relativamente rápido y que en ocasiones puede llegar a ser repentino. El escenario digital y sus herramientas de inteligencia artificial y algorítmicas son el producto de acontecimientos —también sociales—, que han adelantado enormemente la instauración de sistemas disruptivos que han cambiado el paradigma de tantos entornos que hasta el momento nos permitían sentirnos en cierta medida protegidos.

Hoy día, nos encontramos ante una disrupción tecnológica que nos introduce a nuevos escenarios, como: la inteligencia artificial, los algoritmos, el machine learning o el deep learning, a la vez que muchos ciudadanos y empleados públicos se han quedado en un entorno tecnológico de antaño. Un ejemplo entre tantos (naturalmente hay más) lo localizamos en el Gobierno de España, en el que se ha creado una aplicación algorítmica denominada BOSCO que permite a las comercializadoras eléctricas estudiar y definir el cumplimiento de los requisitos para determinar la vulnerabilidad —o no— de un usuario para recibir el bono social térmico/eléctrico. Al mismo tiempo, el Instituto Nacional de Administración Pública (INAP), lanza una acción formativa para los empleados públicos en ofimática en la que los participantes aprenderán a utilizar Word, Excel etc.[1] No entraré en cuestiones sociológicas, sin embargo, me surge una pregunta: ¿estamos ante escenarios contrapuestos?

2. Cambio de paradigma: sin vuelta atrás

Sin suda, el sector público y, por ende, las disciplinas jurídicas y el derecho administrativo —de manera más especial—, se hallan ante un reto digital sin precedentes. La aprobación de la Ley 40/2015, de 1 de octubre, de Régimen Jurídico del Sector Público, consagró el reconocimiento de algunos temas que iban a modificar el concepto tradicional de funcionamiento de la Administración pública. Es el caso del artículo 41 en materia de actuación administrativa automatizada, cuya sustancia intrínseca se suele utilizar hoy como parte integrante de la base primigenia del uso de sistemas algorítmicos de inteligencia artificial. En la actualidad, los elementos que caracterizan la transición digital del sector público delinean lo que Misuraca y Van Noordt admiten ser «un interés cada vez mayor de los gobiernos europeos para apoyar el rediseño de los procesos internos y los mecanismos de formulación de políticas, así como para mejorar la prestación de servicios públicos y el compromiso con los ciudadanos» (2020:80).

Si de todo esto podemos sacar una conclusión es que el proceso de transición digital es irreversible y, por eso, es necesaria una respuesta que contemple los desafíos de la materia según, eso sí, disciplinas distintas. En mi caso, se trata del ámbito jurídico y más especialmente del derecho administrativo que, como es sabido, se ocupa de regular el funcionamiento de la Administración pública teniendo que garantizar, contemporáneamente, los derechos de los ciudadanos ante la Administración y el interés público general.

En este contexto, no falta la voluntad de establecer una primera regulación de este «proceso de digitalización». En España, por ejemplo, contamos con la denominada Carta de los Derechos Digitales, la Estrategia Nacional de Inteligencia Artificial, las estrategias sobre IA que se producen en el seno de las Comunidades Autónomas y hasta contamos con una Secretaria de Estado de Digitalización e Inteligencia Artificial. La Unión Europea también se prodiga a regular los sistemas disruptivos. Pensemos, entre otros, en el Libro Blanco sobre Inteligencia Artificial. Precisamente este último texto avisa de las incidencias que puede tener la IA. El punto número 5 del texto señala cabalmente: «Como sucede con toda nueva tecnología, el uso de la IA presenta tanto oportunidades como amenazas. Los ciudadanos temen quedarse indefensos a la hora de proteger sus derechos y su seguridad frente a los desequilibrios informativos de la toma de decisiones mediante algoritmos, y las empresas sienten inquietud debido a la inseguridad jurídica».

Sin embargo, debo reseñar, que en todo caso se trata de una regulación de «soft law», normas de principios, que, en la actualidad, dificultan la posibilidad de trasladarlas a una legislación específica e imperativa. Así, los juristas deben ejercer una labor interpretativa extendida para verificar si, a través de las normas que regulan sectores no siempre directamente relacionados con los temas disruptivos, es posible, casi por analogía, regular nuevos escenarios. En este sentido y solo a modo de ejemplo, puede verse el interesantísimo debate que una parte de la doctrina mantiene sobre la consideración que hay que atribuir a los algoritmos que precisamente nos ocupan en este trabajo. Boix Palop señala que los algoritmos son reglamentos, así que estarán sometidos a las garantías propias de las normas reglamentarias (publicidad, participación, transparencia entre otras) (2020:262). Arroyo Jiménez o Huergo Lora señalan que los algoritmos no pueden considerarse reglamentos. Más precisamente, Arroyo Jiménez, afirma: «Baste aquí señalar que si un concreto instrumento cumple esa función institucional pero, o bien lo hace a través de determinaciones concretas, o bien no se expresa a través de un tipo normativo reconocido por el sistema, entonces no será un reglamento (2020). Huergo Lora introduce dos ejes: el primero, relativo al concepto de algoritmo que según él es demasiado amplio para que podamos identificar una única regla de tratamiento. El segundo, critica el uso amplio de las nociones que ofrece el derecho administrativo, como reglamento o acto administrativo a cuestiones que pueden ser poco proclives a esta potencial osmosis jurídica (2020:27).

Fuente: https://www.pexels.com/es-es/foto/hombre-gente-tecnologia-divertido-8438923/

Sin duda, es entonces necesario crear una verdadera nueva disciplina jurídica que debe investigar lo que podríamos definir como el derecho público (derecho administrativo) de las nuevas tecnologías. Esto es, el ámbito público tiene peculiaridades muy específicas que son diferentes a las características de otras áreas jurídicas. Características que nos deben mantener alerta sobre la relación humano-máquina, por lo menos considerando los aspecto técnico-jurídico administrativos de los actuales procesos administrativos que cuentan con la existencia de herramientas algorítmicas y de inteligencia artificial.

3. ¿Qué se puede robotizar?

No hay duda de que, en la actualidad, y debido a los conocimientos tecnológicos, sea posible automatizar la actividad administrativa, sin embargo, la estructura del derecho administrativo nos lleva a preguntarnos si es posible robotizar (automatizar) todas las actividades administrativas. En primer lugar y por lo menos en lo que nos ocupa en este trabajo, entendemos el concepto de robotización como sinónimo de automatización, es decir, un proceso que no incluye actividad humana, de ningún tipo. Esto, en mi opinión, representa la clave para entender que la robotización se aplicaría a las actividades rutinarias, repetitivas y que excluyen una aportación intelectual que, en cambio, es lo que hacen los humanos. Así, Juli Ponce, recogiendo las palabras de Silvia Diez, introduce el concepto de «reserva de humanidad» casi a significar, ahora por añadidura mía, que allí donde exista una aportación humana, la actividad automatizada, no es totalmente robotizada (2019:27-28). En el sentido de la automatización, podemos pensar, por ejemplo, en la posibilidad que ofrecen ciertos ayuntamientos de poder descargar el certificado de empadronamiento a través del certificado digital. En este ejemplo, se ha robotizado la aportación humana debido a que la expedición del certificado que hacía el empleado público era meramente rutinaria. Sin embargo, cuando la definición de un procedimiento, de una actividad administrativa, requiere una acción humana, resulta más complejo aceptar la robotización completa, aunque desde un punto de vista técnico fuese posible. Aludimos, por ejemplo, al acto administrativo que como es sabido deberá ser motivado y que, en la actualidad, es la persona titular del correspondiente órgano administrativo quien está emplazada a motivar. Como señala Gamero, el problema principal es en realidad determinar cómo deben motivarse los actos administrativos basados en sistemas de inteligencia artificial (2021). Aquí, interesa lo oculto —y no tan oculto— que pueda estar en la frase anterior. Lo que ocurre es que la herramienta algorítmica es instrumental a la decisión humana así que, por lo anteriormente indicado, sigue habiendo aportación humana. De esta manera, este proceso no puede considerarse rutinario o repetitivo. Esta operación, necesita de una aportación humana e intelectual que, actualmente, imposibilita la robotización. Si se aceptara la sola decisión de la máquina, sin la motivación, por escueta que esta podría llegar a ser, estaríamos produciendo indefensión del interesado con una obvia vulneración de los principios del derecho administrativo a los que aludimos en el apartado anterior. Por otro lado, aunque la máquina pudiera motivar el acto administrativo, sería necesario conocer las «entrañas» de la misma herramienta tecnológica para garantizar que el interesado pueda fundamentar fehacientemente el recurso administrativo.

Naturalmente, no debemos abordar el proceso de robotización solo desde un punto de vista jurídico-administrativo, sino que debemos apuntar también a la capacidad de las personas de adaptarse a los nuevos escenarios digitales. Si por un lado hablamos de digitalización del sector público, por el otro nos encontramos con una difusa brecha digital tanto entre quien ya ejerce la función pública como entre los ciudadanos que finalmente son los destinatarios de la posible robotización. Señala Lucía Velasco que «los beneficios de la digitalización no son automáticos» (2021). Esta falta de «automatización» recuerda precisamente la necesidad de capacitar a empleados públicos y personas para que puedan enfrentarse a los nuevos escenarios que nos depara la digitalización. Cada vez más, el ciudadano se relaciona con una máquina, a veces sin saberlo. La Administración pública no es ajena a esta circunstancia y todos los involucrados deben tener conocimientos básicos para poder relacionarse en un entorno digital.

4. Reflexiones esquemáticas y someras

Tras este breve recorrido, creo oportuno señalar algunas conclusiones que naturalmente no tienen el afán de ser definitivas.

1. La digitalización del sector público ha comenzado y es de esperar que cada vez más nos encontremos ante sistemas algorítmicos que substituyen tareas humanas.
2. Esta substitución no debe, en principio, considerarse negativamente. Estamos asistiendo a un cambio de paradigma de manera que el grandísimo reto es el de capacitar a la sociedad en materia digital. El sector público debe implantar la formación en sistemas digitales (a distintos niveles), como base de las tareas del nuevo empleado público. Será necesario un empleado público que sepa «dialogar» con la máquina. No necesariamente se perderán puestos de trabajo ya que el escenario digital requiere de nuevas habilidades y por ende de personas que las tengan y sepan manejarlas.
3. En la actualidad es posible robotizar tareas rutinarias y repetitivas. La capacitación del empleado público permitirá que éste pueda supervisar y de alguna manera alimentar el funcionamiento de la máquina.
4. Seguirá existiendo durante bastante tiempo la necesaria reserva de humanidad para aquellos procesos que no pueden prescindir de las aportaciones del intelecto humano, es decir, de la facultad de la mente humana de aprender, entender, razonar, adaptarse a situaciones no controlables a priori y tomar decisiones.
5. La existencia de máquinas y labor humana y humanizada es, actualmente, compatible. Se trata de una sinergia que permite añadir valor a la labor de la Administración pública. Esto, siempre en pro del interés público general y como garantía de los derechos ciudadanos.
6. Los sistemas disruptivos deben ser éticos, transparentes y conocibles. Sin estos elementos se eleva el riesgo de sesgos y de indefensión, en definitiva, se fundan los cimientos de la automatización de la desigualdad.

Bibliografía esencial

ARROYO JIMÉNEZ, Luis (2020): «Algoritmos y reglamentos». Almacén de Derecho. 25 de febrero. https://almacendederecho.org/algoritmos-y-reglamentos

BOIX PALOP, Andrés (2020): «Los algoritmos son reglamentos: la necesidad de extender las garantías propias de las normas reglamentarias a los programas empleados por la administración para la adopción de decisiones». Revista de Derecho Público: Teoría y Método, Vol. 1, 2020. DOI: https://doi.org/10.37417/RPD/vol_1_2020_33

GAMERO CASADO, Eduardo (2021): «Necesidad de motivación e invalidez de los actos administrativos sustentados en inteligencia artificial o en algoritmos». 4 de febrero. https://almacendederecho.org/necesidad-de-motivacion-e-invalidez-de-los-actos-administrativos-sustentados-en-inteligencia-artificial-o-en-algoritmos

HUERGO LORA, Alejandro (2020): «Una aproximación a los algoritmos desde el derecho administrativo» en HUERGO LORA Alejandro (Director), DÍAZ GONZÁLEZ, Gustavo Manuel. La regulación de los algoritmos. Aranzadi, Cizur Menor (Navarra).

MISURACA, Gianluca, VAN NOORDT, Colin (2020): «AI Watch Artificial Intelligence in public services. Overview of the use and impact of AI in public services in the EU». Publications Office of the European Union.

PONCE SOLÉ, Juli (2019): «Inteligencia artificial, derecho administrativo y reserva de humanidad: algoritmos y procedimiento administrativo debido tecnológico». Revista General de Derecho Administrativo, núm. 50, p.12.

RAMIÓ, Carles (2019): «Inteligencia artificial y Administración pública. Robots y humanos compartiendo el servicio público». Editorial Catarata, Madrid, España.

VELASCO, Lucía (2021). ¿Te va a sustituir un algoritmo? El futuro del trabajo en España. Turner Publicaciones.

[1] Véase: https://www.inap.es/en/formacion-general

Gabriele Vestri es Profesor Ayudante Doctor de Derecho Administrativo de la Universidad de Cádiz (acr. Profesor Titular de Universidad). También es Fundador del Observatorio Sector Público e Inteligencia Artificial (OspIA) de la Facultad de Derecho de la Universidad de Cádiz.

E-mail de contacto: gabriele.vestri@uca.es