“Digitalización, políticas públicas de empleo inclusivas y discriminación (DIGPEIDIA)”

El proyecto analiza el impacto de la digitalización en las políticas públicas de empleo, centrándose en cómo el uso de big data y de decisiones automatizadas puede afectar a la eficacia, la transparencia y, especialmente, a la no discriminación de las personas demandantes de empleo, en particular de los colectivos vulnerables. Uno de sus ejes principales es el estudio del desarrollo normativo de la Ley 3/2023 de Empleo en conexión con la normativa europea sobre protección de datos e inteligencia artificial. Mientras este desarrollo se completa, el proyecto propone elaborar recomendaciones, analizar críticamente las nuevas normas y evaluar su aplicación, especialmente en relación con los derechos digitales. Además, se plantea construir un marco teórico que permita comprender los retos de la digitalización en el empleo y formular propuestas para mejorar la colaboración público-privada, reforzando la transparencia, la eficacia y la igualdad en el Sistema Nacional de Empleo.

Acrónimo

DIGPEDIA

Código referencia

PID 2024-158032OB-100

Descripción

El proyecto se centra en el análisis de la digitalización en el contexto de las políticas públicas de empleo. Por lo tanto, persigue identificar los problemas normativos que condicionan la eficacia, transparencia, no discriminación y la orientación hacia los colectivos de atención prioritaria en el contexto de las políticas de empleo. Los retos que implica el manejo de big data a través del sistema público integrado de información de los servicios de empleo y la toma de decisiones automatizas exponen a las personas demandantes de servicios de empleo a sesgos discriminatorios que han de ser analizados.

Segundo.- Es necesario realizar un seguimiento sobre el desarrollo normativo de la Ley 3/2023 de Empleo en esta materia, en conexión con los Reglamentos europeos de protección de datos y de inteligencia artificial. Formular documentos propositivos en tanto en cuanto no se produce dicho desarrollo, analizar críticamente las normas reglamentarias que se vayan produciendo y realizar un seguimiento de su aplicación son objetivos centrales del proyecto. En particular, la normativa reglamentaria que configure el tratamiento del sistema público integrado de información debe ser estudiada desde sus repercusiones en los derechos digitales de las personas demandantes de servicios de empleo, sobre todo de las más vulnerables y expuestas a discriminaciones.

Tercero.- Como corolario de los análisis anteriores, el proyecto debe dirigirse a elaborar un diseño de un marco teórico para el análisis de los retos de la digitalización en las políticas de empleo, que permita formular propuestas para una adecuada colaboración público-privada. Estas propuestas han de orientarse a dotar al Sistema Nacional de Empleo de más transparencia, mayor eficacia y mejor orientación hacia los colectivos de atención prioritaria y a evitar todo tipo de discriminaciones derivadas de los sesgos de las decisiones algorítmicas.

OBJETIVOS ESPECÍFICOS

Primero.- Análisis del acervo normativo interno y de la UE en torno a la encrucijada entre empleo, digitalización y no discriminación. Ha de partirse de los Reglamentos sobre protección de datos e inteligencia artificial y de las Directivas sobre no discriminación en el empleo y la ocupación y de la legislación interna acerca del empleo, de la protección de datos y garantías digitales y las normas generales y específicas sobre no discriminación, en particular la Ley 15/2022, de 12 julio. Deberá atenderse a ciertas incorporaciones al derecho interno de algunas Directivas, como la de trabajo en plataformas digitales.

Segundo.- La utilización de la perspectiva del Derecho comparado es muy importante, porque el reto del empleo en el marco de la digitalización y los riesgos de discriminaciones en las decisiones automatizadas es generalizado. El análisis de ciertos sistemas tiene una importancia indudable, en particular los más próximos al español, como el francés o el italiano, pero sin duda también otros de gran impacto, como el de USA o Canadá, por su conformación mucho menos regulada, aunque de gran incidencia del Derecho antidiscriminatorio. En ese sentido, la aportación de modelos de contraste emerge como el segundo objetivo específico.

Tercero.- El análisis normativo debe ir acompañado de un estudio de impacto de esta encrucijada (digitalización-empleo-discriminación) en los grupos sociales vulnerables. Hay que atender a todos los colectivos señalados en la legislación de empleo, pero con especial incidencia en los dos más destacados por ella, víctimas de discriminaciones y desventajas por edad y por discapacidad. Por supuesto, la perspectiva de género ha de orientar todo el trabajo, en el que deben confluir las perspectivas jurídica y sociológica. Por lo que respecta a esta última, la incorporación de dicho punto de vista permitirá analizar la cultura del trabajo de los colectivos de atención prioritaria de las políticas de empleo, pues dicho conocimiento resulta fundamental para diseñar políticas ajustadas a las necesidades sociales y culturales de los colectivos afectados.

Cuarto.- La normativa de empleo requiere de una serie de desarrollos necesarios para su total aplicabilidad. La integración de todos los organismos que conforman los servicios públicos de empleo con las entidades colaboradoras en el sistema público integrado de información de los servicios de empleo, las tasas de empleabilidad, intermediación y cobertura o el catálogo de instrumentos de empleabilidad son retos que deben desarrollarse, bien sea a través de normas reglamentarias, bien por medio de actuaciones públicas no normativas, pero que deben ponerse en marcha. Asimismo, está pendiente la conversión del SEPE en la Agencia Española de Empleo y el desarrollo reglamentario de la intermediación laboral que derogue el todavía vigente RD 1796/2010. Sobre todo este entramado, es importante formular propuestas en tanto no se aprueben las normas y documentos necesarios. Y, una vez que existan y estén aprobados, es necesaria su valoración crítica desde una metodología jurídica.

Quinto.- En conexión con el objetivo anterior, es de crucial importancia el seguimiento de la aplicación de esta normativa y de los documentos de política de empleo que se aprueben. A tal efecto, es importante tener en cuenta el diseño de las políticas estatales, pero también las de las Comunidades Autónomas e incluso, atender a la dimensión local de las políticas de empleo. En consecuencia, el estudio y análisis de los problemas de la digitalización y de los posibles sesgos discriminatorios debe alcanzar a los diversos actores públicos de las políticas activas de empleo. En cuanto a las CCAA, asimismo habrá que atender a sus normativas, dictadas al amparo de sus competencias propias, como es el caso de la Ley de Empleo 15/2023, de 21 diciembre, del País Vasco.

Sexto.- Como integradas en el sistema público de información, las entidades privadas colaboradoras de las políticas de empleo deben ser objeto de análisis. En particular, las entidades que intervienen en la intermediación laboral –agencias privadas de empleo en general, empresas de trabajo temporal, entidades de recolocación o empresas de selección- tienen que ser analizadas desde la perspectiva de sus deberes y obligaciones jurídicas como tales entidades colaboradoras, ya presten servicios a través de convenios de colaboración o acuerdos de coordinación, ya actúen por su propia iniciativa. Las exigencias de transparencia, dación de cuentas y colaboración tienen un importante campo de juego en el contexto de la digitalización y de la lucha contras las discriminaciones. Habrá que atender al desarrollo de los indicadores de eficiencia. Y, en particular, realizar un análisis riguroso de sus obligaciones jurídicas en cuanto a las decisiones que adoptan por mecanismos automatizados y sus repercusiones en los colectivos discriminados. También habrá que verificar qué hipótesis de acciones llevadas a cabo exclusivamente a través de medios automatizados pueden quedar fuera del concepto de intermediación, de acuerdo con el art. 3 c) de la Ley de Empleo.

Séptimo.- Otra de las cuestiones fundamentales incluidas en las políticas públicas de empleo es la formación en y para el empleo en destrezas y habilidades digitales. En este tópico hay evidencias de brechas que afectan a determinados vectores de la sociedad, particularmente distinguidos por sus características personales: género, edad, discapacidad, origen nacional, raza…A partir del RIA (Reglamento de Inteligencia Artificial) se impone a los proveedores y responsables del despliegue de sistemas de IA – en el ámbito laboral, a los empleadores – la obligación de alfabetización en materia de IA (art. 3.56 y 4 RIA). Dicha obligación consiste en la adopción de medidas que garanticen que las personas a su cargo, y que se encarguen en nombre del empleador del funcionamiento y utilización de sistemas de IA, “tengan un nivel suficiente de alfabetización en materia de IA, teniendo en cuenta sus conocimientos técnicos, su experiencia, su educación y su formación, así como el contexto previsto de uso de los sistemas de IA y las personas o los grupos de personas en que se utilizarán dichos sistemas. Será fundamental en este ámbito analizar cómo se producirá la incorporación de dicha medida, partiendo de la evaluación de las diferencias entre colectivos vulnerables y el impacto que ella pueda tener en términos de mantenimiento y acceso al empleo”. En este terreno, la LO 3/2022, de 31 de marzo, de ordenación e integración de la Formación Profesional, abre nuevas perspectivas de análisis dada la atención que dispensa a las competencias digitales y a la brecha digital en su articulado.

Octavo.- Todo el análisis anterior, unido al que se efectuará desde la perspectiva de la economía de empresa, debe desembocar en la formulación de un marco teórico relativo al papel de la digitalización en las políticas públicas de empleo que, primeramente, enuncie los riesgos fundamentales asociados a la violación de los derechos digitales de las personas demandantes de los servicios públicos de empleo, con especial sensibilidad hacia los colectivos más vulnerables por razones de edad, discapacidad y género. A continuación, que describa y analice los distintos tipos de discriminación que pueden padecer esas personas como consecuencia del uso de la inteligencia artificial en este terreno, evaluando las posibles alternativas por parte de los agentes de los servicios públicos de empleo y de las empresas colaboradoras. Y finalmente, que incluya un modelo regulatorio que pueda dar lugar a esos riesgos y esas exposiciones a discriminación, a la vez que garantice la efectividad de las medidas de empleabilidad, intermediación y, en general, de todas las políticas activas de empleo, proponiendo mejores prácticas para la reducción del riesgo de discriminación por algoritmos en el servicio público de empleo.

Noveno.- Ese marco teórico ha de servir de base para que puedan elaborarse documentos propositivos útiles para los servicios públicos de empleo a la hora de desarrollar las políticas activas que les competen, de tal forma que la efectividad y la transparencia en su actividad se complementen con unas acciones de empleabilidad e intermediación libres de sesgos y, más en general, con la dotación de una cartera de servicios que atienda eficazmente en particular a los colectivos de atención prioritaria. Esos documentos propositivos han incluir, además, pautas de actuación hacia las entidades privadas en sus relaciones de colaboración con el Sistema Nacional de Empleo.

Décimo.- El proyecto debe orientarse también a aportar pautas acerca de la evaluación de las políticas digitales de empleo, tanto desde un punto de vista jurídico como económico. Las decisiones automatizadas han de ser congruentes con la legislación de protección de datos y de inteligencia artificial, y ese parámetro también debe tenerse en cuenta en dicha evaluación, incluso como un criterio de eficacia. Pero, además de guardar esa congruencia, la digitalización abre un campo para una mayor eficiencia de esas políticas desde la perspectiva de una mejor atención a los colectivos de atención prioritaria y en riesgo de exclusión social. Por lo tanto, deben proponerse criterios de evaluación de la gestión de la información y de la toma de decisiones algorítmicas desde el punto de vista de mejora en la evitación de discriminaciones y eliminación de sesgos desfavorables de colectivos victimizados.

Undécimo.- Los avances normativos habidos en la materia (Reglamento Europeo de Inteligencia Articial 2024/1689, la Ley 12/2021, conocida como Ley Rider…) han abierto el desarrollo de una eventual negociación tecnológica, más o menos intensa, sobre el diseño y programación de los contenidos y resultados de los algoritmos de inteligencia artificial en las relaciones laborales. Esta obligatoria supervisión humana de la gestión algorítmica se enfrenta, sin embargo, en la actualidad a la inexistencia de unos procedimientos diáfanos, compartidos y estandarizados que permitan a los actores de las relaciones laborales, especialmente a la representación de las personas trabajadoras, conocer, comprender, evaluar, validar, modificar o rechazar el funcionamiento y resultados de los algoritmos, para poder plantear su revisión, mejora y control respecto a la protección de los derechos laborales, de privacidad y de salud laboral. Así las cosas, desde una perspectiva sociológica y organizativa, parece imprescindible potenciar el diseño y definición de procedimientos e indicadores que hagan operativos de manera eficaz los criterios de supervisión humana exigida por la regulación de la Unión Europea para que puedan ser eficazmente utilizados por administraciones, empresas y organizaciones, así como por los agentes sociales en la negociación colectiva de las relaciones laborales, evitando la discriminación (avanzando y ampliando, por ejemplo, guías de evaluación y de certificación de transparencia algorítmica, como la pionera, aunque básica, guía y herramienta práctica sobre Información algorítmica en al ámbito laboral del Ministerio de Trabajo y Economía Social, en 2022). Contribuir al diseño de esos indicadores permitiría así: 1) reforzar la supervisión humana para prevenir o reducir al mínimo los riesgos de la inteligencia artificial, 2) proteger la seguridad o los derechos fundamentales por implantación de un sistema de IA de Alto Riesgo, 3) evaluar sus impactos, que son diseñados en la programación (también humana) de los algoritmos, 4) garantizar el establecimiento de un sistema de gestión de riesgos algorítmicos en la organización del trabajo, así como 5) garantizar y asegurar un uso de datos del trabajo humano que elimine cualquier tipo de sesgo discriminatorio. Se diseñaría así un instrumento innovador para que los actores de las relaciones industriales desarrollen y, en su caso, negocien la transparencia y “explicabilidad” del funcionamiento de la inteligencia artificial en el ámbito de las relaciones laborales

Duodécimo.- En fin, no cabe duda que en el desarrollo de este conjunto de actuaciones, ya sea en el momento de la elaboración de las políticas públicas de empleo, como en el de su ejecución concreta, pueden producirse contravenciones de las previsiones normativas, singularmente, las relacionadas con los derechos fundamentales, y, dentro de los mismos, el principio de igualdad y no discriminación. Pues bien, el análisis quedaría incompleto si no nos detuviésemos en el estudio de las vías de tutela existentes en estos casos, tanto desde la perspectiva administrativa como judicial.

Desarrolla el proyecto

Instituto de Derechos Humanos (IUDHUV)

www.uv.es/idh

gestio.idh@uv.es

Derecho del Trabajo y de la Seguridad Social

www.uv.es/drettreballss

dep.dret.treball.i.ss@uv.es

Investigadores principales: