¿Cómo debería construirse un algoritmo o inteligencia artificial para que sea respetuoso con la salud y la seguridad de las personas?
Cada vez es más frecuente la utilización por parte de la empresa de mecanismos de inteligencia artificial, más o menos avanzados, para gestionar el trabajo: establecer turnos de trabajo, tiempos en la producción, designar y diseñar tareas para los trabajadores, contratar, evaluar el desempeño y despedir. Las empresas confían en que la tecnología recoja toda la información disponible, la procese y tome las mejores decisiones de gestión –optimización productiva- en beneficio de la misma. Con ello, se sustituye a los supervisores y mandos intermedios humanos, así como a los expertos de recursos humanos dejando la dirección de los trabajadores en manos de procesos automatizados manejados por algoritmos –o en su estado más avanzado, en la inteligencia artificial-.
En este artículo, se exponen los peligros para la salud que nueva forma de gestión tecnológica puede provocar. La monitorización constante a través de sensores, la intensificación del trabajo derivada de las decisiones tomadas por una máquina sin empatía ni conocimiento sobre los límites humanos, la reducción de autonomía del trabajador sometido a las decisiones tomadas por la inteligencia artificial, las discriminaciones bajo un manto de neutralidad algorítmica de esas decisiones, así como los posibles errores de funcionamiento, pueden acabar provocando serios problemas de salud física y psicológica para los trabajadores.
Estos riesgos pueden reducirse si se tienen en cuenta en la programación. En este trabajo, se defiende la necesidad de una correcta programación del algoritmo para que valore los riesgos laborales expuestos. Es decir, de la misma forma que un supervisor debe tener formación en prevención de riesgos para poder realizar su trabajo, el algoritmo deberá ser programado para que sopese los riesgos laborales en el trabajo –y en caso de no contar con esta programación deberá impedirse su utilización para dirigir trabajadores. Concretamente, el algoritmo deberá ser trasparente, adaptado a las capacidades reales del trabajador, deberá dejar algún margen de autonomía al trabajador y respetar su privacidad. En definitiva, el algoritmo deberá valorar cualquier elemento que suponga un riesgo para la seguridad y salud de los trabajadores. Para ello, se defiende que la preceptiva evaluación de riesgos, realizada por los técnicos, sea volcada en la programación del algoritmo para que este la respete en la toma de decisiones en la dirección del trabajo.
Lista de enlaces:
