Auditing the quality of datasets used in algorithmic decision-making systems [Auditoría de la calidad de los datasets utilizados en los sistemas algorítmicos de toma de decisiones]

Iñigo de Miguel Beriain, Pilar Nicolás Jiménez (UPV/EHU), María José Rementería, Davide Cirillo, Atia Cortés, Diego Saby (Barcelona Supercomputing Center), and Guillermo Lazcoz Moratinos (CIBERER – ISCIII)

Parlamento Europeo. No.Estudios

Los sesgos se consideran comúnmente como uno de los efectos más perjudiciales del uso de la inteligencia artificial (IA). Por lo tanto, la UE se compromete a reducir su incidencia tanto como sea posible. Sin embargo, la existencia de sesgos es anterior a la creación de herramientas de IA. Todas las sociedades humanas están sesgadas: la IA solo reproduce lo que somos. Por lo tanto, oponerse a esta tecnología por este motivo simplemente ocultaría la discriminación y no la evitaría. Corresponde a la supervisión humana utilizar todos los medios disponibles, que son muchos, para mitigar sus sesgos. Es probable que, en algún momento en el futuro, las recomendaciones hechas por un mecanismo de IA...

Los sesgos se consideran comúnmente como uno de los efectos más perjudiciales del uso de la inteligencia artificial (IA). Por lo tanto, la UE se compromete a reducir su incidencia tanto como sea posible. Sin embargo, la existencia de sesgos es anterior a la creación de herramientas de IA. Todas las sociedades humanas están sesgadas: la IA solo reproduce lo que somos. Por lo tanto, oponerse a esta tecnología por este motivo simplemente ocultaría la discriminación y no la evitaría. Corresponde a la supervisión humana utilizar todos los medios disponibles, que son muchos, para mitigar sus sesgos. Es probable que, en algún momento en el futuro, las recomendaciones hechas por un mecanismo de IA contengan menos sesgos que las hechas por seres humanos. A diferencia de los humanos, la IA se puede revisar y sus fallas se pueden corregir de manera consistente. En última instancia, la IA podría servir para construir sociedades más justas y menos sesgadas. Este estudio comienza brindando una descripción general de los sesgos en el contexto de la inteligencia artificial y, más específicamente, en las aplicaciones de aprendizaje automático. La segunda parte está dedicada al análisis de los sesgos desde el punto de vista jurídico. El análisis muestra que las deficiencias en esta área exigen la implementación de herramientas regulatorias adicionales para abordar adecuadamente el problema del sesgo. Finalmente, este estudio presenta varias opciones de política en respuesta a los desafíos identificados.

Cita APA 7

Beriain, I. de M., Nicolás Jiménez, P., Rementería, M.J., Cirillo, D., Cortés, A., Saby, D., & Lazcoz Moratinos, G. (2022). Auditing the quality of datasets used in algorithmic decision-making systems. European Parliament. Doi: 10.2861/98930