En esta nueva entrega de Pensado y Derecho, los profesores Adrián Todolí, Iván Medina y Ana Montesinos analizan los riesgos y vulnerabilidades relacionados con el uso de algoritmos.

La profesora Montesinos nos explica cómo la falta de regulación de los algoritmos podría derivar en la vulneración de muchos de nuestros derechos fundamentales, como la protección de datos, la no discriminación y la igualdad o la tutela judicial efectiva.

La regulación de la carga de trabajo por parte de algoritmos podría, atendiendo a la exposición del profesor Todolí, suponer una amenaza para la salud de los trabajadores. Asimismo, el derecho a la igualdad y la no discriminación podría verse afectado en los sistemas de reclutamiento.

Es por ello que es necesario asegurarse de que el diseño trate de evitar los posibles efectos adversos y, en este sentido, la propuesta de reglamento de inteligencia artificial de la Unión Europea propone incluir profesionales de las Ciencias Sociales y Jurídicas en los equipos que diseñan los algoritmos. Asimismo, los expertos coinciden en que las auditar los resultados y educar a los ciudadanos en los riesgos potenciales de estas herramientas resulta imprescindible.

Teniendo en cuenta los riesgos, lo que está claro es que el potencial impacto positivo de la IA en la administración pública, la asignación de recursos o el marketing electoral es inmenso. De cualquier modo, debemos tratar de evitar los usos fraudulentos de los datos generados por la inteligencia artificial y para ello es necesaria una regulación que garantice la transparencia y la responsabilidad.