El curso “Procedimientos de diseño, implementación y despliegue de sistemas de Inteligencia Artificial de Alto Riesgo” que se celebró del 25 al 27 de junio en la sede de la UNED en Alzira se centró en proporcionar los conocimientos necesarios para entender los requerimientos básicos de la Ley sobre Inteligencia Artificial (IA) desde la conformación de los conjuntos de datos a la implementación de los procesos de cumplimiento vinculados a campos como el análisis de riesgos en el contexto de la IA que dio nombre a la sesión. La ponencia del profesor Ricard Martínez consistió en el enfoque de riesgo centrado en la garantía de los derechos fundamentales.

La Ley de IA de la Unión Europea diseña un complejo sistema dirigido a garantizar que el desarrollo de sistemas de IA de alto riesgo es seguro al considerar la garantía de los derechos fundamentales y la evitación de riesgos sistémicos para la democracia y el estado de derecho. Asimismo, se orienta al diseño de productos seguros sujetos a validación de conformidad y ambas dimensiones se hallan sujetas a procesos bien definidos que requieren de un enfoque multidisciplinar e integrado.

Entre los procesos que trató el curso también se encontraba la garantía de los derechos, la gobernanza de los datos y la seguridad, entre otros. Además, desde el enfoque de la IA en salud, se abordó con casos reales el uso de grandes modelos de lenguaje o del despliegue de la IA ya sea entendida como producto médico o embebida en dispositivos de esta naturaleza.

El proyecto EUCAIM fue, en este sentido, un ejemplo de los retos de la IA en el ámbito de la salud. La iniciativa aborda la fragmentación de los repositorios de imágenes de cáncer existentes y establecerá un Atlas distribuido de Imágenes de Cáncer con más de 60 millones de datos anonimizados de imágenes de cáncer de más de 100.000 pacientes.

El sistema será accesible a médicos, investigadores e innovadores de toda la UE para el desarrollo y la evaluación comparativa de herramientas de IA fiables. Los integrantes del área de privacidad y seguridad del IRTIC lideran las tareas que garanticen el adecuado cumplimiento normativo del proyecto.

EUCAIM está cofinanciado por la Unión Europea mediante el acuerdo de subvención número 1011100633. Las opiniones expresadas son responsabilidad exclusiva de los autores y no reflejan necesariamente las de la Unión Europea. Ni la Unión Europea ni la autoridad que concede la subvención pueden ser consideradas responsables de las mismas.