En la primera reunión de trabajo sobre Inteligencia artificial y desarrollo humano, celebrada en Valencia el 4 de julio de 2018, se abordó el escenario actual de la Inteligencia Artificial desde el punto de vista de la tecnología, el derecho, la industria y la economía. En el escenario de la Cuarta Revolución Industrial, se señalaba la urgente necesidad, de definir ciertos pilares básicos que deberían orientar las políticas públicas y la normativa en materia de Inteligencia Artificial:
- Situar la dignidad del ser humano y la garantía de los derechos fundamentales como límite infranqueable para el desarrollo de la tecnología.
- Asegurar la responsabilidad de las personas y entidades que desarrollen algoritmos de la Inteligencia Artificial.
- Garantizar modelos de desarrollo basados en datos legítimamente obtenidos, con procesos orientados a verificar su calidad, y con claros deberes de verificar las consecuencias del uso de la Inteligencia Artificial en condiciones de ensayo previo.
- Asegurar el principio de transparencia de los algoritmos que deben ser auditables.
- Obligar a la trazabilidad de los sistemas cuando se pongan en juego valores fundamentales como la salud de las personas, la discriminación o la vigilancia policial.
- Ordenar la nulidad de cualquier decisión con consecuencias jurídicas y materiales, y particularmente de las pruebas incriminatorias, cuando vulneren estos principios básicos.
- Situar la garantía de la autodeterminación individual, de la libertad de las personas y de los colectivos en los que se integran como un límite absolutamente intangible.
Fruto de este trabajo ha sido la elaboración de un documento con aportaciones y conclusiones, que identifica 10 retos básicos:
- El potencial de disrupción de la Inteligencia Artificial y la automatización inteligente cambiará nuestro mundo.
- La Inteligencia Artificial debe regirse por principios éticos.
- El carácter innovador de la tecnología no justifica la vulneración de principios jurídicos básicos.
- El Derecho debe adaptar sus procesos, técnicas y contenidos a los cambios exponenciales de la Inteligencia Artificial.
- Las políticas de open data que garanticen el acceso a datos son esenciales para la innovación en Inteligencia Artificial.
- Deben diseñarse políticas públicas específicamente orientadas a la Inteligencia Artificial.
- Es necesaria una educación orientada a las competencias digitales.
- Debe fomentarse la inversión en I+D+i y colaboración público-privada.
- La universidad debe ser uno de los motores en el liderazgo de la investigación en Inteligencia Artificial.
- Las políticas públicas deben orientarse a evitar la exclusión social y económica.
OBJETIVOS
- Reforzar y ampliar el colectivo de personas implicadas, integrando territorialmente en el esfuerzo a Andalucía y Extremadura.
- Identificar líneas de trabajo adicionales.
- Profundizar en las conclusiones de la primera reunión.
- Vertebrar la colaboración interdisciplinar.
- Sentar las bases para un futuro congreso a celebrar en el primer semestre de 2019.
- Considerar la posibilidad de publicar los resultados y las aportaciones de los intervinientes.
METODOLOGÍA
Se propone una estructura basada en sectoriales de debate a partir de los temas relevantes identificados en la primera reunión. En el debate se tratará de trascender el esquema ponente-público de modo que, en su desarrollo, los asistentes podrán intervenir libremente para formular sus posturas o abrir nuevas líneas de pensamiento.
En cada mesa de trabajo una persona relatora realizará una síntesis que posteriormente se incorporará a un documento conjunto para ser objeto de debate en la sesión plenaria. Se recomienda a los participantes que escojan las sectoriales de su interés con independencia de su perfil profesional o investigador, la interdisciplinariedad en las distintas áreas se considera un valor fundamental.
Con posterioridad, si así se considera por los asistentes, se requerirían papers (de 5 a 10 folios) posteriores a aquellos asistentes interesados en dar publicidad a sus opiniones. Estos documentos se publicarían junto con las conclusiones de la primera y segunda reuniones. Cada grupo sectorial, abordaría distintas conclusiones de la primera reunión:
- Sectorial A: Investigación y desarrollo en Inteligencia Artificial. Implicaciones éticas y sociales de la Inteligencia Artificial. Las políticas públicas ante el cambio de modelo productivo. ¿Hacia una estrategia nacional de Inteligencia Artificial?
- Sectorial B: Derecho e Inteligencia Artificial. La necesidad de un marco seguro para el desarrollo de la Inteligencia Artificial y la garantía de los derechos.
- Sectorial C: Los retos de Inteligencia Artificial para la medicina.
- Sectorial D: Universidad y educación ante los retos de la Inteligencia Artificial.
PONENTES
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
||
PROGRAMA
Apertura de la Jornada
- Pilar Aranda Ramírez. Rectora Magnífica de la Universidad de Granada.
- Pablo Martín González. Subsecretario del Ministerio de Ciencia, Innovación y Universidades.
- Dolores Ferre Cano. Directora General de Universidades. Consejería de Conocimiento, Investigación y Universidad. Junta de Andalucía.
- Jesús Quero Molina. Director Gerente del Parque Tecnológico de Ciencias de la Salud de Granada.
- Gabriel López Serrano. Director de Asuntos Regulatorios para Microsoft Ibérica.
- Ricard Martínez Martínez. Director de la Cátedra de Privacidad y Transformación Digital Microsoft-Universitat de Valencia.
09:45 - Presentación de las conclusiones de la I Reunión de Trabajo
- María del Carmen Romero Ternero (Universidad de Sevilla).
- Ricard Martínez Martínez (Universitat de València).
10.00 - Ponències convidades
- Conferencia 1. Inteligencia Artificial: Retos para el Desarrollo Humano
- Francisco Herrera Triguero (Universidad de Granada).
- Conferencia 2. Inteligencia Artificial: Ética y Aspectos Legales
- Juan Pavón Mestras (Universidad Complutense de Madrid).
- Conferencia 3. Inteligencia Artificial y Big Data: Al servicio de la Medicina
- Juan Antonio Marchal Corrals (Universidad de Granada).
11:40 – Mesas sectoriales
Sectorial A
Investigación y desarrollo en Inteligencia Artificial. Implicaciones éticas y sociales de la Inteligencia Artificial. Las políticas públicas ante el cambio de modelo productivo. ¿Hacia una estrategia nacional de Inteligencia Artificial?
- Coordinación: Senén Barro Ameneiro (Universidad de Santiago de Compostela).
- Relator: Enrique Herrera-Viedma (Universidad de Granada).
Sectorial B
Derecho e Inteligencia Artificial. La necesidad de un marco seguro para el desarrollo de la Inteligencia Artificial y la garantía de los derechos.
- Coordinación: Miguel Olmedo Cardenete (Universidad de Granada).
- Relatora: Mónica Vilasau Solana (Universitat Oberta de Catalunya).
Sectorial C
Los retos de Inteligencia Artificial para la medicina.
- Coordinación: Aurora Valenzuela Garach (Universidad de Granada).
- Relator: Sebastián Ventura Soto (Universidad de Córdoba).
Sectorial D
Universidad y educación ante los retos de la Inteligencia Artificial.
- Coordinación: Óscar Cordón García (Universidad de Granada).
- Relatora: Alicia Troncoso Lora (Universidad Pablo de Olavide).
14:30 – Sesión plenaria: Debate y presentación de conclusiones
- María del Carmen Romero Ternero (Universidad de Sevilla).
- Ricard Martínez Martínez (Universitat de València).
LOS ENCUENTROS SOBRE IA Y DESARROLLO HUMANO
Los Encuentros sobre Inteligencia artificial y Desarrollo Humano fueron tres encuentros, dos en 2018 y uno 2019, organizados por la Cátedra Privacidad y Transformación Digital Microsoft – Universidad de Valencia. Se trató de reuniones de reflexión y debate sobre la Inteligencia Artificial y su impacto en las personas en el escenario de la Cuarta Revolución Industrial. Participaron casi 300 expertos de distintas disciplinas, principalmente provenientes del ámbito del Derecho, la Tecnología, la Economía y la Salud.
Las conclusiones estos encuentros fueron recogidas en la Propuesta ciudadana para la Comisión de Reconstrucción Social y Económica que fue presentada en el Congreso de los Diputados el 9 de mayo de 2020.
RESEÑAS PONENTES
Pilar Aranda Ramírez
Rectora Magnífica de la Universidad de Granada.
Senén Fang Ameneiro
Catedrático de Universidad. Departamento de Ciencias de la Computación e Inteligencia Artificial. Universidad de Santiago de Compostela.
Dolores Ferre Cano
Directora General de Universidades. Consejería de Conocimiento, Investigación y Universidad. Junta de Andalucía.
Óscar Cordón García
Catedrático de Universidad. Departamento de Ciencias de la Computación e Inteligencia Artificial. Delegado de la Rectora para la Universidad Digital. Universidad de Granada.
Pablo Martín González
Subsecretario del Ministerio de Ciencia, Innovación y Universidades.
Francisco Herrera Triguero
Catedrático de Universidad. Departamento de Ciencias de la Computación e Inteligencia Artificial. Universidad de Granada.
Enrique Herrera-Viedma
Catedrático de Universidad. Departamento de Ciencias de la Computación e Inteligencia Artificial. Vicerrector de Investigación y Transferencia. Universidad de Granada.
Gabriel López Serrano
Director de Asuntos Regulatorios para Microsoft Ibérica.
Juan Antonio Marchal Corrals
Catedrático de Universidad. Departamento de Anatomía y Embriología Humana. Universidad de Granada.
Juan Pavón Mestras
Catedrático de Universidad. Departamento de Ingeniería del Software e Inteligencia Artificial. Universidad Complutense de Madrid.
Miguel Olmedo Cardenete
Catedrático de Universidad. Departamento de Derecho Penal. Decano de la Facultad de Derecho. Universidad de Granada.
Jesús Quero Molina
Director Gerente del Parque Tecnológico de Ciencias de la Salud de Granada.
María del Carmen Romero Ternero
Profesora Titular. Departamento de Tecnología Electrónica. Universidad de Sevilla.
Alicia Troncoso Lora
Catedrática de Universidad. Departamento de Lenguajes y Sistemas Informáticos. Escuela Politécnica Superior. Vicerrectora de Tecnologías de la Información e Innovación Digital. Universidad Pablo de Olavide.
Aurora Valenzuela Garach
Catedrática de Universidad. Departamento de Medicina Legal, Toxicología y Antropología Física. Decana de la Facultad de Medicina. Universidad de Granada.
Sebastián Ventura Soto
Catedrático de Universidad. Departamento de Ciencias de la Computación e Inteligencia Artificial. Universidad de Córdoba.
Mónica Vilasau Solana
Profesora de Derecho Civil de los Estudios de Derecho y Ciencia Política. Universitat Oberta de Catalunya.
Ricard Martínez Martínez
Director de la Cátedra de Privacidad y Transformación Digital Microsoft-Universitat de Valencia.
