El desarrollo de la Inteligencia Artificial plantea enormes retos desde el punto de vista del desarrollo humano, social y tecnológico. Tecnologías como el Cloud Computing han sentado las bases para el desarrollo de nuestras capacidades de almacenamiento y procesado de grandes volúmenes de información. Hoy, bajo el rótulo de Big Data, este proceso integra tecnologías de aprendizaje automático dirigido o no -Machine Learning-, y sustenta el desarrollo de un modelo de inteligencia artificial en el que venimos trabajando al menos desde las aportaciones de Alan Turing.
Las consecuencias de este escenario, la llamada Cuarta Revolución Industrial, probablemente se nos escapan. Las más evidentes comienzan a estar presentes en modelos de decisiones asistidas, el llamado neuromarketing, la investigación y la medicina predictiva, y las decisiones automatizadas en la evaluación de personas (HR Analytics), los vehículos autodirigidos o en la administración electrónica pueden ser buenos ejemplos de ello.
Inteligencia artificial y robótica se dan la mano augurando un futuro de reducción de trabajos repetitivos o cargas burocráticas, así como un escenario de crecimiento exponencial de las capacidades del ser humano.
Ello implica sin duda requerir una acción urgente de los poderes públicos que podrá ser o no materialmente regulatoria. Sobre lo que no cabe ninguna duda, es sobre la urgente necesidad, de definir ciertos pilares básicos que deberían orientar las políticas públicas y la normativa en materia de Inteligencia Artificial:
- Situar la dignidad del ser humano y la garantía de los derechos fundamentales como límite infranqueable para el desarrollo de la tecnología.
- Asegurar la responsabilidad de las personas y entidades que desarrollen algoritmos de IA. No pueden compartirse las reiteradas, y por otra parte agotadoras reflexiones, que pretenden establecer un tertium genus en la personalidad jurídica de la inteligencia artificial y los robots. Estos ingenios existen porque alguien los concibió, porque alguien los diseñó y programó, y porque alguien decidió usarlos para un determinado propósito.
- Garantizar modelos de desarrollo basados en datos legítimamente obtenidos, con procesos orientados a verificar su calidad, y con claros deberes de verificar las consecuencias del uso de la IA en condiciones de ensayo previo. El análisis de riesgos y el análisis de impacto no pueden sino ser un principio normativo de cumplimiento ineludible.
- Asegurar el principio de transparencia de los algoritmos que deben ser auditables. Este principio deberá conciliarse sin duda con la protección de la innovación científica e industrial y la propiedad intelectual, lo que podría exigir la atribución de competencias de fiscalización a autoridades independientes.
- Obligar a la trazabilidad de los sistemas cuando se pongan en juego valores fundamentales como la salud de las personas, la discriminación o la vigilancia policial. En este tipo de usos deberá poder identificarse el proceso de decisión, las personas implicadas y las consecuencias que se deriven.
- Ordenar la nulidad de cualquier decisión con consecuencias jurídicas y materiales, y particularmente de las pruebas incriminatorias, cuando vulneren estos principios básicos.
- Situar la garantía de la autodeterminación individual, de la libertad de las personas y de los colectivos en los que se integran como un límite absolutamente intangible.
Con toda seguridad, se han ofrecido al lector ideas ciertamente básicas en las que deberá profundizarse. Desgraciada, o afortunadamente, la mente humana es limitada, no puede alcanzar todas las posibilidades y correlaciones. Afortunadamente, algo tan limitado, humano, poco tecnológico, -y “habermasiano”- como el debate democrático a la búsqueda de un consenso racional sea una de esas cosas que requerirían de una inteligencia general, emocional y empática de la que las máquinas carecen.
El objetivo de esta reunión es, por tanto, servir de punto de confluencia entre Universidad, Industria y Administración Pública para suscitar un foro de reflexión y promover la generación de una red de conocimiento en torno a la disciplina de Inteligencia Artificial y sus aplicaciones.
PONENTES
|
|
|
|
|
|
|
|
|
|
 |
 |
||
PROGRAMA
09.45 Apertura de la Jornada.
- Zulima Pérez Seguí. Subsecretaria de la Conselleria de Hacienda y Modelo Económico.
- Joaquín Aldás-Manzano. Vicerrector, Universitat de València.
- Gabriel López Serrano. Director de Asuntos Regulatorios para Microsoft Ibérica.
- Ricard Martínez. Director de la Cátedra de privacidad y Transformación Digital Microsoft-Universitat de Valencia.
10.15 Presentación de la Jornada: metodología.
- Ricard Martínez. Director de la Cátedra de privacidad y Transformación Digital Microsoft-Universitat de Valencia.
- M. Carmen Romero. Profesora del Dpto. Tecnología Electrónica de la Universidad de Sevilla.
10.30 Panel Tecnológico. Apuntes para el debate.
- Maite Melero. Oficina Técnica General del Plan de Impulso de las Tecnologías del Lenguaje (SESIAD).
- Francisco Herrera. Profesor y director del grupo de investigación ‘Soft Computing y Sistemas de Información Inteligentes’ en la Universidad de Granada.
- M. Carmen Romero. Profesora del Dpto. Tecnología Electrónica de la Universidad de Sevilla.
12.15 Panel Jurídico. Apuntes para el debate.
- Manuel Desantes Real. Catedrático de Derecho internacional privado en la Universidad de Alicante.
- Ricard Martínez. Director de la Cátedra de privacidad y Transformación Digital Microsoft-Universitat de Valencia.
14.30 Panel Industria y economía.
- Héctor Sánchez Montenegro. National Technology Officer Microsoft Ibérica.
- Andrés Pedreño Muñoz. Catedrático de Economía Aplicada en la Universidad de Alicante. Instituto de Economía Internacional. Presidente de AlicanTEC
16.00 Debate abierto para conclusiones.
LOS ENCUENTROS SOBRE IA Y DESARROLLO HUMANO
Los Encuentros sobre Inteligencia Artificial y Desarrollo Humano fueron tres encuentros, dos en 2018 y uno 2019, organizados por la Cátedra Privacidad y Transformación Digital Microsoft – Universidad de Valencia. Se trató de reuniones de reflexión y debate sobre la Inteligencia Artificial y su impacto en las personas en el escenario de la Cuarta Revolución Industrial. Participaron casi 300 expertos de distintas disciplinas, principalmente provenientes del ámbito del Derecho, la Tecnología, la Economía y la Salud.
Las conclusiones estos encuentros fue recogida en la Propuesta ciudadana para la Comisión de Reconstrucción Social y Económica que fue presentada en el Congreso de los Diputados el 9 de mayo de 2020.
CURRÍCULUM PONENTES
Zulima Pérez Seguí
Doctora en Derecho con mención Internacional por la Universidad de Valencia, Licenciada en Derecho por esta misma Universidad y Licenciada en Ciencias Políticas y de la Administración para la Universidad Miguel Hernández. Profesora de Derecho Constitucional en la Universidad de Valencia, así como profesora en distintos másters y diplomas. Ha sido profesora colaboradora del IVASPE. Ha realizado estancias de investigación en el Center forConstitutional Studies and Democratic Development centro de la Facoltà di Giurisprudenza della Università di Bologna y la Johns Hopkins University Paul H. Nitze School of Advanced International Studies in Bologna, Italy (SAIS Europe), así como en la Università di Padova (Italia) y en la Universidad Nacional de Córdoba (Argentina) en el Instituto de Federalismo de la Academia Nacional de Derecho y Ciencias Sociales de Córdoba.
Joaquín Aldás-Manzano
Doctor en Ciencias Económicas y Empresariales, Universitat de València, es Catedrático de Comercialización e Investigación de Mercados en la Facultat d’Economia de la Universitat de València, Investigador del Ivie y Visiting Research Fellow de la University of Glasgow (UK). Es codirector del ranking de universidades U-Ranking, elaborado por el Ivie y la Fundación BBVA. Sus campos de especialización principal son los métodos cuantitativos de investigación en Marketing. Ha publicado su investigación, entre otros, en el European Journal of Marketing, Journal of Services Marketing, Online Information Review, Journal of Business Ethics, Journal of Interactive Marketing o Tourism Management. Es coautor del libro Análisis Multivariante Aplicado (Thomson, 2005) y Análisis Multivariante Aplicado con R (Paraninfo, 2017).
Gabriel López Serrano
Es colegiado en el Ilustre Colegio de Abogados de Madrid, tiene un Master en Derecho Administrativo y Regulación. Cuenta también con estudios de postgrado en el Instituto de Empresa en Madrid, la Academia Europea de Derecho en Trier, Alemania, la Universidad de Georgetown, EE. UU., y el Instituto Tecnológico Autónomo de México, en la Ciudad de México. Actualmente Gabriel trabaja en Microsoft como Abogado y Director de Políticas Públicas para España y participa en diversos proyectos académicos en la Universitat de Valencia y en la Fundación para la Investigación sobre el Derecho y la Empresa (FIDE). Ha escrito artículos sobre el uso de la inteligencia artificial en el diseño regulatorio y en materia de accesibilidad. Recientemente ha sido nombrado presidente de Digital Policy para AMETIC (patronal representante del sector de la industria tecnológica digital en España).
Ricard Martínez Martínez
Doctor en Derecho por la Universitat de València, ha dedicado su investigación al estudio del derecho fundamental a la protección de datos y a distintas cuestiones relacionadas con las repercusiones de las tecnologías de la información y las comunicaciones en la vida privada. Actualmente presta sus servicios en la Universitat de Valencia como Profesor Ayudante Doctor en el Departamento de derecho Constitucional, Ciencia Política y de la Administración. Forma parte del Grupo de Trabajo sobre Derechos Digitales de los Ciudadanos del Ministerio de Energía, Turismo y Agenda Digital. Coordina el Grupo de Trabajo constituido por la Conferencia de Rectores de las Universidad Españolas (CRUE-TIC) para el impulso del Reglamento general de protección de datos.
Mari Carmen Romero Ternero
Doctora por la Universidad de Sevilla (2005), Ingeniera en Informática (1999), Máster Oficial en Organización y Gestión de Empresas (2008) y Experta en Gestión de Servicios TI en Universidades (2015). Acreditada a Titular de Universidad, actualmente es Profesora Contratada Doctora en el Departamento de Tecnología Electrónica de la Universidad de Sevilla, en la Escuela Técnica Superior de Ingeniería Informática. En el ámbito de la investigación, pertenece al Grupo de Investigación Tecnología Electrónica e Informática Industrial (TIC150) desde el año 1999, trabajando en el área de Inteligencia Artificial aplicada a distintos campos, desde el Industrial hasta el ámbito de la Salud y el Bienestar.
Maite Melero
Investigadora senior adscrita al Grupo de Investigación en PNL de la Universitat Pompeu Fabra y doctora en Lingüística Aplicada. Actualmente asesora a la Secretaría de la Sociedad de la Información y la Agenda Digital (SESIAD) en el despliegue del Plan de Impulso de las Tecnologías del Lenguaje. Este Plan tiene como objetivo impulsar la industria de las tecnologías del lenguaje utilizando a la Administración española como motor de la demanda del mercado. También participa en dos proyectos financiados por la UE bajo los auspicios de la red Connecting Europe Facility, cuyo objetivo es el desarrollo de recursos tecnológicos y herramientas para la Europa multilingüe. Entre otras cosas, fue responsable de la implementación de Spanish Grammar Checker en Microsoft Office. Es autora del volumen en español de la serie White Paper de META-NET sobre el lenguaje en la era digital, destinado a sensibilizar sobre las tecnologías lingüísticas en Europa, así como del estudio de 2017, encargado por el Parlamento Europeo, de la Situación actual de las Tecnologías del Lenguaje y sus implicaciones en la configuración del Mercado Único Digital en una Europa multilingüe.
Francisco Herrera
Francisco Herrera ha desarrollado su trayectoria profesional en el Dpto. de Ciencias de la Computación e Inteligencia Artificial de la Universidad de Granada, donde es catedrático desde abril del 2005. Dirige el Instituto Interuniversitario Andaluz en Ciencia de Datos e Inteligencia Artificial. Ha dirigido 42 tesis doctorales y publicado más de 400 artículos en revistas científicas internacionales en el campo de la inteligencia artificial. Es editor principal de dos revistas internacionales, "Information Fusion" (Elsevier), y "Progress in Artificial Intelligence" (Springer). Es miembro del comité editorial de más de una docena de revistas internacionales. Ha publicado varios libros científicos, y el libro de divulgación: "Inteligencia Artificial, Inteligencia Computacional y Big Data Servicio”.
Manuel Desantes Real
Catedrático de Derecho internacional privado en la Universidad de Alicante desde 1992. Ha sido Vicepresidente de la Oficina Europea de Patentes (Múnich) desde 2001 a 2008, Vice-Rector y Rector en funciones de la Universidad de Alicante entre 1996 y 1998 y miembro del Servicio Jurídico de la Comisión Europea entre 1998 y 2001. En la actualidad es miembro Of Counsel de la firma ELZABURU, Vice-Presidente del Jurado del Diseño español, Miembro de la Fundación Eisenhower, Miembro de la junta de la Asociación AlicanTEC, Miembro de la Junta del Comité de UNICEF para la Comunidad Valenciana, Miembro del Patronato de la Fundación Auditorio de la Diputación Provincial de Alicante ADDA y Miembro del Consejo asesor de la Fundación Alberto Elzaburu, entre otros. Ha publicado siete libros y más de setenta trabajos de investigación.
Héctor Sánchez Montenegro
Licenciado en Ciencias Físicas por la Universidad Autónoma de Madrid, y ocupa en la actualidad el cargo de Director de Tecnología de Microsoft Ibérica (Chief Technology Officer), empresa en la que ha ocupado diferentes posiciones como la de Director de Seguridad o Director de Ingeniería de Preventa. Es coautor de Manuales sobre Protección de Datos en tecnologías Microsoft, autor de numerosos artículos en revistas del sector tecnológico, lidera algunas de las iniciativas más relevantes para Microsoft como la firma de acuerdos estratégicos de Seguridad con el Centro Nacional de Inteligencia e Incibe, la certificación y acreditación de los entornos Cloud de Microsoft frente al Esquema Nacional de Seguridad o la estrategia de Inteligencia Artificial de Microsoft. En la actualidad preside el comité OSAC (Overseas Security Advisory Council) de la Embajada de EEUU en España.
Andrés Pedreño Muñoz
Es Licenciado en Ciencias Económicas y Empresariales por la Universidad de Valencia (1978) y se doctoró por la Universidad de Alicante. Fue reconocido como Premio Nacional Mejores Becarios del MEC, Premio Extraordinario de Licenciatura por la Universidad de Valencia y Premio Extraordinario de Doctorado por la Universidad de Alicante. En esta última universidad desarrolló su carrera docente e investigadora, a través de su Cátedra de Economía Aplicada desde 1989. Desde 2005 es Consejero de Universia, miembro vitalicio del Patronato de la Biblioteca Virtual Miguel de Cervantes, consejero del Consejo Superior de Estadística (2004-2009) y miembro del Consejo Asesor de Administración Electrónica del Ministerio de Administraciones Públicas. También es miembro del International Committee en la International Science Foundation. Es miembro correspondiente de la Real Academia de Ciencias Morales y Políticas en España, y de la Academia Norteamericana de Lengua en Estados Unidos. Es doctor honoris causa por la Nottingham Trent University (Reino Unido) por su defensa de la autonomía universitaria, entre otros reconocimientos.
