El desenvolupament de la Intel·ligència Artificial planteja enormes reptes des del punt de vista del desenvolupament humà, social i tecnològic. Tecnologies com el Cloud Computing han establit les bases per al desenvolupament de les nostres capacitats d'emmagatzematge i processament de grans volums d'informació. Hui, sota el rètol de Big Data, aquest procés integra tecnologies d'aprenentatge automàtic dirigit o no -Machine Learning-, i sustenta el desenvolupament d'un model d'intel·ligència artificial en el qual treballem almenys des de les aportacions d'Alan Turing.
Les conseqüències d'aquest escenari, l'anomenada Quarta Revolució Industrial, probablement se'ns escapen. Les més evidents comencen a ser presents en models de decisions assistides, l'anomenat neuromarketing, la investigació i la medicina predictiva, i les decisions automatitzades en l'avaluació de persones (HR Analytics), els vehicles autodirigits o en l'administració electrònica poden ser bons exemples d'això.
Intel·ligència artificial i robòtica es donen la mà augurant un futur de reducció de treballs repetitius o càrregues burocràtiques, així com un escenari de creixement exponencial de les capacitats de l'ésser humà.
Això implica sens dubte requerir una acció urgent dels poders públics que podrà ser o no materialment reguladora. Sobre el que no hi ha cap dubte, és sobre la urgent necessitat, de definir uns certs pilars bàsics que haurien d'orientar les polítiques públiques i la normativa en matèria d'Intel·ligència Artificial:
- Situar la dignitat de l'ésser humà i la garantia dels drets fonamentals com a límit infranquejable per al desenvolupament de la tecnologia.
- Assegurar la responsabilitat de les persones i entitats que desenvolupen algorismes de IA. No poden compartir-se les reiterades, i d'altra banda esgotadores reflexions, que pretenen establir un tertium genus en la personalitat jurídica de la intel·ligència artificial i els robots. Aquests enginys existeixen perquè algú els va concebre, perquè algú els va dissenyar i va programar, i perquè algú va decidir usar-los per a un determinat propòsit.
- Garantir models de desenvolupament basats en dades legítimament obtingudes, amb processos orientats a verificar la seua qualitat, i amb clars deures de verificar les conseqüències de l'ús de la IA en condicions d'assaig previ. L'anàlisi de riscos i l'anàlisi d'impacte no poden sinó ser un principi normatiu de compliment ineludible.
- Assegurar el principi de transparència dels algorismes que han de ser auditables. Aquest principi haurà de conciliar-se sens dubte amb la protecció de la innovació científica i industrial i la propietat intel·lectual, la qual cosa podria exigir l'atribució de competències de fiscalització a autoritats independents.
- Obligar a la traçabilitat dels sistemes quan es posen en joc valors fonamentals com la salut de les persones, la discriminació o la vigilància policial. En aquesta mena d'usos haurà de poder identificar-se el procés de decisió, les persones implicades i les conseqüències que es deriven.
- Ordenar la nul·litat de qualsevol decisió amb conseqüències jurídiques i materials, i particularment de les proves incriminatòries, quan vulneren aquests principis bàsics.
- Situar la garantia de l'autodeterminació individual, de la llibertat de les persones i dels col·lectius en els quals s'integren com un límit absolutament intangible.
Amb tota seguretat, s'han oferit al lector idees certament bàsiques en les quals haurà d'aprofundir-se. Desgraciada, o afortunadament, la ment humana és limitada, no pot aconseguir totes les possibilitats i correlacions. Afortunadament, una cosa tan limitada, humà, poc tecnològic, -i “habermasiano”- com el debat democràtic a la cerca d'un consens racional siga una d'aqueixes coses que requeririen d'una intel·ligència general, emocional i empàtica de la qual les màquines manquen.
L'objectiu d'aquesta reunió és, per tant, servir de punt de confluència entre Universitat, Indústria i Administració Pública per a suscitar un fòrum de reflexió i promoure la generació d'una xarxa de coneixement entorn de la disciplina d'Intel·ligència Artificial i les seues aplicacions.
PONENTS
|
|
|
|
|
|
|
|
|
|
 |
 |
||
PROGRAMA
09.45 Obertura de la Jornada.
- Zulima Pérez Seguí. Sotssecretària de la Conselleria d'Hisenda i Model Econòmic.
- Joaquín Aldás-Manzano. Vicerector, Universitat de València.
- Gabriel López Serrano. Director d'Assumptes Reguladors per a Microsoft Ibèrica.
- Ricard Martínez. Director de la Càtedra de privacitat i Transformació Digital Microsoft-Universitat de València.
10.15 Presentació de la Jornada: metodologia.
- Ricard Martínez. Director de la Càtedra de privacitat i Transformació Digital Microsoft-Universitat de València.
- M. Carmen Romero. Professora del Dept. Tecnologia Electrònica de la Universitat de Sevilla.
10.30 Panell Tecnològic. Anotacions per al debat.
- Maite Melero. Oficina Tècnica General del Pla d'Impuls de les Tecnologies del Llenguatge (SESIAD).
- Francisco Herrera. Professor i director del grup d'investigació ‘Soft Computing i Sistemes d'Informació Intel·ligents’ en la Universitat de Granada.
- M. Carmen Romero. Professora del Dept. Tecnologia Electrònica de la Universitat de Sevilla.
12.15 Panell Jurídic. Anotacions per al debat.
- Manuel Desantes Real. Catedràtic de Dret internacional privat en la Universitat d'Alacant.
- Ricard Martínez. Director de la Càtedra de privacitat i Transformació Digital Microsoft-Universitat de València.
14.30 Panell Indústria i economia.
- Héctor Sánchez Montenegro. National Technology Officer Microsoft Ibèrica.
- Andrés Pedreño Muñoz. Catedràtic d'Economia Aplicada en la Universitat d'Alacant. Institut d'Economia Internacional. President de AlicanTEC
16.00 Debat obert per a conclusions.
LES TROBADES SOBRE IA I DESENVOLUPAMENT HUMÀ
Les Trobades sobre Intel·ligència Artificial i Desenvolupament Humà van ser tres trobades, dues en 2018 i un 2019, organitzades per la Càtedra Privacitat i Transformació Digital Microsoft – Universitat de València. Es va tractar de reunions de reflexió i debat sobre la Intel·ligència Artificial i el seu impacte en les persones en l'escenari de la Quarta Revolució Industrial. Van participar quasi 300 experts de diferents disciplines, principalment provinents de l'àmbit del Dret, la Tecnologia, l'Economia i la Salut.
Les conclusions d'aquestes trobades van ser recollides en la Proposta ciutadana per a la Comissió de Reconstrucció Social i Econòmica que va ser presentada en el Congrés dels Diputats el 9 de maig de 2020.
CURRÍCULUM PONENTS
Zulima Pérez Seguí
Doctora en Dret amb esment Internacional per la Universitat de València, Llicenciada en Dret per aquesta mateixa Universitat i Llicenciada en Ciències Polítiques i de l'Administració per a la Universitat Miguel Hernández. Professora de Dret Constitucional en la Universitat de València, així com professora en diferents màsters i diplomes. Ha sigut professora col·laboradora del IVASPE. Ha realitzat estades d'investigació en el Center for Constitutional Studies and Democratic Development centre de la Facoltà di Giurisprudenza della Università di Bologna i la Johns Hopkins University Paul H. Nitze School of Advanced International Studies in Bologna, Italy (SAIS Europe), així com en la Università di Padova (Itàlia) i en la Universitat Nacional de Córdoba (Argentina) en l'Institut de Federalisme de l'Acadèmia Nacional de Dret i Ciències Socials de Còrdova.
Joaquín Aldás-Manzano
Doctor en Ciències Econòmiques i Empresarials, Universitat de València, és Catedràtic de Comercialització i Investigació de Mercats en la Facultat d’Economia de la Universitat de València, Investigador del Ivie i Visiting Research Fellow de la University of Glasgow (UK). És codirector del rànquing d'universitats O-Rànquing, elaborat pel Ivie i la Fundació BBVA. Els seus camps d'especialització principal són els mètodes quantitatius d'investigació en Màrqueting. Ha publicat la seua investigació, entre altres, en el European Journal of Màrqueting, Journal of Services Màrqueting, En línia Information Review, Journal of Business Ethics, Journal of Interactive Màrqueting o Tourism Management. És coautor del llibre Anàlisi multivariant Aplicat (Thomson, 2005) i Anàlisi multivariant Aplicat amb R (Paranimf, 2017).
Gabriel López Serrano
Es col·legiat en l'Il·lustre Col·legi d'Advocats de Madrid, té un Màster en Dret Administratiu i Regulació. Compta també amb estudis de postgrau en l'Institut d'Empresa a Madrid, l'Acadèmia Europea de Dret en Trier, Alemanya, la Universitat de Georgetown, els EUA, i l'Institut Tecnològic Autònom de Mèxic, a la Ciutat de Mèxic. Actualment Gabriel treballa en Microsoft com a Advocat i Director de Polítiques Públiques per a Espanya i participa en diversos projectes acadèmics en la Universitat de València i en la Fundació per a la Investigació sobre el Dret i l'Empresa (FIDE). Ha escrit articles sobre l'ús de la intel·ligència artificial en el disseny regulador i en matèria d'accessibilitat. Recentment ha sigut nomenat president de Digital Policy per a AMETIC (patronal representant del sector de la indústria tecnològica digital a Espanya).
Ricard Martínez Martínez
Doctor en Dret per la Universitat de València, ha dedicat la seua investigació a l'estudi del dret fonamental a la protecció de dades i a diferents qüestions relacionades amb les repercussions de les tecnologies de la informació i les comunicacions en la vida privada. Actualment presta els seus serveis en la Universitat de València com a Professor Ajudant Doctor en el Departament de dret Constitucional, Ciència Política i de l'Administració. Forma part del Grup de Treball sobre Drets Digitals dels Ciutadans del Ministeri d'Energia, Turisme i Agenda Digital. Coordina el Grup de Treball constituït per la Conferència de Rectors de les Universitat Espanyoles (CRUE-TIC) per a l'impuls del Reglament general de protecció de dades.
Mari Carmen Romero Ternero
Doctora per la Universitat de Sevilla (2005), Enginyera en Informàtica (1999), Màster Oficial en Organització i Gestió d'Empreses (2008) i Experta en Gestió de Serveis TU en Universitats (2015). Acreditada a Titular d'Universitat, actualment és Professora Contractada Doctora en el Departament de Tecnologia Electrònica de la Universitat de Sevilla, a l'Escola Tècnica Superior d'Enginyeria Informàtica. En l'àmbit de la investigació, pertany al Grup d'Investigació Tecnologia Electrònica i Informàtica Industrial (TIC150) des de l'any 1999, treballant en l'àrea d'Intel·ligència Artificial aplicada a diferents camps, des de l'Industrial fins a l'àmbit de la Salut i el Benestar.
Maite Melero
Investigadora sènior adscrita al Grup d'Investigació en PNL de la Universitat Pompeu Fabra i doctora en Lingüística Aplicada. Actualment assessora a la Secretaria de la Societat de la Informació i l'Agenda Digital (SESIAD) en el desplegament del Pla d'Impuls de les Tecnologies del Llenguatge. Aquest Pla té com a objectiu impulsar la indústria de les tecnologies del llenguatge utilitzant a l'Administració espanyola com a motor de la demanda del mercat. També participa en dos projectes finançats per la UE sota els auspicis de la xarxa Connecting Europe Facility, l'objectiu de la qual és el desenvolupament de recursos tecnològics i eines per a l'Europa multilingüe. Entre altres coses, va ser responsable de la implementació de Spanish Grammar Checker en Microsoft Office. És autora del volum en espanyol de la sèrie White Paper de META-NET sobre el llenguatge en l'era digital, destinat a sensibilitzar sobre les tecnologies lingüístiques a Europa, així com de l'estudi de 2017, encarregat pel Parlament Europeu, de la Situació actual de les Tecnologies del Llenguatge i les seues implicacions en la configuració del Mercat Únic Digital en una Europa multilingüe.
Francisco Herrera
Francisco Herrera ha desenvolupat la seua trajectòria professional en el Dept. de Ciències de la Computació i Intel·ligència Artificial de la Universitat de Granada, on és catedràtic des d'abril del 2005. Dirigeix l'Institut Interuniversitari Andalús en Ciència de Dades i Intel·ligència Artificial. Ha dirigit 42 tesis doctorals i publicat més de 400 articles en revistes científiques internacionals en el camp de la intel·ligència artificial. És editor principal de dues revistes internacionals, "Information Fusion" (Elsevier), i "Progress in Artificial Intelligence" (Springer). És membre del comité editorial de més d'una dotzena de revistes internacionals. Ha publicat diversos llibres científics, i el llibre de divulgació: "Intel·ligència Artificial, Intel·ligència Computacional i Big Data Servei”.
Manuel Desantes Real
Catedràtic de Dret internacional privat en la Universitat d'Alacant des de 1992. Ha sigut Vicepresident de l'Oficina Europea de Patents (Munic) des de 2001 a 2008, Vicerector i Rector en funcions de la Universitat d'Alacant entre 1996 i 1998 i membre del Servei Jurídic de la Comissió Europea entre 1998 i 2001. En l'actualitat és membre Of Counsel de la signatura ELZABURU, Vicepresident del Jurat del Disseny espanyol, Membre de la Fundació Eisenhower, Membre de la junta de l'Associació AlicanTEC, Membre de la Junta del Comité d'UNICEF per a la Comunitat Valenciana, Membre del Patronat de la Fundació Auditori de la Diputació Provincial d'Alacant ADDA i Membre del Consell assessor de la Fundació Alberto Elzaburu, entre altres. Ha publicat set llibres i més de setanta treballs de recerca.
Héctor Sánchez Montenegro
Llicenciat en Ciències Físiques per la Universitat Autònoma de Madrid, i ocupa en l'actualitat el càrrec de Director de Tecnologia de Microsoft Ibèrica (Chief Technology Officer), empresa en la qual ha ocupat diferents posicions com la de Director de Seguretat o Director d'Enginyeria de Prevenda. És coautor de Manuals sobre Protecció de Dades en tecnologies Microsoft, autor de nombrosos articles en revistes del sector tecnològic, lidera algunes de les iniciatives més rellevants per a Microsoft com la signatura d'acords estratègics de Seguretat amb el Centre Nacional d'Intel·ligència i Incibe, la certificació i acreditació dels entorns Cloud de Microsoft enfront de l'Esquema Nacional de Seguretat o l'estratègia d'Intel·ligència Artificial de Microsoft. En l'actualitat presideix el comité OSAC (Overseas Security Advisory Council) de l'Ambaixada dels EUA a Espanya.
Andrés Pedreño Muñoz
Es Llicenciat en Ciències Econòmiques i Empresarials per la Universitat de València (1978) i es va doctorar per la Universitat d'Alacant. Va ser reconegut com a Premi Nacional Millors Becaris del MEC, Premi Extraordinari de Llicenciatura per la Universitat de València i Premi Extraordinari de Doctorat per la Universitat d'Alacant. En aquesta última universitat va desenvolupar la seua carrera docent i investigadora, a través de la seua Càtedra d'Economia Aplicada des de 1989. Des de 2005 és Conseller de Universia, membre vitalici del Patronat de la Biblioteca Virtual Miguel de Cervantes, conseller del Consell Superior d'Estadística (2004-2009) i membre del Consell Assessor d'Administració Electrònica del Ministeri d'Administracions Públiques. També és membre del International Committee en la International Science Foundation. És membre corresponent de la Reial Acadèmia de Ciències Morals i Polítiques a Espanya, i de l'Acadèmia Nord-americana de Llengua als Estats Units. És doctor honoris causa per la Nottingham Trent University (el Regne Unit) pel seu defensa de l'autonomia universitària, entre altres reconeixements.
