En la primera reunió de treball sobre Intel·ligència artificial i desenvolupament humà, celebrada a València el 4 de juliol de 2018, es va abordar l'escenari actual de la Intel·ligència Artificial des del punt de vista de la tecnologia, el dret, la indústria i l'economia. En l'escenari de la Quarta Revolució Industrial, s'assenyalava la urgent necessitat, de definir uns certs pilars bàsics que haurien d'orientar les polítiques públiques i la normativa en matèria d'Intel·ligència Artificial:

• Situar la dignitat de l'ésser humà i la garantia dels drets fonamentals com a límit infranquejable per al desenvolupament de la tecnologia.
• Assegurar la responsabilitat de les persones i entitats que desenvolupen algorismes de la Intel·ligència Artificial.
• Garantir models de desenvolupament basats en dades legítimament obtingudes, amb processos orientats a verificar la seua qualitat, i amb clars deures de verificar les conseqüències de l'ús de la Intel·ligència Artificial en condicions d'assaig previ. 
• Assegurar el principi de transparència dels algorismes que han de ser auditables.
• Obligar a la traçabilitat dels sistemes quan es posen en joc valors fonamentals com la salut de les persones, la discriminació o la vigilància policial.
• Ordenar la nul·litat de qualsevol decisió amb conseqüències jurídiques i materials, i particularment de les proves incriminatòries, quan vulneren aquests principis bàsics.
• Situar la garantia de l'autodeterminació individual, de la llibertat de les persones i dels col·lectius en els quals s'integren com un límit absolutament intangible.

Fruit d'aquest treball ha sigut l'elaboració d'un document amb aportacions i conclusions, que identifica 10 reptes bàsics:

1. El potencial de disrupció de la Intel·ligència Artificial i l'automatització intel·ligent canviarà el nostre món. 
2. La Intel·ligència Artificial ha de regir-se per principis ètics.
3. El caràcter innovador de la tecnologia no justifica la vulneració de principis jurídics bàsics.
4. El Dret ha d'adaptar els seus processos, tècniques i continguts als canvis exponencials de la Intel·ligència Artificial.
5. Les polítiques de dades obertes que garantisquen l'accés a dades són essencials per a la innovació en Intel·ligència Artificial.
6. Han de dissenyar-se polítiques públiques específicament orientades a la Intel·ligència Artificial.
7. És necessària una educació orientada a les competències digitals.
8. Ha de fomentar-se la inversió en I+D+i i col·laboració públic-privada.
9. La universitat ha de ser un dels motors en el lideratge de la investigació en Intel·ligència Artificial.
10. Les polítiques públiques han d'orientar-se a evitar l'exclusió social i econòmica.

OBJECTIUS

• Reforçar i ampliar el col·lectiu de persones implicades, integrant territorialment en l'esforç a Andalusia i Extremadura.
• Identificar línies de treball addicionals.
• Aprofundir en les conclusions de la primera reunió.
• Vertebrar la col·laboració interdisciplinària.
• Establir les bases per a un futur congrés a celebrar en el primer semestre de 2019.
• Considerar la possibilitat de publicar els resultats i les aportacions dels intervinents.

METODOLOGIA

Es proposa una estructura basada en sectorials de debat a partir dels temes rellevants identificats en la primera reunió. En el debat es tractarà de transcendir l'esquema ponent-públic de manera que, en el seu desenvolupament, els assistents podran intervindre lliurement per a formular les seues postures o obrir noves línies de pensament.

En cada taula de treball una persona relatora realitzarà una síntesi que posteriorment s'incorporarà a un document conjunt per a ser objecte de debat en la sessió plenària. Es recomana als participants que trien les sectorials del seu interés amb independència del seu perfil professional o investigador, la interdisciplinarietat en les diferents àrees es considera un valor fonamental.

Amb posterioritat, si així es considera pels assistents, es requeririen papers (de 5 a 10 folis) posteriors a aquells assistents interessats a donar publicitat a les seues opinions. Aquests documents es publicarien juntament amb les conclusions de la primera i segona reunions. Cada grup sectorial, abordaria diferents conclusions de la primera reunió:

• Sectorial A: Recerca i desenvolupament en Intel·ligència Artificial. Implicacions ètiques i socials de la Intel·ligència Artificial. Les polítiques públiques davant el canvi de model productiu. Cap a una estratègia nacional d'Intel·ligència Artificial?
• Sectorial B: Dret i Intel·ligència Artificial. La necessitat d'un marc segur per al desenvolupament de la Intel·ligència Artificial i la garantia dels drets.
• Sectorial C: Els reptes d'Intel·ligència Artificial per a la medicina.
• Sectorial D: Universitat i educació davant els reptes de la Intel·ligència Artificial.

PONENTS

PROGRAMA
 

Obertura de la Jornada

• Pilar Aranda Ramírez. Rectora Magnífica de la Universitat de Granada
• Pablo Martín González. Sotssecretari del Ministeri de Ciència, Innovació i Universitats
• Dolores Ferre Cano. Directora General d'Universitats. Conselleria de Coneixement, Investigació i Universitat. Junta d'Andalusia.
• Jesús Quero Molina. Director Gerent del Parc Tecnològic de Ciències de la Salut de Granada 
• Gabriel López Serrano. Director d'Assumptes Reguladors per a Microsoft Ibèrica
• Ricard Martínez Martínez. Director de la Càtedra de Privacitat i Transformació Digital Microsoft-Universitat de València

09.45 - Presentació de les conclusions de la I Reunió de Treball

• María del Carmen Romero Ternero (Universitat de Sevilla).
• Ricard Martínez Martínez (Universitat de València).

10.00 - Ponències convidades

• Conferència 1. Intel·ligència Artificial: Reptes per al Desenvolupament Humà
  • Francisco Herrera Triguero (Universitat de Granada).
• Conferència 2. Intel·ligència Artificial: Ètica i Aspectes Legals
  • Juan Pavón Mestras (Universitat Complutense de Madrid).
• Conferència 3. Intel·ligència Artificial i Big Data: Al servei de la Medicina
  • Juan Antonio Marchal Corrals (Universitat de Granada).

11.40 – Taules sectorials

Sectorial A

Recerca i desenvolupament en Intel·ligència Artificial. Implicacions ètiques i socials de la Intel·ligència Artificial. Les polítiques públiques davant el canvi de model productiu. Cap a una estratègia nacional d'Intel·ligència Artificial?

• Coordinació: Senén Fang Ameneiro (Universitat de Santiago de Compostel·la).
• Relator: Enrique Herrera-Viedma (Universitat de Granada).

Sectorial B

Dret i Intel·ligència Artificial. La necessitat d'un marc segur per al desenvolupament de la Intel·ligència Artificial i la garantia dels drets

• Coordinació: Miguel Olmedo Cardenete (Universitat de Granada).
• Relatora: Mónica Vilasau Solana (Universitat Oberta de Catalunya).

Sectorial C

Els reptes d'Intel·ligència Artificial per a la medicina.

• Coordinació: Aurora Valenzuela Garach (Universitat de Granada).
• Relator: Sebastián Ventura Soto (Universitat de Còrdova).

Sectorial D

Universitat i educació davant els reptes de la Intel·ligència Artificial

• Coordinació: Óscar Cordón García (Universitat de Granada).
• Relatora: Alicia Troncoso Lora (Universitat Pablo d'Olavide).

14.30 – Sessió plenària: Debat i presentació de conclusions

• María del Carmen Romero Ternero (Universitat de Sevilla).
• Ricard Martínez Martínez (Universitat de València).

• Programa [PDF]
• Més informació.

LES TROBADES SOBRE IA I DESENVOLUPAMENT HUMÀ

Les Trobades d'Intel·ligència artificial i Desenvolupament Humà van ser tres trobades, dues en 2018 i un 2019, organitzats per la Càtedra Privacitat i Transformació Digital Microsoft – Universitat de València. Es va tractar de reunions de reflexió i debat sobre la Intel·ligència Artificial i el seu impacte en les persones en l'escenari de la Quarta Revolució Industrial. Van participar quasi 300 experts de diferents disciplines, principalment provinents de l'àmbit del Dret, la Tecnologia, l'Economia i la Salut.

Les conclusions aquestes trobades va ser recollida en la Proposta ciutadana per a la Comissió de Reconstrucció Social i Econòmica que va ser presentada en el Congrés dels Diputats el 9 de maig de 2020.

RESSENYES PONENTS

Pilar Aranda Ramírez
Rectora Magnífica de la Universitat de Granada.

Senén Fang Ameneiro
Catedràtic d'Universitat. Departament de Ciències de la Computació i Intel·ligència Artificial. Universitat de Santiago de Compostel·la.

Dolores Ferre Cano
Directora General d'Universitats. Conselleria de Coneixement, Investigació i Universitat. Junta d'Andalusia.

Óscar Cordón García
Catedràtic d'Universitat. Departament de Ciències de la Computació i Intel·ligència Artificial. Delegat de la Rectora per a la Universitat Digital. Universitat de Granada.

Pablo Martín González
Subsecretari del Ministeri de Ciència, Innovació i Universitats.

Francisco Herrera Triguero
Catedràtic d'Universitat. Departament de Ciències de la Computació i Intel·ligència Artificial. Universitat de Granada.

Enrique Herrera-Viedma
Catedràtic d'Universitat. Departament de Ciències de la Computació i Intel·ligència Artificial. Vicerector d'Investigació i Transferència. Universitat de Granada.

Gabriel López Serrano
Director d'Assumptes Reguladors per a Microsoft Ibèrica.

Juan Antonio Marchal Corrals
Catedràtic d'Universitat. Departament d'Anatomia i Embriologia Humana. Universitat de Granada.

Juan Pavón Mestras
Catedràtic d'Universitat. Departament d'Enginyeria del Programari i Intel·ligència Artificial. Universitat Complutense de Madrid.

Miguel Olmedo Cardenete
Catedràtic d'Universitat. Departament de Dret Penal. Degà de la Facultat de Dret. Universitat de Granada.

Jesús Quero Molina

Director Gerent del Parc Tecnològic de Ciències de la Salut de Granada.

María del Carmen Romero Ternero
Professora Titular. Departament de Tecnologia Electrònica. Universitat de Sevilla.

Alicia Troncoso Lora
Catedràtica d'Universitat. Departament de Llenguatges i Sistemes Informàtics. Escola Politècnica Superior. Vicerectora de Tecnologies de la Informació i Innovació Digital. Universitat Pablo de Olavide.

Aurora Valenzuela Garach
Catedràtica d'Universitat. Departament de Medicina Legal, Toxicologia i Antropologia Física. Degana de la Facultat de Medicina. Universitat de Granada.

Sebastián Ventura Soto
Catedràtic d'Universitat. Departament de Ciències de la Computació i Intel·ligència Artificial. Universitat de Còrdova.

Mónica Vilasau Solana
Professora de Dret Civil dels Estudis de Dret i Ciència Política. Universitat Oberta de Catalunya.

Ricard Martínez Martínez
Director de la Càtedra de Privacitat i Transformació Digital Microsoft-Universitat de València.