Inteligencia artificial y Derechos Humanos. Reflexiones frente al uso de IA en el sector público latinoamericano

Dr. Marco Emilio Sánchez

Doctor de la Universidad de Valencia, Profesor e investigador Universidad Católica, Consultor y Abogado IUSATIC

La llegada del siglo XXI y de la denominada sociedad de la información ha traído consigo el uso de tecnologías emergentes, el big data, el blockchain, el internet de las cosas (IoT, por sus siglas en inglés), la ciberseguridad y, por supuesto, la inteligencia artificial (IA), todo lo cual comporta nuevos desafíos para el derecho y, en particular, para los derechos fundamentales.

La industria 4.0 o mejor conocida como la cuarta revolución industrial, es la etapa más importante del último siglo, debido a que de manera estructural se ha inmiscuido en la sociedad, el Estado, y el mundo en general, siendo influyente para la toma de decisiones, adaptación de modelos económicos, e influencia política, generando el uso extendido de la inteligencia artificial (IA) como tecnología de base para el desarrollo de diversos sistemas y soluciones con grandes impactos en todos los escenarios de un país¹.

En la actualidad, la inteligencia artificial hace parte activa en la mayoría de Estados del mundo, ya que el ser humano siempre ha pretendido crear herramientas que faciliten la vida, que aporten efectividad a las actividades propias de los Gobiernos, y es allí donde la tecnología ha jugado un papel trascendental en la creación de un tipo de inteligencia que satisfaga esas necesidades y, en tal sentido, es importante tener en cuenta que una sola aplicación de la IA puede impactar en una gran cantidad de derechos tanto en la esfera privada como colectiva.

Por lo anterior, la cuarta revolución industrial ha sido impactada por un extenso avance normativo en materia de uso, seguridad y defensa de la Tecnologías de la Información y las Comunicaciones, y puntualmente de las tecnologías emergentes como la inteligencia artificial.

Particularmente, en actividades de ciberseguridad y ciberdefensa en cabeza de las fuerzas militares, y las actuaciones en general dentro del sector público, confluye la responsabilidad de respetar las normas básicas, los postulados constitucionales, los acuerdos contentivos en los tratados internacionales, así como la adopción de los principios éticos para la IA en Colombia²:

1. Transparencia y explicación: la información brindada a los desarrolladores, usuarios e individuos afectados por las decisiones y resultados de la IA, debe ser significativa y comprensible sobre su diseño, funcionamiento e impacto. Asimismo, y como elementos comunes a todos los principios, la aplicación de la IA, debe tener en cuenta la ética de los datos, de los algoritmos y de las practicas, según la tematica.
2. Privacidad: la IA debe estar precedida de un respeto por la intimidad personal y su esfera privada que impide el uso de información que estos no hayan autorizado y el perfilamiento: comportamiento diferencial “con relación a diversos individuos en virtud de un criterio consistente en que tales individuos pertenezcan a grupos de población estadísticamente caracterizables de una cierta manera” (Peña, 2008) a través de esta tecnología.
3. Control humano de las decisiones propias de un sistema de IA: una vez se haya alcanzado un mayor nivel de madurez de la tecnología en el país, se pasará a que haya una mayor autonomía en la toma de decisiones de la IA, dado el desplazamiento que se da de los seres humanos de ciertas actividades. A lo anterior se suma que el control humano debe ser proporcional al nivel de riesgo, las aplicaciones de la tecnología que presenten una mayor probabilidad y severidad deben contar con mayor control humano frente a las de bajo riesgo.
4. Seguridad: la seguridad y confidencialidad de los datos personales y en especial de los datos sensibles son factores fundamentales para evitar afectaciones a la seguridad física y mental de los individuos.
5. Responsabilidad: existe el deber de responder por los resultados que produzca un sistema de inteligencia artificial y las afectaciones que llegue a generar.
6. No discriminación: los sistemas de inteligencia artificial no pueden tener resultados o respuestas que atenten contra el bienestar de un grupo específico o que limiten los derechos de poblaciones históricamente marginadas.
7. Inclusión: el Estado debe utilizar sistemas de inteligencia artificial que hayan cumplido con criterios de inclusión y respondan a las necesidades propias y específicas de poblaciones históricamente marginadas y diversas.
8. Prevalencia de los derechos de niños, niñas y adolescentes: los sistemas de inteligencia artificial deben reconocer, respetar y privilegiar los derechos de niños niñas y adolescentes. En ningún caso está justificada la implementación de un sistema inteligente inicial que vaya en detrimento de su interés superior. Se debe abogar por fortalecer programas y estrategias de educación que faciliten el entendimiento de los niños, niñas y adolescentes, pero también de padres, profesores y cuidadores de esta tecnología y de sus implicaciones, que facilite la interacción que estos tengan con esta innovación y promueva una cultura de transformación digital.
9. Beneficio social: los sistemas de Inteligencia artificial que se implementan en Colombia deben permitir o estar directamente relacionada a una actividad que genere un beneficio social claro y determinable. Dicho beneficio puede verse materializado en la reducción de costos, el aumento de la productividad, el bienestar público la facilitación en la prestación de servicios públicos, la no afectación y protección del medio ambiente, el entretenimiento entre otros. Los sistemas de inteligencia artificial que persigan otro tipo de fines no deben ser implementados en el sector público y se debe desincentivar su uso en otros sectores.

Latinoamérica avanza en la senda de un conjunto de regulaciones, desarrollando, entre otros, Colombia, Perú, Argentina, avances muy importantes en la materia.

Argentina es un país pionero en la adopción de la IA y con un historial significativo en cuanto a investigación. La participación de estas instituciones es un elemento que distingue a Argentina de otros países de la región. En el ámbito del sector privado, el ecosistema de emprendimiento cuenta con el mayor número de empresas emergentes dedicadas a la IA, gracias a los apoyos legales y a la participación de ángeles inversionistas y fondos de capital. Por su parte, la sociedad civil ya ha realizado algunos esfuerzos especializados en el fomento de la IA y exhibe casos de uso de IA para el bien social que se encuentran en diferentes grados de madurez.

El Gobierno de Perú ha apostado a la digitalización del país mediante el desarrollo de una Agenda Digital y Estrategia Nacional de Datos Abiertos Gubernamentales. Desde la Secretaría de Gobierno Digital se ha creado un Portal de Datos Abiertos que, además de facilitar la gestión de servicios del Estado, permite realizar procesos más transparentes y eficaces. Si bien Perú no ha formulado todavía una estrategia de IA a nivel nacional, el sector emprendedor y la sociedad civil han impulsado una serie de iniciativas ambiciosas y pro- metedoras enfocadas en la formación de talento, la disminución de brechas digitales y el aprovechamiento de nuevas tecnologías como la IA aplicadas a la salud pública y al medio ambiente³.

Los Estados y, en particular, las autoridades deben adoptar medidas normativas para hacer frente a la inteligencia artificial cuando esta afecta de forma directa los derechos de los ciudadanos. Los Estados deben establecer regulaciones que impongan límites y obligaciones claras respecto de los sistemas de IA que contengan riesgos inadmisibles, esto es, aquellos que violenten la autonomía decisional de las personas. Los límites a la aplicación de la IA dentro de la actividad estatal deben tender a proteger los derechos y el bienestar de los ciudadanos.

Deben establecerse mecanismos de control que permitan lograr la investigación y sanción a quienes pongan en riesgo los derechos de los ciudadanos con sistemas de IA que incorporen riesgos para los derechos de forma inaceptables. Asimismo, instrumentos para el resarcimiento de los daños generados por la materialización de los riesgos y la violación a los derechos.

Las regulaciones que se propongan para los sistemas y el uso de la IA deben incorporar diversos elementos, entre otros, la posibilidad de que las normas se apliquen independientemente de los avances tecnológicos y los alcances que estos tienen. Es importante saber expresar no solo con lenguaje claro en las normas, sino también con ecuaciones ejecutadas en programas, la inclusión de todas las personas, de tal forma que se garantice la igualdad y se elimine cualquier posibilidad de sesgos. 
Los sistemas de IA deben garantizar la protección de los derechos fundamentales a partir de la incorporación de garantías de una alta calidad de los datos para minimizar los riesgos; el registro de las actividades para garantizar la trazabilidad; información clara y transparente del sistema de información y su fiabilidad; medidas de supervisión humana, y unos sistemas sólidos, seguros y precisos.

¹ Español, A., Tamayo, E., Gómez P., Mujica, M. (2021). MARCO ÉTICO PARA LA INTELIGENCIA ARTIFICIAL EN COLOMBIA. https://inteligenciaartificial.gov.co/static/img/MARCO_ETICO.pdf

² Ibidem

³ Ibidem

Doctor de la Universidad de Valencia, Profesor e investigador Universidad Católica, Consultor y Abogado IUSATIC.

Marco Emilio Sánchez es profesor, estudioso del derecho y las TIC. Doctor en Tecnologías y Servicios de la Sociedad de la Información línea Derecho y TIC, Magister en Ciberseguridad y Ciberdefensa Nacional.

Abogado, experto asesor y consultor en utilización de Tecnologías de la Información y las Comunicaciones y sus implicaciones jurídicas. Sus proyectos de transformación digital pasan por la comprensión de los derechos en el ciberespacio.

Autor de varias obras relacionadas con el Derecho y las Tecnologías. Actual Director de IUSATIC Abogados y Consultores.