Conferencia: "La presión/integración regulatoria institucional en el ámbito digital".
Domingo Soares Farinho
Profesor Derecho Constitucional y Administrativo. Universidad de Lisboa
- Introducción
Con la entrada en vigor del Reglamento sobre Inteligencia Artificial, los Estados miembros de la Unión Europea tienen una pieza más en el ya complejo rompecabezas de la regulación digital.
Además de los desafíos de articular los regímenes sustantivos aplicables - protección de datos, plataformas en línea, inteligencia artificial -, hay otro nivel de articulación que plantea muchas cuestiones a las Administraciones Públicas de los Estados miembros: la integración institucional de la regulación pública sobre el sector digital.
En los próximos minutos quiero explicar los problemas que plantea la regulación pública de los sistemas de recomendación y moderación de contenidos en las plataformas online.
- Plataformas online y recomendación y moderación de contenidos
El corazón de las plataformas online son los sistemas de recomendación y moderación de conte-nidos.
A través del primer tipo de sistemas, las plataformas no sólo aseguran que los usuarios sigan re-gresando a las plataformas, en busca de más contenido similar a lo que buscan y les gusta, sino que también pueden mostrar a las empresas que quieren comprar publicidad o que quieran ven-der en la plataforma - en el caso de los Marketplaces - qué tan eficientes son. Pueden abarcar in-cluso los detalles más finos y la publicidad en las plataformas en línea puede orientarse en fun-ción de las características personales de sus usuarios.
El corazón de las plataformas online son los sistemas de recomendación y moderación de conte-nidos.
A través del segundo tipo de sistemas -moderación de contenidos- la plataforma persigue el mismo objetivo, conseguir que todos los usuarios sigan un estándar mínimo de conducta que ga-rantice la convivencia en la plataforma y no provoque el rechazo de los usuarios y compradores a la publicidad.
Sin recomendación y moderación de contenidos, el modelo de negocio de las plataformas onli-ne, desde las redes sociales hasta los mercados, sería inexistente o, al menos, muy, muy diferen-te.
- Recomendación y moderación de contenidos algorítmica
La enorme cantidad de usuarios que atraen las plataformas en línea hace que sea casi imposible que todas las recomendaciones y moderación de contenidos sean realizadas únicamente por seres humanos. Por eso, en los últimos años hemos visto una creciente recomendación y moderación algorítmica de contenidos. Ya es muy raro que las recomendaciones de contenido sean realiza-das por humanos y también muy raro que la primera línea de moderación sea realizada por hu-manos. Por regla general, en estos casos es un algoritmo el que realiza estas acciones, ya sea en una red social o en un mercado.
- Recomendación y moderación de contenidos algorítmica y datos personales
Finalmente, también es imposible que las actividades algorítmicas de recomendación y modera-ción de contenidos no impliquen, de alguna manera, el tratamiento de datos personales. De he-cho, para que el algoritmo pueda recomendar contenido para un determinado usuario, necesita datos sobre ese usuario -datos personales- y para poder moderar el contenido de un usuario, de-be entrar en contacto con datos del usuario -más personales-. datos. Incluso se puede decir que la principal categoría de datos personales utilizados en la recomendación y moderación de con-tenidos es la categoría compuesta por datos personales.
- Reglamento General de Protección de Datos, Reglamento de Servicios Digitales y Reglamen-to de Inteligencia Artificial: una encrucijada regulatoria
La actividad de recomendación y moderación algorítmica de datos personales en una plataforma en línea es actualmente objeto de una regulación pública muy fuerte en los Estados miembros de la Unión Europea, siendo las Administraciones Públicas de estos Estados miembros las principa-les tareas regulatorias.
Los tres diplomas jurídicos de la UE que regulan esta materia forman un auténtico cruce jurídico que da como resultado el régimen jurídico aplicable a esta actividad realizada las 24 horas del día los 365 días de la semana en todas las redes sociales y mercados que utilizamos en nuestra vida diaria. Estos Reglamentos asignan a las Administraciones Públicas un amplio conjunto de tareas normativas que deben ser armonizadas, al proceder de titulaciones con objetivos similares pero distintos. Esto implica que las Administraciones Públicas no sólo estén armonizadas en cuanto a la legislación material a aplicar, sino que estén preparadas digitalmente para afrontar las exigencias que generan las tareas regulatorias.
Se requiere una verdadera transformación digital no sólo en la forma en que operan los regulado-res digitales, existentes o de nueva creación, sino también nuevos modos de cooperación digital que permitan a los distintos reguladores administrativos que tienen responsabilidades en estos campos continuar su actividad sin conflictos, positivos y negativos, de competencia. En lo que resta de esta sesión daré algunos ejemplos de transformaciones digitales que pueden ayudar a las Administraciones Públicas a regular mejor el espacio digital y la recomendación algorítmica y moderación de contenidos mediante el tratamiento de datos personales, en el marco de los tres Reglamentos mencionados.
Para ello, es necesario presentar, de forma muy actual, los principales regímenes que recaen, en cada uno de los tres Reglamentos, en la recomendación y moderación algorítmica de contenidos relativos a datos personales.
5.1. El Reglamento de Servicios Digitales
El Reglamento de Servicios Digitales establece un conjunto de deberes para las plataformas en línea, en materia de recomendación y moderación algorítmica de contenidos. En primer lugar, en cuanto a las recomendaciones, es necesario dar a conocer el uso de algoritmos y el tipo de mode-ración que realizan. Además, para las grandes plataformas (+45 millones de usuarios en la UE) es necesario evaluar cómo estos algoritmos de moderación pueden tener un impacto sistémico en áreas como la salud pública, la seguridad nacional y los derechos fundamentales. En cuanto a las recomendaciones, también existen normas de transparencia, por lo que es necesario explicar có-mo funcionan estos sistemas y, en el caso de grandes plataformas, ofrecer a los usuarios la posi-bilidad de renunciar a las recomendaciones algorítmicas. En cualquier caso, se permite tanto la moderación como la recomendación algorítmica de contenidos.
5.2. El Reglamento de Inteligencia Artificial
Este Reglamento plantea inmediatamente la cuestión de si es aplicable a los sistemas de recomendación y moderación de los que he estado hablando. Admitiendo que sí, entra-rían en el capítulo dedicado a la IA generativa, que generalmente utilizan las plataformas online para moderar y recomendar contenidos, especialmente en los motores de búsque-da. Pero el régimen previsto en este capítulo es únicamente el de deberes de transparen-cia e información sobre estos sistemas y, por tanto, tampoco está prohibida la moderación y recomendación de contenidos, el uso de datos personales y a través de IA.
5.3. El Reglamento General sobre Protección de Datos Personales
Curiosamente, es el Reglamento más antiguo analizado el que establece, en lo que respec-ta al "tratamiento automatizado de datos personales", el deber/derecho más fuerte en esta materia, al prever el derecho de los interesados a no ser objeto de tratamiento. informa-ción personal exclusivamente a través de medios automatizados y que puedan tener efec-tos en su ámbito legal, tales como normas sobre plataformas en línea. Existen excepcio-nes, como el consentimiento, pero en todo caso sujetas a la necesidad de aplicar medidas para salvaguardar los derechos de los interesados.
- Presión/integración institucional
Los tres Reglamentos citados prevén una larga lista de reguladores públicos que convo-can una compleja Administración Pública de los Estados miembros y de la Unión. Como esto:
- según el RGPD: existe una autoridad nacional de protección de datos y, a nivel de la Unión, el Consejo Europeo de Protección de Datos
- en el ámbito de la DSA: existe un Coordinador de Servicios Digitales en cada Estado miembro (en España, la Comisión Nacional de los Mercados y la Competencia (CNMC) y la Comisión Europea asume, de forma pionera, funciones regulatorias en materia de plataformas muy grandes.
- en el ámbito del Reglamento de IA: existe al menos una autoridad de control a nivel nacional (y la Comisión, a través del AI Workshop, también ejerce funciones regulatorias sobre la IA generativa, entre otras funciones).
Todas estas entidades deben cooperar siempre que surja un problema con la recomenda-ción y moderación algorítmica de contenido en plataformas online. ¿Como?
- El paso más importante es la integración digital de los trámites, ya sean horizontales o verticales, a partir de la experiencia ya lograda con el RGPD.
Las distintas entidades supervisoras de los 3 Reglamentos deberán, en el ámbito de la red que constituyen, integrar digitalmente los procedimientos regulatorios para llevar a cabo una regulación integrada, sin perjuicio de sus propios ámbitos de competencia.
- La regulación digital integrada no sólo debe integrarse en términos de procedimiento, permitiendo un cruce de procedimientos de instrucción -donde las habilidades técnicas compartidas son fundamentales para una buena regulación e impedir que los regulados utilicen los diversos regímenes a los que están sujetos- para encontrar "terrenos regulato-rios sin competencia", pero debe integrarse con los actos reglamentarios publicados para evitar contradicciones. Esto ya está sucediendo hoy en el ámbito de la protección de da-tos, no sólo entre las autoridades nacionales, sino entre el Consejo Europeo de Protección de Datos y el Supervisor Europeo de Protección de Datos (este último que sólo regula las instituciones de la UE).
Aquí es necesario, más que generalizar la "ventanilla única", crear "documentos de caché único", es decir, documentos que sean elaborados conjuntamente por todos los regulado-res sectoriales que tienen poderes sobre recomendación y moderación de contenidos al-gorítmicos. para garantizar que una regulación integrada signifique una única voz regula-dora.
- El nivel de integración regulatoria institucional que se requiere cruzando las tres nor-mativas que venimos analizando sólo es posible en Administraciones Públicas (nacionales y comunitarias) que sean digitalmente capaces, tanto a nivel humano como técnica y pro-cedimentalmente sofisticadas. Esto requiere una transformación a nivel de procedimien-tos, formación y evaluación, pero también de filosofías regulatorias, que combatan los si-los.
La respuesta al enorme poder de las Big Tech y su capacidad para influir y dañar áreas importantes de nuestra vida comunitaria se ha dado en Europa a través de instrumentos legislativos regulatorios de gran complejidad. Esta complejidad sólo no producirá pési-mos resultados para las empresas y los ciudadanos si las Administraciones Públicas están digitalmente a la par de las Big Tech que regulan. Esto implica transformaciones técnicas, humanas y jurídicas cuyo denominador común es la digitalización. En el ámbito jurídico, esto tiene que significar saber cómo crear reglas que puedan hacer uso del entorno digital al que se aplicarán.
Domingos Soares Farinho, profesor Derecho Constitucional y Administrativo. Universidad de Lisboa
