¿Cómo puede la legislación europea garantizar la transparencia en el oscuro campo de los algoritmos? Y ¿cómo regular estos mecanismos? Por Lucía Gallardo Muñoz.
Febrero de 2024 marca la plena entrada en vigor de la nueva Ley de Servicios Digitales (DSA, por sus siglas en inglés) de la UE. Este nuevo informe, Transparencia algorítmica y responsabilidad de los servicios digitales, del Observatorio Audiovisual Europeo y escrito por un equipo editorial del Instituto de Derecho Mediático Europeo de Saarbrücken, analiza este punto de inflexión en la forma en que los sistemas algorítmicos pueden hacerse más transparentes y responsables ante el usuario y, por tanto, regularse con éxito.
Os adjuntamos a continuación un pequeño resumen del informe con los puntos más destacables.
Tras la introducción, el capítulo dos examina la labor de establecimiento de normas en el ámbito de las buenas prácticas en materia de algoritmos llevada a cabo por el Consejo de Europa antes de la llegada de la ASD. Ya en 2017, el Consejo elaboró un estudio sobre el impacto de los algoritmos en los derechos humanos, así como las implicaciones normativas posteriores. Otro estudio del Consejo en 2019 se centró en la noción de responsabilidad y el ejercicio del poder digital sin responsabilidad a través de las tecnologías digitales avanzadas A raíz de ello, el Consejo de Europa emitió una serie de recomendaciones normativas durante el periodo 2020 – 2022. Entre ellas trataron temas como el impacto de los sistemas algorítmicos en los derechos humanos y las repercusiones de las tecnologías digitales en la libertad de expresión, por ejemplo. El Consejo trabaja actualmente en su «Convención sobre Inteligencia Artificial, Derechos Humanos, Democracia y Estado de Derecho«, aún en fase de redacción. El objetivo es que sea un Convenio abierto a la ratificación no sólo de los Estados miembros del Consejo de Europa, sino que vaya más allá y, por tanto, tenga el potencial de ser un primer acuerdo internacional de referencia sobre los principios fundamentales en relación con la IA.
El capítulo tres ofrece una visión general del marco regulador de la Unión Europea en materia de algoritmos. Dado que los valores fundamentales de la legislación de la UE son los derechos fundamentales y la transparencia, se puede entender fácilmente por qué los legisladores están interesados en los algoritmos. El Derecho derivado de la UE empezó a regularlos por primera vez en 2019 con el Reglamento sobre la plataforma a empresa (Reglamento P2B), así como con la Directiva modificada sobre derechos de los consumidores. El objetivo aquí era lograr la transparencia en relación con los sistemas de clasificación en línea (impulsados por algoritmos) de los productos que se ofrecen. La legislación de la UE relacionada con los medios de comunicación, como la Directiva de servicios de comunicación audiovisual, también se centra en los algoritmos utilizados, por ejemplo, por las plataformas de intercambio de vídeos. La AVMSD estipula que los PSV deben establecer sistemas de notificación «transparentes y fáciles de usar», sistemas para explicar cómo se tramitan las notificaciones, sistemas de verificación de la edad y de clasificación, así como «sistemas de control parental». A continuación, los autores avanzan rápidamente hacia la creación de una propuesta de Ley de AI de la UE. La propuesta pretende crear normas armonizadas para la comercialización, la puesta en servicio y el uso de los sistemas de IA en la UE. Por el momento, la aceptación provisional del texto redactado por el Coreper se hizo el 2 de febrero de 2024 y el documento se puso a disposición del público. Está previsto que la ley sea adoptada en abril de 2024 por el pleno del Parlamento Europeo y poco después por el Consejo, antes de que se publique en el Diario Oficial y sólo entonces pueda entrar en vigor.
El capítulo cuatro de este informe se centra en la nueva Ley de Servicios Digitales, legislación de la UE que entró plenamente en vigor en febrero de 2024. Uno de los principales pilares de la DSA es la transparencia, ya se trate de transparencia algorítmica o del riesgo de manipulación de contenidos, como de campañas de desinformación o deep fakes. La DSA también pretende minimizar los riesgos y regular el ámbito de los sistemas de recomendación que responden a sugerencias algorítmicas que proponen al usuario una jerarquía de productos u opciones. En este caso, la DSA introduce obligaciones adicionales de transparencia según las cuales los proveedores de plataformas en línea tienen que establecer en sus términos y condiciones los principales parámetros utilizados en sus sistemas de recomendación.
El quinto capítulo se centra en los avances fuera de Europa, así como los que se están produciendo en la legislación nacional. Los autores citan la labor de la OCDE en este ámbito. Ya en mayo de 2019, los países de la OCDE adoptaron en el Consejo de la OCDE la Recomendación sobre Inteligencia Artificial, que estableció la primera norma intergubernamental sobre IA y sirvió de base para los Principios de IA del G20. La UNESCO también publicó en 2023 un amplio conjunto de Directrices que abordan la gobernanza de las plataformas digitales y recomiendan medidas tanto para los Estados como para las propias plataformas, en cuestiones como la transparencia, la moderación de contenidos, la recopilación de datos, la publicidad dirigida y el intercambio, la clasificación y/o la eliminación de contenidos. A continuación, los autores examinan los países en los que se han introducido obligaciones relativas a las plataformas antes de la Ley de Inteligencia Artificial de la UE. Alemania, por ejemplo, tiene legislación en vigor desde 2020. El Tratado Interestatal sobre Medios de Comunicación alemán estipula que los usuarios de plataformas intermediarias deben poder entender por qué se les muestran determinados contenidos, por qué se presentan en el orden determinado y por qué no se muestran otros. En este capítulo también se describe la situación en el Reino Unido y Estados Unidos.
El sexto capítulo examina las estructuras institucionales y la supervisión, es decir, las autoridades encargadas de velar por el respeto de la legislación en este ámbito. En lo que respecta a la DSA, por ejemplo, un Consejo Europeo de Servicios Digitales de reciente creación reúne a representantes de todos los Estados miembros y la Comisión preside este grupo consultivo independiente con el fin de supervisar la transposición y el respeto. Para los Estados miembros de la UE, la situación está clara: además de la creación de una nueva arquitectura de vigilancia y gobernanza en relación con la Ley de IA, antes del 17 de febrero los Estados miembros tendrán que notificar a la Comisión qué autoridad u organismo nacional asumirá el papel de Coordinador de Servicios Digitales con arreglo a la DSA.
Los autores concluyen afirmando que «la transparencia por sí sola no cambia necesariamente las prácticas y los comportamientos, si no va acompañada de normas sobre cómo deben diseñarse los sistemas algorítmicos o cómo se prohíbe que se diseñen […] En ese sentido, serán decisivas las actividades de las autoridades y organismos encargados de supervisar el uso de sistemas algorítmicos, especialmente por parte de las plataformas».
Un glosario muy útil de terminología relacionada con los algoritmos completa este nuevo informe.
