El TJUE dictamina que los meros algoritmos pueden suponer «decisiones automatizadas», destacando la importancia de la transparencia y protección de datos ante la IA.
En un mundo cada vez más digitalizado, a menudo no somos conscientes de que, detrás de escenas cotidianas como la aprobación de un préstamo o la personalización de ofertas en línea, hay algoritmos trabajando silenciosamente.
A este respecto, la reciente sentencia del Tribunal de Justicia de la Unión Europea (TJUE) del 7 de diciembre de 2023 resuena con una relevancia particular, especialmente cuando se trata de decisiones automatizadas y cómo éstas afectan nuestras vidas.
El caso que nos ocupa gira en torno a SCHUFA Holding AG, una empresa alemana que genera calificaciones crediticias utilizando algoritmos. Un cliente, cuyo préstamo fue denegado basándose en estas calificaciones, solicitó a SCHUFA detalles sobre cómo se había calculado su puntaje. SCHUFA se negó a proporcionar información detallada, argumentando que ellos no eran los responsables directos de la decisión de crédito, sino simplemente un tercero que suministraba información a los bancos.
Este escenario planteó una cuestión crucial ante el tribunal alemán, que a su vez consultó al TJUE: ¿Deben considerarse las actividades de SCHUFA como «decisiones automatizadas» según el artículo 22 del Reglamento General de Protección de Datos (RGPD)? Dicho artículo intenta proteger a los individuos de los riesgos que pueden surgir de decisiones tomadas sin intervención humana significativa.
La sentencia del TJUE clarificó que la generación de un valor de probabilidad por SCHUFA constituye, en efecto, una «decisión automatizada» cuando este valor influye decisivamente en la decisión de un tercero, como un banco. Esto es significativo porque subraya que no solo quien toma la decisión final es responsable, sino también aquellos que procesan y generan los datos utilizados.
¿Qué significa esto para nosotros como ciudadanos? La decisión del TJUE nos recuerda que tenemos derecho a entender y cuestionar cómo se utilizan nuestros datos personales por parte de estos algoritmos, especialmente cuando estos tienen un impacto directo en decisiones críticas como la elegibilidad para un préstamo. Esto no solo afecta a nuestra capacidad de obtener crédito, sino que también plantea cuestiones más amplias sobre la equidad y la transparencia en la era digital.
En un tono más amplio, esta sentencia pone de relieve la importancia de una regulación adecuada en la era de la inteligencia artificial y los sistemas algorítmicos. A medida que nos acercamos a la implementación del futuro Reglamento de Inteligencia Artificial de la UE, la interacción de este con el RGPD será crucial, especialmente en lo que respecta a sistemas considerados de alto riesgo.
Estamos, sin duda, en un momento crucial. La tecnología avanza a pasos agigantados, y con ella, las maneras en que interactuamos con ella deben evolucionar. La decisión del TJUE no solo marca un precedente legal importante, sino que también nos invita a reflexionar sobre el poder y el impacto de los algoritmos en nuestras vidas. En esta nueva era, es fundamental que las garantías de protección de datos y los derechos individuales se mantengan firmes frente a la automatización avanzada.
La sentencia del TJUE es un recordatorio vital de que, en la intersección de la tecnología y la ley, nuestros derechos personales deben ser una prioridad. A medida que navegamos por este complejo panorama digital, es esencial estar informados y conscientes de cómo se utilizan nuestros datos y qué medidas podemos tomar para proteger nuestra privacidad y nuestros derechos fundamentales.
