El Supremo zanja que los algoritmos públicos deben ser transparentes en un fallo clave para la inteligencia artificial

Una sentencia clave para la era de la inteligencia artificial. El Tribunal Supremo ha dado la razón a la Fundación Ciudadana Civio en su batalla por conocer cómo funciona el algoritmo que decide qué hogares tienen derecho al bono social eléctrico, un fallo que crea jurisprudencia para los próximos casos relativos a la transparencia de estos sistemas de decisión automática, a las puertas de la era de la inteligencia artificial.

En una sentencia fechada el 11 de septiembre, la Sala de lo Contencioso-Administrativo condena a la Administración a entregar a la organización el código fuente de BOSCO, la aplicación informática desarrollada por el Ministerio para la Transición Ecológica para verificar los requisitos de los solicitantes.

“El derecho de acceso a la información pública adquiere especial relevancia ante los riesgos que entraña el uso de las nuevas tecnologías en el ejercicio de las potestades públicas o la prestación de servicios públicos”, indican los magistrados. “En estos casos debe conllevar exigencias de transparencia de los procesos informáticos”, continúan, “con el objeto de proporcionar a los ciudadanos la información necesaria para su comprensión y el conocimiento de su funcionamiento”.

El fallo cobra una importancia especial en un contexto en el que la inteligencia artificial empieza a incorporarse a la gestión pública. La decisión del Supremo no solo afecta a un caso concreto —el algoritmo que decide el bono social eléctrico—, sino que sienta un precedente para exigir transparencia en cualquier sistema automatizado que condicione derechos ciudadanos. En los albores de la era de la IA, el Tribunal advierte que estas herramientas no pueden permanecer opacos, “especialmente cuando tienen por objeto el reconocimiento de derechos sociales”.

La resolución, que corrige los fallos previos de la Audiencia Nacional y del Juzgado Central de lo Contencioso-Administrativo, establece como doctrina que el acceso a la información pública incluye el derecho a conocer el código fuente de los sistemas automatizados empleados por la Administración. El Supremo vincula esta transparencia con la defensa de los derechos fundamentales, recordando que los algoritmos influyen directamente en el reconocimiento de prestaciones sociales y no pueden operar como “cajas negras”.

El litigio comenzó en 2018, cuando Civio reclamó al Ministerio acceso al software. La petición fue denegada primero por el Consejo de Transparencia y después por los tribunales, que avalaron los argumentos del Gobierno sobre la propiedad intelectual y los riesgos para la seguridad pública. La Abogacía del Estado alegó que abrir el código de BOSCO podría facilitar que los ciberdelincuentes atacaran las posibles “vulnerabilidades” que este pudiera tener.

“Se podrían utilizar dichas vulnerabilidades para acceder a las bases de datos conectadas con la aplicación, que recogen datos especialmente protegidos, como la discapacidad o la condición de víctima de violencia de género del solicitante”, aseveraba un informe al respecto elaborado por el Centro Criptológico, encargado de la ciberseguridad de las administraciones públicas. “El conocimiento del código fuente aumenta el riesgo de que la explotación de las vulnerabilidades pueda afectar a la seguridad nacional, la seguridad pública o la seguridad de los administrados”, añadía.

En su sentencia, el Supremo ha tumbado ese argumento. “El límite de seguridad pública solo puede impedir el acceso a la información pública cuando ello se encuentre justificado y resulte proporcionado”, argumentan los magistrados, considerando que no puede cerrar el acceso al código informático de un algoritmo público como medida de seguridad general va en contra del derecho a la información.

“Aun cuando en abstracto el acceso al código fuente de un programa pudiera incrementar potencialmente algunos riesgos”, recuerdan, esa transparencia pueden llevar también “a la mejora del código y fortalecimiento de su seguridad”, puesto que “incentiva a la Administración a extremar las cautelas” y permite “su escrutinio por actores diversos e independientes permite aflorar vulnerabilidades inicialmente inadvertidas”.

“Un algoritmo no es un lápiz”, había defendido durante el proceso Eva Belmonte, codirectora de Civio, subrayando que la tecnología nunca es neutral y que su opacidad puede tener consecuencias directas sobre los derechos de los ciudadanos. Ahora, con este fallo, el alto tribunal abre la puerta a que más organizaciones puedan exigir acceso a los algoritmos públicos, en un momento en el que estas herramientas marcan cada vez más decisiones clave de la Administración.