Una victoria ciudadana que obliga al Estado a abrir sus algoritmos
En septiembre de 2025, el Tribunal Supremo español emitió una sentencia que puede considerarse fundacional en la historia de la inteligencia artificial pública: el Estado está obligado a revelar el código fuente del algoritmo BOSCO, utilizado para decidir quién accede al bono social eléctrico. Detrás de esta decisión no solo hay un caso legal ganado por la Fundación Civio, sino un precedente clave en materia de transparencia algorítmica en la administración pública.
El fallo establece que la transparencia algorítmica es un derecho constitucional, y que cuando un sistema automatizado tiene impacto directo sobre las personas, su funcionamiento debe ser auditable. La excusa de la “propiedad intelectual” o los supuestos riesgos de “seguridad nacional” ya no bastan. Lo que antes era opacidad ahora debe ser apertura.
Algoritmos que deciden, derechos que se diluyen
Durante años, el Gobierno español defendió que BOSCO era una simple calculadora. Sin embargo, la Agencia Española de Protección de Datos y posteriormente el Tribunal Supremo confirmaron lo contrario: BOSCO tomaba decisiones automáticas con efectos legales, sin revisión humana. Miles de solicitudes legítimas de ayuda fueron denegadas por un sistema no explicado. Y eso tiene nombre: vulneración de derechos.
La sentencia no solo obliga a entregar el código fuente, sino que sienta principios clave: que la transparencia es una medida de seguridad, que el software público no puede estar blindado por copyright, y que el control judicial sobre decisiones automatizadas solo es posible si el algoritmo es auditable. En otras palabras: sin transparencia algorítmica, no hay justicia.
¿Y ahora qué? Un nuevo modelo para la IA pública
España se convierte así en uno de los primeros países del mundo en consagrar judicialmente la obligación de transparencia sobre algoritmos públicos. La decisión alinea la legislación nacional con el nuevo Reglamento Europeo de Inteligencia Artificial y refuerza iniciativas como los registros de algoritmos en Barcelona y Valencia.
Esta resolución abre la puerta a que otros sistemas opacos como LEXNET o MINERVA —utilizados en el ámbito judicial— también deban rendir cuentas. Y más aún: la Administración está ahora moral y jurídicamente forzada a diseñar sus sistemas con criterios de “open source”, revisión externa y participación ciudadana desde su origen.
Europa se mueve: Países Bajos y Francia dan el ejemplo
El caso BOSCO no está solo. En los Países Bajos, tras el escándalo del “Toeslagenaffaire” —un sistema algorítmico que identificó erróneamente a miles de familias como fraudulentas— el Gobierno holandés creó un Registro Público de Algoritmos, donde se detallan los sistemas utilizados por la administración, su propósito y el nivel de intervención humana.
Francia, por su parte, ha incorporado requisitos de transparencia algorítmica en su código administrativo desde 2016, obligando a que cualquier decisión automatizada de la administración esté documentada y justificada. Esta medida ya ha permitido auditorías ciudadanas de algoritmos utilizados en educación y empleo.
Hacia una IA pública basada en derechos
Lo que estos países —y ahora España— están haciendo es construir las bases de una inteligencia artificial institucional que no solo sea eficiente, sino también ética, explicable y legítima. No se trata de frenar la innovación, sino de asegurar que esta ocurra dentro de un marco de garantías.
La creación del Centro Europeo para la Transparencia Algorítmica (ECAT), con sede en Sevilla, refuerza este enfoque a nivel continental. Su objetivo: garantizar que los algoritmos que se utilizan en Europa cumplan con principios de trazabilidad, supervisión humana y no discriminación.
El mensaje es claro: la IA pública no puede operar como una caja negra. Necesitamos un “human-in-the-loop” institucionalizado, registros abiertos y estándares comunes que permitan confiar en los sistemas que gestionan nuestros derechos.
No es solo código: es poder
La batalla por el acceso al código de BOSCO no es un tecnicismo. Es una lucha por el control democrático en la era de los algoritmos. La “caja negra” tecnológica ya no puede ser un refugio para decisiones públicas no justificadas. El precedente está claro: si un algoritmo decide sobre tus derechos, debes tener el derecho a entenderlo.
El fallo sobre BOSCO no ocurre en el vacío. Coincide con la aprobación del AI Act, la primera normativa europea que regula el uso de la inteligencia artificial y que considera de “alto riesgo” los sistemas aplicados en la administración pública para decidir sobre derechos sociales. Esta ley exige transparencia, explicabilidad y supervisión humana, pero el Tribunal Supremo español ha ido más allá: ha transformado esos principios en un derecho exigible.
La sentencia no es solo una cuestión técnica de acceso al código, sino una lucha por el control democrático en la era de los algoritmos. España no solo cumple con el AI Act, sino que se coloca en la vanguardia europea, dejando claro un mensaje: Debemos desde Europa transitar un camino -sin prisa pero sin pausa- de regulación necesaria para ir hacia una transparencia algorítmica de la inteligencia artificial pública, justa y democrática.
My Tech Plan es una agencia de eventos de innovación y tecnología que ayuda a empresas del sector tech a atraer talento, ganar visibilidad y acelerar su crecimiento. Lo hacemos a través de:
💠 Hackathons, meetups, conferencias y eventos corporativos a medida, que refuerzan el employer branding, posicionan la marca y generan conexiones estratégicas.
💠 Planes de comunicación con contenido enfocado en la creación y fidelización de comunidad, amplificando el impacto del evento antes, durante y después.
📊 +12 hackathons organizados | 6 años de experiencia en el sector tech europeo ¿Hablamos?
🚀 Somos creadoras del Gen AI Summit Europe evento líder en el sur de Europa que conecta a expertos en IA, innovación y tecnología en Valencia cada año en abril.
