Cuando un algoritmo decide por ti: el Supremo abre la caja negra del Estado

Por G. Espejo

La transparencia no es solo un principio político: es un derecho esencial para que la democracia funcione. Una reciente sentencia del Tribunal Supremo abre un debate crucial en la era digital: cuando un algoritmo toma decisiones que afectan a los ciudadanos, conocer cómo funciona puede ser tan importante como conocer la ley que lo respalda.

La transparencia no es una concesión amable de los gobiernos, ni una moda administrativa nacida con las leyes modernas de acceso a la información. En realidad, forma parte del corazón mismo del sistema democrático. En una democracia, el poder debe ser comprensible, revisable y, en última instancia, cuestionable por los ciudadanos. No basta con que las instituciones actúen: deben poder explicar cómo y por qué lo hacen.

Ese principio está profundamente conectado con derechos constitucionales básicos como la tutela judicial efectiva, la seguridad jurídica o el derecho de los ciudadanos a relacionarse con la administración de forma justa y comprensible. Cuando una decisión pública afecta a la vida de una persona —ya sea una sanción, una ayuda social o una evaluación administrativa— esa persona tiene derecho a entender los criterios que la han provocado.

Durante décadas ese principio se aplicó a documentos, expedientes o resoluciones firmadas por funcionarios. Sin embargo, la transformación digital del Estado está introduciendo un nuevo protagonista en la toma de decisiones: el algoritmo.

Cada vez más administraciones utilizan programas informáticos para analizar datos, aplicar criterios y tomar decisiones de manera automatizada. Estos sistemas prometen eficiencia, rapidez y una cierta apariencia de neutralidad matemática. Pero también introducen un problema nuevo: cuando las decisiones se toman dentro de un sistema informático cuyo funcionamiento nadie puede examinar, la transparencia se convierte en una promesa difícil de cumplir.

La reciente sentencia del Tribunal Supremo español sobre el caso del software BOSCO se sitúa precisamente en ese cruce entre tecnología y democracia.

El programa BOSCO fue utilizado por la administración para evaluar las solicitudes del bono social eléctrico, una ayuda destinada a hogares vulnerables. El sistema analizaba los datos de los solicitantes y determinaba si cumplían los requisitos para recibir el subsidio.

Sin embargo, pronto surgieron dudas. El número de beneficiarios resultó significativamente menor de lo esperado y algunas personas rechazadas comenzaron a preguntarse cómo estaba tomando decisiones el sistema. La Fundación Civio, una organización sin ánimo de lucro que lucha contra la opacidad en las administraciones públicas y a favor de la rendición de cuentas, solicitó entonces acceso al código fuente del programa para analizar su funcionamiento.

La respuesta de la administración fue negativa. El argumento era conocido: el software estaba protegido por derechos de autor y, por tanto, no podía hacerse público.

La cuestión parecía técnica, pero en realidad planteaba un dilema democrático de fondo. Si un programa informático decide quién tiene derecho a una ayuda social, ¿puede su funcionamiento permanecer completamente oculto?

El Tribunal Supremo ha respondido que no necesariamente. La sentencia reconoce que el acceso al código fuente puede ser necesario para verificar decisiones administrativas automatizadas y que los derechos de propiedad intelectual no pueden convertirse automáticamente en una barrera frente a la transparencia. Cuando un sistema informático influye en derechos sociales, la necesidad de rendición de cuentas puede exigir examinar cómo funciona.

Este fallo marca un precedente importante porque reconoce algo que durante años ha permanecido en un terreno ambiguo: los algoritmos también ejercen poder y todo poder en una democracia debe poder ser examinado.

El debate no es puramente teórico. Existen ejemplos reales que muestran hasta qué punto los algoritmos pueden afectar directamente a la vida de las personas. Uno de los más conocidos en España es el sistema RisCanvi, utilizado en Cataluña para evaluar el riesgo de reincidencia de personas privadas de libertad.

RisCanvi es una herramienta algorítmica diseñada para ayudar a las autoridades penitenciarias a tomar decisiones sobre permisos, clasificación penitenciaria o medidas de reinserción. En teoría, su objetivo es aportar criterios técnicos basados en datos para mejorar la evaluación del riesgo, sin embargo, el sistema ha sido objeto de críticas por parte de juristas, académicos y organizaciones de derechos civiles. El problema no es únicamente su existencia —la utilización de herramientas de apoyo a la decisión puede ser razonable— sino la opacidad que rodea su funcionamiento. Durante años, los criterios exactos utilizados por el algoritmo y su lógica interna han sido difíciles de examinar públicamente.

Y ahí aparece el mismo problema que en el caso BOSCO: cuando una herramienta tecnológica influye en decisiones que afectan a derechos fundamentales, la falta de transparencia se convierte en un riesgo democrático.

Los algoritmos no son neutrales por definición. Son el resultado de decisiones humanas: qué datos se utilizan, qué variables se consideran relevantes, cómo se ponderan los resultados o qué umbrales se establecen. Todo ello refleja elecciones de diseño que pueden tener consecuencias reales. Cuando esas elecciones permanecen ocultas, los ciudadanos quedan en una posición especialmente vulnerable. Pueden verse afectados por decisiones automatizadas sin tener acceso a los criterios que las han generado. La transparencia, en este contexto, no es un lujo académico ni una reivindicación tecnológica, es una condición necesaria para garantizar derechos.

Por eso la sentencia del Tribunal Supremo tiene una importancia que va más allá del caso concreto del bono social eléctrico. En realidad, establece un principio que probablemente será cada vez más relevante en los próximos años: la digitalización del Estado no puede convertirse en una excusa para reducir la transparencia democrática.

La administración puede y debe modernizarse. Los sistemas automatizados pueden mejorar procesos y facilitar la gestión pública. Pero esa eficiencia no puede lograrse a costa de crear sistemas de decisión opacos que escapen al escrutinio público.

La tecnología puede ayudar a gobernar mejor, pero no debe sustituir los principios que hacen posible el gobierno democrático.

Organizaciones como la Free Software Foundation Europe llevan tiempo defendiendo una idea que cobra especial sentido en este contexto: si el software se financia con dinero público, debería ser accesible al público. No solo por una cuestión de eficiencia tecnológica, sino porque el acceso al código permite auditar sistemas, detectar errores, corregir sesgos y mejorar su funcionamiento. En definitiva, permite que la tecnología que utiliza el Estado esté sometida al mismo control democrático que cualquier otra herramienta pública.

El fallo del Tribunal Supremo abre una puerta en esa dirección. No significa que todo el software de la administración vaya a hacerse público de inmediato, ni que desaparezcan los debates sobre seguridad o propiedad intelectual. Pero sí establece algo fundamental: esos argumentos no pueden utilizarse automáticamente para justificar la opacidad cuando están en juego derechos ciudadanos.

La democracia siempre ha exigido luz sobre el poder. Durante siglos esa luz se dirigió a documentos, decisiones políticas o actuaciones administrativas. Hoy debe dirigirse también hacia algo que cada vez influye más en nuestra vida pública: el código fuente de los programas. En la era digital, comprender cómo funciona un algoritmo puede ser tan importante como comprender cómo funciona una ley.