Si un algoritmo de la Administración determina que tu empresa debe pagar una sanción, que no cumple los requisitos para una ayuda pública o que presenta un perfil de riesgo que justifica una inspección, tu empresa tiene derecho a saber cómo ha llegado el sistema a esa conclusión. Este derecho, conocido como transparencia algorítmica, ha sido recientemente reconocido de forma expresa por el Tribunal Supremo, y constituye una de las garantías más importantes frente al uso creciente de la inteligencia artificial en la actividad administrativa.
El problema de la «caja negra»
Los algoritmos de aprendizaje automático que utilizan cada vez más las Administraciones públicas se caracterizan, con frecuencia, por su opacidad: son sistemas tan complejos, y su funcionamiento evoluciona de tal manera a medida que procesan nuevos datos, que incluso quienes los diseñaron pueden tener dificultades para explicar con precisión por qué el sistema llegó a una conclusión concreta en un caso determinado. Por eso suele hablarse de estos sistemas como «cajas negras»: se conoce lo que entra y lo que sale, pero no siempre resulta sencillo explicar el proceso intermedio.
Esta opacidad puede tener causas legítimas —la protección de datos personales, la confidencialidad exigida por la legislación de contratos públicos, o la necesidad de evitar que se pueda «burlar» el sistema conociendo exactamente sus criterios— pero también puede derivar simplemente de la complejidad técnica del propio diseño. En cualquier caso, cuando esa opacidad afecta a una decisión que perjudica a tu empresa, entra en juego un principio jurídico específico que limita hasta dónde puede llegar esa reserva.
La transparencia algorítmica, reconocida por el Tribunal Supremo
En una sentencia especialmente relevante de 2025, dictada en el conocido como «asunto Bosco», el Tribunal Supremo ha afirmado expresamente la existencia de un principio de «transparencia algorítmica» que impone a las Administraciones públicas obligaciones de información pública para facilitar el acceso de los ciudadanos y las empresas, en mayor o menor medida, a las características fundamentales de los algoritmos empleados en la toma de decisiones, e incluso a su código fuente, como manifestación del principio constitucional de transparencia. Este pronunciamiento consolida una vía jurídica concreta para exigir información sobre el funcionamiento de los sistemas automatizados que afectan a la actividad empresarial.
En la práctica, esta transparencia debería traducirse en que las sedes electrónicas de las Administraciones públicas difundan la relación de actuaciones administrativas automatizadas vinculadas a sus servicios y procedimientos, junto con una descripción de su diseño y funcionamiento, los mecanismos de rendición de cuentas y los datos utilizados en su configuración. Cuando esta información no esté disponible de forma proactiva, tu empresa puede solicitarla ejerciendo su derecho de acceso a la información pública.
Explicar la decisión: más allá de la motivación tradicional
Además de la transparencia sobre el funcionamiento general del algoritmo, existe una exigencia adicional: la Administración debe explicar por qué ha adoptado una decisión automatizada concreta que afecta a tu empresa, indicando, por ejemplo, qué datos ha utilizado el sistema para llegar a esa conclusión en el caso particular. Esta exigencia de explicabilidad va más allá de la motivación tradicional exigida a cualquier acto administrativo —que se conforma habitualmente con una sucinta referencia a los hechos y al fundamento jurídico aplicado— y presenta, en la práctica, mayores dificultades técnicas cuando el sistema que ha generado la decisión es especialmente complejo.
Qué puede hacer tu empresa si sospecha que un algoritmo la ha perjudicado
Ante una decisión automatizada que tu empresa considera errónea o injustificada, conviene seguir varios pasos. En primer lugar, solicitar formalmente información sobre el funcionamiento del sistema que ha generado la decisión, invocando el derecho de acceso a la información pública y el principio de transparencia algorítmica reconocido por el Tribunal Supremo. En segundo lugar, exigir una explicación específica de por qué el sistema llegó a esa conclusión concreta en el caso de la empresa, más allá de la mera cita del precepto aplicado. Y, en tercer lugar, valorar si la falta de transparencia o de explicación suficiente puede constituir, en sí misma, un defecto de motivación capaz de fundamentar la anulación de la decisión.
Un derecho todavía en construcción
Conviene tener presente que se trata de una materia jurídica en pleno desarrollo, en la que la jurisprudencia y la normativa —tanto estatal como autonómica y europea, a través del Reglamento de Inteligencia Artificial— están todavía perfilando el alcance exacto de estas obligaciones de transparencia. Esto significa que, aunque el principio esté reconocido, su aplicación práctica frente a una Administración que se resiste a facilitar información puede requerir una defensa jurídica activa y bien fundamentada, incluyendo, si es necesario, la vía judicial.
Cómo te ayudamos desde LRB Tax & Legal
En LRB Tax & Legal formulamos solicitudes de acceso a la información sobre el funcionamiento de los sistemas algorítmicos que han generado decisiones administrativas desfavorables para nuestros clientes, y evaluamos si la falta de transparencia o de explicación suficiente puede fundamentar la impugnación de esas decisiones. Si tu empresa considera que una decisión automatizada le ha perjudicado sin explicación suficiente, contacta con nuestro equipo.