Una resolución generada por un algoritmo tiene, en principio, la misma fuerza jurídica que cualquier otro acto administrativo: es plenamente recurrible, y su origen automatizado no reduce en absoluto las garantías de tu empresa. Sin embargo, la naturaleza técnica de estas decisiones plantea retos específicos a la hora de identificar al responsable, entender el razonamiento seguido y construir una defensa eficaz. Conocer las herramientas de supervisión y control que exige la ley es el primer paso para reaccionar con éxito frente a una decisión automatizada que consideras injusta.
Quién responde de una decisión sin firma humana
Uno de los aspectos que la ley exige resolver con carácter previo, antes incluso de poner en marcha cualquier sistema de actuación automatizada, es la identificación clara de los órganos responsables en tres momentos distintos: el órgano competente para definir las especificaciones técnicas y la programación del sistema, el órgano encargado de realizar el seguimiento de su funcionamiento —mantenimiento, supervisión, control de calidad y, en su caso, auditoría del código fuente—, y, de manera especialmente relevante para tu empresa, el órgano que será considerado responsable a efectos de impugnación.
Esta exigencia legal es una garantía fundamental: significa que, aunque la decisión concreta haya sido generada sin intervención humana directa, siempre debe existir un órgano administrativo identificable frente al que dirigir el recurso, con plena responsabilidad sobre el contenido de la decisión adoptada por el sistema. Si tu empresa recibe una resolución automatizada, el primer paso práctico es verificar que consta con claridad cuál es ese órgano responsable a efectos de recurso; su ausencia o indeterminación puede constituir, en sí misma, un defecto formal invocable.
La supervisión humana como garantía estructural
Más allá del caso individual, la ley exige que la actuación automatizada esté sometida a supervisión humana en distintos momentos: con carácter previo, en el diseño del algoritmo y sus especificaciones técnicas; durante su funcionamiento, mediante el seguimiento continuado de su desempeño; y con carácter posterior, en el control de las decisiones concretas que se van adoptando. Esta arquitectura de supervisión es la que, en teoría, debe permitir detectar y corregir errores sistemáticos antes de que generen un perjuicio generalizado a un número elevado de empresas y ciudadanos.
A nivel institucional, la creación de la Agencia Española de Supervisión de la Inteligencia Artificial —con sede en A Coruña, dotada de personalidad jurídica propia e independencia orgánica y funcional— refuerza este sistema de control, con la finalidad específica de minimizar los riesgos que el uso de la inteligencia artificial puede suponer para la seguridad, la salud y los derechos fundamentales, incluida la supervisión de sistemas que puedan implicar riesgos significativos en su puesta en marcha o comercialización.
Las vías de recurso disponibles
Frente a una decisión automatizada que perjudica a tu empresa, las vías de reacción son, en esencia, las mismas que frente a cualquier acto administrativo: el recurso administrativo ordinario (alzada o reposición, según proceda) y, en última instancia, el recurso contencioso-administrativo ante los tribunales. Lo que cambia no es tanto la vía formal como el contenido de los argumentos que conviene esgrimir: además de los motivos de fondo habituales, resulta especialmente pertinente invocar defectos específicos de la actuación automatizada, como la falta de identificación del órgano responsable, la insuficiente explicación de los criterios seguidos por el sistema, indicios de sesgo discriminatorio, o el uso de la automatización íntegra en una materia que, por su naturaleza discrecional y su necesidad de valoración jurídica compleja, debería haber contado con intervención humana directa.
Un reto práctico real en esta materia es que los propios órganos de revisión —tanto administrativos como judiciales— no siempre cuentan todavía con los conocimientos técnicos necesarios para enjuiciar adecuadamente el funcionamiento de un sistema algorítmico complejo. Por eso, en recursos de esta naturaleza, resulta especialmente valioso aportar un análisis técnico-jurídico detallado que explique con claridad, en términos comprensibles, por qué el sistema concreto ha podido incurrir en un error o una irregularidad.
La reserva de humanidad: un argumento en construcción
Un argumento jurídico de creciente relevancia es el de la llamada «reserva de humanidad»: la idea de que ciertas decisiones, especialmente aquellas que implican el ejercicio de potestades discrecionales o valoraciones jurídicas complejas, no deberían adoptarse de forma íntegramente automatizada sin intervención humana. Aunque no existe todavía una regla general y uniforme en todo el territorio español —algunas comunidades autónomas ya han incorporado esta limitación expresamente en su normativa, mientras que otras no lo han hecho—, se trata de un argumento cada vez más consolidado que puede resultar decisivo si la decisión automatizada que afecta a tu empresa entraña, en realidad, una valoración subjetiva de circunstancias o una interpretación jurídica que un algoritmo, por definición, no puede realizar con las garantías propias del razonamiento jurídico humano.
Cómo te ayudamos desde LRB Tax & Legal
En LRB Tax & Legal preparamos recursos contra decisiones administrativas automatizadas, identificando tanto los defectos de fondo como las irregularidades específicas del proceso de automatización —falta de identificación del órgano responsable, ausencia de supervisión humana adecuada, sesgos o falta de transparencia— para maximizar las posibilidades de éxito de la impugnación. Si tu empresa ha recibido una resolución generada por un sistema automatizado y considera que le perjudica injustamente, contacta con nuestro equipo.
Sigue leyendo sobre actuación automatizada
- Actuación administrativa automatizada: qué es y cómo puede afectar a las decisiones que recibe tu empresa
- Transparencia algorítmica: el derecho de tu empresa a conocer cómo decide un algoritmo de la Administración
- Sesgos algorítmicos y protección de datos: riesgos de la inteligencia artificial administrativa para tu empresa