Cuando la Administración decide con inteligencia artificial: exigencias de motivación y explicabilidad

PALABRAS CLAVE: acto administrativo electrónico, motivación, requisitos de validez del acto administrativo, inteligencia artificial, automatización administrativa, explicabilidad algorítmica.

Introducción

Es altamente probable que quienes nos lean hayan utilizado inteligencia artificial (“IA”), al menos, una vez en sus vidas. Incluso, muchos podrían considerarse diestros en su uso. Sin embargo, ¿cuántos podríamos afirmar con certeza cómo funciona realmente la IA? Es decir, ¿conocemos el funcionamiento técnico que hay detrás?

Esta es una pregunta que pareciera carecer de importancia para el uso cotidiano de la IA, pero que representa una garantía esencial cuando esta tecnología es utilizada por parte de la Administración Pública para la emisión de decisiones. En el presente artículo, desarrollaremos la postura de que la explicación del funcionamiento de las tecnologías utilizadas para la elaboración del contenido de actos administrativos forma parte del deber de motivación.

Con este propósito, analizaremos, en primer lugar, la naturaleza jurídica y las características de los actos administrativos elaborados mediante IA (actos administrativos electrónicos); seguidamente, abordaremos el deber de motivación como garantía del debido procedimiento administrativo; y, finalmente, analizaremos las exigencias adicionales que plantea el uso de la IA en relación con la motivación de los actos administrativos elaborados mediante el uso de esta tecnología, con especial énfasis en el principio de explicabilidad. 

Actos administrativos electrónicos

Los actos administrativos “tradicionales” son definidos por nuestra Ley del Procedimiento Administrativo General (“LPAG”) como las declaraciones de voluntad de las entidades de la Administración Pública que, en el ejercicio del derecho pública, producen efectos jurídicos sobre derechos, obligaciones o intereses de los administrados en situaciones concretas.

La doctrina concuerda en que los actos administrativos electrónicos se diferencian de los “tradicionales” porque se utilizan medios tecnológicos para su elaboración y/o emisión. Al respecto, Morón Urbina ha señalado que los actos administrativos electrónicos son aquellos emitidos por medios informáticos, siendo que su existencia y validez jurídica recae en dicho medio.

Pereyra Burghi concuerda en que estos actos se caracterizan por emplear sistemas virtuales -entre ellas, IA- en cualquiera de sus fases de formación. En la misma línea, Ibañez Parra y Rincón Cárdenas han definido “acto administrativo electrónico” como una “declaración de voluntad, de juicio o de conocimiento de rango sublegal, realizada y emitida por la Administración pública mediante el uso de medios técnicos electrónicos o informáticos en el ejercicio de una potestad administrativa”.

Morón Urbina y Pereyra Burghi establecen una clasificación de actos administrativos electrónicos basada en el grado de ausencia de intervención humana: (i) sincrónicos o semiautomatizados; y, (ii) automáticos o automatizados. 

Por un lado, los actos administrativos sincrónicos o semiautomatizados se caracterizan por ser elaborados y/o emitidos mediante un uso parcial de tecnologías. Es decir, la tecnología es utilizada por parte de un funcionario publico como herramienta para la emisión y/o elaboración de actos administrativos. Por otro lado, los actos automáticos o automatizados son aquellos en los cuales no existe intervención humana en su elaboración y/o emisión, dejando esta tarea íntegramente a una tecnología determinada. 

En ese sentido, los actos administrativos electrónicos son declaraciones de las entidades de la Administración Pública que, emitidas en ejercicio de normas de derecho público mediante el uso total o parcial de tecnologías, producen efectos jurídicos sobre los derechos, las obligaciones o los intereses de los administrados en situaciones concretas.

La motivación de los actos administrativos 

La motivación constituye, a la vez, un derecho de los administrados y un deber de las entidades públicas, derivado del principio del debido procedimiento reconocido en la LPAG. Asimismo, es un requisito de validez del acto administrativo, cuyo incumplimiento puede determinar su nulidad.

En cuanto al contenido, la LPAG señala que “[l]a motivación debe ser expresa, mediante una relación concreta y directa de los hechos probados relevantes del caso específico, y la exposición de las razones jurídicas y normativas que con referencia directa a los anteriores justifican el acto adoptado.”

El Tribunal Constitucional ha precisado que la motivación de los actos administrativos exige identificar las normas aplicables al caso en concreto, así como la exposición de las razones de hecho y el fundamento lógico-jurídico de la decisión. Por tanto, no basta con enumerar hechos y normas, sino que es necesario desarrollar el razonamiento que justifica la solución adoptada en el caso concreto.

Por lo tanto, la motivación reviste especial importancia porque constituye un requisito sustancial y formal del acto administrativo y, a la vez, una garantía frente a la arbitrariedad de la Administración Pública. Al exteriorizar las razones que sustentan la decisión, permite evaluar su legitimidad y controlar el ejercicio de la potestad administrativa.

El principio de explicabilidad como parte de la motivación de los actos administrativos electrónicos

La motivación de los actos administrativos implica el desarrollo de los argumentos de hecho y derecho que sustentan una decisión en un caso concreto. Sin embargo, este contenido no fue pensado en la posibilidad de que estos actos pudieran ser elaborados y/o emitidos con el uso de IA, supuesto en el cual consideramos se debe reforzar el contenido de motivación, atendiendo a la especial complejidad de este tipo de tecnologías. 

En primer lugar, el desarrollo jurídico como parte de la motivación de los actos administrativos electrónicos debe incluir la habilitación normativa para que la entidad haga uso de IA para la elaboración y/o emisión de sus decisiones. Sobre el particular, Martín Delgado ha señalado que la posibilidad de la actividad de las entidades por medios electrónicos debe estar prevista y autorizada con carácter previo.  

En segundo lugar, la motivación debe incluir el detalle de qué IA ha sido utilizada para emitir el acto en concreto, el nivel de su uso, así como si esta tecnología es de creación propia de la entidad o si, por el contrario, es provista por parte de un proveedor externo.

En tercer lugar, la motivación debe explicar el funcionamiento técnico y práctico de la IA utilizada, así como el proceso mediante el cual esta contribuyó a la adopción de la decisión. La doctrina ha denominado a esta exigencia como el principio de explicabilidad.

En relación con este principio, Ricardo Muñoz, citando a Juárez Freitas, precisa que la explicabilidad no implica únicamente transparentar los pasos lógicos que conforman la decisión inteligente, sino también proporcionar información sencilla del funcionamiento del algoritmo inteligente, la finalidad de éste y los datos que se utilizan para la emisión de posibles determinaciones.

En la misma línea, autores como Criado y de Zárate Alcarazo coinciden en que la explicación del funcionamiento de la IA debe ser lo suficientemente precisa y sencilla como para que cualquier administrado, sin conocimientos especializados, pueda comprenderla. No se cumple con el deber de motivación si es que la explicación del funcionamiento de la IA empleada se realiza en términos altamente complejos y especializados.

Por último, la Carta Iberoamericana de Inteligencia Artificial en la Administración Pública, aprobada por el Centro Latinoamericano de Administración para el Desarrollo, reconoce la explicabilidad como principio orientador del uso de la IA en el sector público. Este principio exige informar a las personas cuando interactúan con estos sistemas, permitirles comprender sus resultados y los algoritmos que los sustentan, y garantizar que puedan impugnar sus efectos mediante información accesible, comprensible y trazable durante todo su ciclo de vida.

En virtud de lo anterior, consideramos que el contenido de la motivación de los actos administrativos electrónicos debe abarcar lo siguiente: (i) fundamentos de hecho; (ii) fundamentos de derecho; (iii) base legal habilitante para el uso de IA; (iv) información detallada sobre las tecnologías utilizadas, incluyendo si el mismo fue creado por parte de la misma Administración Pública o ha sido contratada por un tercero; y, (v) funcionamiento de la tecnología empleada, a nivel técnico y práctico (principio de explicabilidad).

Conclusiones

Los actos administrativos electrónicos conservan la naturaleza jurídica y los requisitos de validez propios de todo acto administrativo, aunque se distinguen por el empleo total o parcial de tecnologías en su elaboración y/o emisión. Estas pueden servir de apoyo a la actuación humana -del funcionario público- o intervenir mediante procesos automatizados; sin embargo, en ambos supuestos, su utilización no reduce ni sustituye el deber de motivación de la Administración Pública.

Por el contrario, la complejidad y la posible opacidad de la IA exigen reforzar la exposición de las razones que sustentan la decisión. En ese contexto, la motivación debe acreditar la habilitación normativa para emplear esta tecnología e identificar el sistema utilizado, su grado de intervención y su procedencia, señalando si fue desarrollado por la propia entidad o suministrado por un tercero.

A estas exigencias se suma el principio de explicabilidad, que integra el contenido del deber de motivación cuando la IA incide en la decisión administrativa. Su cumplimiento requiere exponer, en términos accesibles, el funcionamiento técnico y práctico del sistema, los datos y criterios relevantes, la finalidad perseguida y la lógica mediante la cual sus resultados contribuyeron a la decisión. Por ello, una explicación meramente técnica o ininteligible no satisface este deber.

En consecuencia, la motivación de los actos administrativos electrónicos debe permitir al administrado comprender cómo intervino la IA, reconstruir el proceso decisorio y cuestionar sus resultados. Esta exigencia no solo facilita el control de la actuación administrativa, sino que también garantiza el derecho de defensa y evita que la incorporación de nuevas tecnologías se convierta en una fuente de arbitrariedad.

En definitiva, el uso de IA en la elaboración y/o emisión de actos administrativos solo será compatible con el debido procedimiento si está acompañado de una motivación suficiente, comprensible y trazable. Solo así la innovación tecnológica podrá contribuir a una Administración Pública más eficiente sin menoscabar la interdicción de la arbitrariedad ni la posibilidad real de impugnar las decisiones que afecten los derechos o intereses de los administrados.

Bibliografía

Criado, J. I. (2021). Inteligencia artificial (y Administración pública). Eunomía. Revista en Cultura de la Legalidad, 20, 348–372. https://doi.org/10.20318/eu-nomia.2021.6097

De Zárate Alcarazo, L. O. (2022). Explicabilidad (de la inteligencia artificial). Eunomía. Revista en Cultura de la Legalidad, 22, 328-344. https://doi.org/10.20318/eunomia.2022.6819 

Ibáñez Parra, O., & Rincón Cárdenas, E. (s. f.). El acto administrativo electrónico y las nuevas tecnologías de la información. Universidad Sergio Arboleda. https://repository.usergioarboleda.edu.co/bitstream/handle/11232/257/CienciasSocialesyHumanas471.pdf 

Martín Delgado, I. (2009). Naturaleza, concepto y régimen jurídico de la actuación administrativa automatizada. Revista de Administración Pública, 180, 353–386.

Morón Urbina, J. C. (2023). Comentarios a la Ley del Procedimiento Administrativo General (17.ª ed., t. I). Gaceta Jurídica

Muñoz, R. A. (2022). El control judicial de la actividad administrativa automatizada, 235-245).

Pereyra Burghi, F. (2026). Vicios de los actos administrativos dictados con inteligencia artificial: Perspectiva uruguaya y derecho comparado. En J. Rodríguez-Arana Muñoz (Dir.) & M. C. Rodríguez Martín-Retortillo (Subdir.), Nuevas tecnologías y derecho administrativo: La encrucijada del siglo XXI. Actas de las XVII Jornadas Prof. Meilán Gil de Derecho Administrativo Iberoamericano (Pazo de Mariñán) (p. 660). Colex