El principio de presunción de falibilidad de las decisiones algorítmicas desfavorables
Una nueva garantía jurídica frente a las decisiones automatizadas y el uso de sistemas de inteligencia artificial en la Administración Pública
DOI:
https://doi.org/10.71296/raap.9Palabras clave:
presunción de falibilidad, inteligencia artificial, decisiones administrativas automatizadas, aprendizaje automático, garantías del ciudadano, derecho administrativoResumen
El presente artículo tiene por objeto el planteamiento de una nueva garantía dirigida a reforzar la protección jurídica del administrado en procedimientos administrativos donde existan actuaciones administrativas automatizadas y/o se empleen sistemas de inteligencia artificial para la toma de decisiones. En la primera parte del trabajo se exponen los conceptos básicos del aprendizaje automático supervisado y no supervisado, analizándose, asimismo, los óbices jurídicos que impiden su uso en determinadas parcelas del poder administrativo. A continuación, se desarrolla el principio de presunción de falibilidad de las decisiones algorítmicas desfavorables como técnica de supervisión humana en orden a facilitar la implementación de tecnologías emergentes en la Administración, a la vez que se respetan los derechos e intereses legítimos de los ciudadanos. Finalmente se realiza una breve reflexión acerca de la importancia de la labor doctrinal en este campo, incidiendo en la necesidad de remodelar la arquitectura de una Administración anquilosada.
Descargas
Citas
Álvarez García, Vicente (1999): La normalización industrial, 1ª ed., Valencia, Universitat de València.
Álvarez García, Vicente (2010): Industria, 1ª ed., Madrid, Iustel.
Álvarez García, Vicente (2020): Las normas técnicas armonizadas:(Una peculiar fuente del Derecho europeo), 1ª ed., Madrid, Iustel.
Álvarez García, Vicente (2022): «La problemática de la publicidad oficial de las normas técnicas de origen privado que despliegan efectos jurídico-públicos», Revista de Derecho Comunitario Europeo, 72, pp. 449-482. https://doi.org/10.18042/cepc/rdce.72.06 DOI: https://doi.org/10.18042/cepc/rdce.72.06
Barr io Andrés, Moisés (2022): «Inteligencia artificial: origen, concepto, mito y realidad», El Cronista del Estado Social y Democrático de Derecho, 100, pp. 14-21.
Boix Palop, Andrés (2020): «Los algoritmos son reglamentos: La necesidad de extender las garantías propias de las normas reglamentarias a los programas empleados por la Administración para la adopción de decisiones», Revista de Derecho Público: Teoría y Método, 1, pp. 223-270. https://doi.org/10.37417/RPD/vol_1_2020_33 DOI: https://doi.org/10.37417/RPD/vol_1_2020_33
Boix Palop, Andrés (2022): «Transparencia en la utilización de inteligencia artificial por parte de la Administración», El Cronista del Estado Social y Democrático de Derecho, 100, pp. 90-105.
Cerr illo i Martínez, Agustí (2019): «El impacto de la inteligencia artificial en el derecho administrativo, ¿nuevos conceptos para nuevas realidades técnicas?», Revista General de Derecho Administrativo, 50.
Cerr illo i Martínez, Agustí (2020): «¿Son fiables las decisiones de las Administraciones públicas adoptadas por algoritmos?», European review of digital administration & law, 1.1, pp. 18-36.
Cotino Hueso, Lorenzo (2019): «Riesgos e impactos del Big Data, la inteligencia artificial y la robótica: enfoques, modelos y principios de la respuesta del derecho», Revista general de Derecho administrativo, 50, pp. 1-37.
Cotino Hueso, Lorenzo (2020): «SyRI, ¿a quién sanciono? Garantías frente al uso de inteligencia artificial y decisiones automatizadas en el sector público y la sentencia holandesa de febrero de 2020», La Ley Privacidad, 4.
Cotino Hueso, Lorenzo (2022): «Transparencia y explicabilidad de la inteligencia artificial y "compañía" (comunicación, interpretabilidad, inteligibilidad, auditabilidad, testabilidad, comprobabilidad, simulabilidad…). Para qué, para quién y cuánta», en Cotino Hueso Lorenzo y Jorge Castellanos Claramunt (eds.), Transparencia y explicabilidad de la inteligencia artificial, Tirant lo Blanch, pp. 29-70.
Cotino Hueso, Lorenzo (2023): «Los requisitos del Tribunal Constitucional alemán para el análisis automatizado de datos o con inteligencia artificial, que no se cumplen en España», blog de la Revista Catalana de Dret Públic.
Domingos, Pedro (2015): The master algorithm: How the quest for the ultimate learning machine will remake our world, Nueva York, Basic Books.
Fuertes, Mercedes (2022): «Reflexiones ante la acelerada automatización de actuaciones administrativas», Revista Jurídica de Asturias, 45, pp. 105-124.
Gamero Casado, Eduardo (2021): «Necesidad de motivación e invalidez de los actos administrativos sustentados en inteligencia artificial o algoritmos», Almacén de Derecho, 4.
García de Enterr ía, Eduardo (1962): «La lucha contra las inmunidades del poder en el derecho administrativo (poderes discrecionales, poderes de gobierno, poderes normativos)» Revista de administración pública, 38, pp. 159-208.
Huergo Lora, Alejandro y Díaz González, Gustavo Manuel (2020): La regulación de los algoritmos, 1ª ed., Aranzadi.
Huergo Lora, Alejandro y Díaz González, Gustavo Manuel (2022): «Gobernar con algoritmos, gobernar los algoritmos», El Cronista del Estado Social y Democrático de Derecho, 100, pp. 80-89.
Martín-Retortillo Baquer, Sebastián (2002): «Breves acotaciones sobre el desarrollo tecnológico y el sistema jurídico-administrativo», en Nuevas perspectivas del régimen local: estudios en homenaje al profesor José Mª Boquera Oliver, Valencia, Tirant lo Blanch, pp. 1475-1488.
Mitchell, Tom (1997): Machine Learning, 1ª ed., Nueva York, McGraw-Hill.
Muñoz Machado, Santiago (2015): «Tratado de Derecho Administrativo y Derecho Público General. Tomo III. Los principios de constitucionalidad y legalidad», Boletín Oficial del Estado, 4ª Edición.
Palma Ortigosa, Adrián (2019): «Decisiones automatizadas en el RGPD. El uso de algoritmos en el contexto de la protección de datos», Revista General de Derecho Administrativo, 50.
Ponce Solé, Juli (2019): «Inteligencia artificial, Derecho administrativo y reserva de humanidad: algoritmos y procedimiento administrativo debido tecnológico », Revista general de Derecho administrativo, 50.
Ponce Solé, Juli (2022): «Reserva de humanidad y supervisión humana de la Inteligencia artificial», El Cronista del Estado Social y Democrático de Derecho, 100, pp. 58-67.
Sánchez Morón, Miguel (2020): «Derecho administrativo, Parte General», 17ª ed., Madrid, Tecnos.
Simeone, Osvaldo (2018): «A very brief introduction to machine learning with applications to communication systems», IEEE Transactions on Cognitive Communications and Networking, 4.4, págs. 648-664. https://doi.org/10.1109/TCCN.2018.2881442 DOI: https://doi.org/10.1109/TCCN.2018.2881442
Soriano Arnanz, Alba (2021): «Decisiones automatizadas: problemas y soluciones jurídicas. Más allá de la protección de datos», Revista de derecho público: teoria y método, 3, pp. 85-127. https://doi.org/10.37417/RPD/vol_3_2021_535 DOI: https://doi.org/10.37417/RPD/vol_3_2021_535
Soriano Arnanz, Alba (2022): «El uso de la inteligencia artificial en la selección y gestión del personal de las administraciones públicas», Documentación Administrativa. Nueva época, 9, pp. 11-25. https://doi.org/10.24965/da.11148 DOI: https://doi.org/10.24965/da.11148
Valero Torr ijos, Julián (2019): «Les garanties jurídiques de la intelligència artificial en l'activitat administrativa des de la perspectiva de la bona administración », Revista Catalana de Dret Públic, 58, pp. 82-96.
Vestri, Gabriele (2022): «El acceso a la información algorítmica a partir del caso bono social vs. Fundación Ciudadana Civio», Revista General de Derecho Administrativo, 61, pp. 32.
