The principle of presumption of fallibility of unfavorable algorithmic decisions
A new legal guarantee against automated decisions and the use of artificial intelligence systems in Public Administration
DOI:
https://doi.org/10.71296/raap.9Keywords:
presumption of fallibility, artificial intelligence, automated administrative decisions, machine learning, citizen's guarantees, administrative lawAbstract
The goal of this paper is to propose a new guarantee aimed at reinforcing the legal protection of the administrative proceedings where there are automated administrative actions and/or artificial intelligence systems are used for decision making. The first part of the article presents the basic concepts of supervised and unsupervised machine learning, analyzing the legal obstacles that prevent its use in certain areas of administrative power. Next, it develops the principle of presumption of fallibility of unfavorable algorithmic decisions as a technique of human supervision in order to facilitate the implementation of emerging technologies in the administration, while respecting the legitimate rights and interests of citizens. Finally, a brief reflection is made on the importance of doctrinal work in this field, with particular emphasis on the need to remodel the architecture of a stagnant Administration.
Downloads
References
Álvarez García, Vicente (1999): La normalización industrial, 1ª ed., Valencia, Universitat de València.
Álvarez García, Vicente (2010): Industria, 1ª ed., Madrid, Iustel.
Álvarez García, Vicente (2020): Las normas técnicas armonizadas:(Una peculiar fuente del Derecho europeo), 1ª ed., Madrid, Iustel.
Álvarez García, Vicente (2022): «La problemática de la publicidad oficial de las normas técnicas de origen privado que despliegan efectos jurídico-públicos», Revista de Derecho Comunitario Europeo, 72, pp. 449-482. https://doi.org/10.18042/cepc/rdce.72.06 DOI: https://doi.org/10.18042/cepc/rdce.72.06
Barr io Andrés, Moisés (2022): «Inteligencia artificial: origen, concepto, mito y realidad», El Cronista del Estado Social y Democrático de Derecho, 100, pp. 14-21.
Boix Palop, Andrés (2020): «Los algoritmos son reglamentos: La necesidad de extender las garantías propias de las normas reglamentarias a los programas empleados por la Administración para la adopción de decisiones», Revista de Derecho Público: Teoría y Método, 1, pp. 223-270. https://doi.org/10.37417/RPD/vol_1_2020_33 DOI: https://doi.org/10.37417/RPD/vol_1_2020_33
Boix Palop, Andrés (2022): «Transparencia en la utilización de inteligencia artificial por parte de la Administración», El Cronista del Estado Social y Democrático de Derecho, 100, pp. 90-105.
Cerr illo i Martínez, Agustí (2019): «El impacto de la inteligencia artificial en el derecho administrativo, ¿nuevos conceptos para nuevas realidades técnicas?», Revista General de Derecho Administrativo, 50.
Cerr illo i Martínez, Agustí (2020): «¿Son fiables las decisiones de las Administraciones públicas adoptadas por algoritmos?», European review of digital administration & law, 1.1, pp. 18-36.
Cotino Hueso, Lorenzo (2019): «Riesgos e impactos del Big Data, la inteligencia artificial y la robótica: enfoques, modelos y principios de la respuesta del derecho», Revista general de Derecho administrativo, 50, pp. 1-37.
Cotino Hueso, Lorenzo (2020): «SyRI, ¿a quién sanciono? Garantías frente al uso de inteligencia artificial y decisiones automatizadas en el sector público y la sentencia holandesa de febrero de 2020», La Ley Privacidad, 4.
Cotino Hueso, Lorenzo (2022): «Transparencia y explicabilidad de la inteligencia artificial y "compañía" (comunicación, interpretabilidad, inteligibilidad, auditabilidad, testabilidad, comprobabilidad, simulabilidad…). Para qué, para quién y cuánta», en Cotino Hueso Lorenzo y Jorge Castellanos Claramunt (eds.), Transparencia y explicabilidad de la inteligencia artificial, Tirant lo Blanch, pp. 29-70.
Cotino Hueso, Lorenzo (2023): «Los requisitos del Tribunal Constitucional alemán para el análisis automatizado de datos o con inteligencia artificial, que no se cumplen en España», blog de la Revista Catalana de Dret Públic.
Domingos, Pedro (2015): The master algorithm: How the quest for the ultimate learning machine will remake our world, Nueva York, Basic Books.
Fuertes, Mercedes (2022): «Reflexiones ante la acelerada automatización de actuaciones administrativas», Revista Jurídica de Asturias, 45, pp. 105-124.
Gamero Casado, Eduardo (2021): «Necesidad de motivación e invalidez de los actos administrativos sustentados en inteligencia artificial o algoritmos», Almacén de Derecho, 4.
García de Enterr ía, Eduardo (1962): «La lucha contra las inmunidades del poder en el derecho administrativo (poderes discrecionales, poderes de gobierno, poderes normativos)» Revista de administración pública, 38, pp. 159-208.
Huergo Lora, Alejandro y Díaz González, Gustavo Manuel (2020): La regulación de los algoritmos, 1ª ed., Aranzadi.
Huergo Lora, Alejandro y Díaz González, Gustavo Manuel (2022): «Gobernar con algoritmos, gobernar los algoritmos», El Cronista del Estado Social y Democrático de Derecho, 100, pp. 80-89.
Martín-Retortillo Baquer, Sebastián (2002): «Breves acotaciones sobre el desarrollo tecnológico y el sistema jurídico-administrativo», en Nuevas perspectivas del régimen local: estudios en homenaje al profesor José Mª Boquera Oliver, Valencia, Tirant lo Blanch, pp. 1475-1488.
Mitchell, Tom (1997): Machine Learning, 1ª ed., Nueva York, McGraw-Hill.
Muñoz Machado, Santiago (2015): «Tratado de Derecho Administrativo y Derecho Público General. Tomo III. Los principios de constitucionalidad y legalidad», Boletín Oficial del Estado, 4ª Edición.
Palma Ortigosa, Adrián (2019): «Decisiones automatizadas en el RGPD. El uso de algoritmos en el contexto de la protección de datos», Revista General de Derecho Administrativo, 50.
Ponce Solé, Juli (2019): «Inteligencia artificial, Derecho administrativo y reserva de humanidad: algoritmos y procedimiento administrativo debido tecnológico », Revista general de Derecho administrativo, 50.
Ponce Solé, Juli (2022): «Reserva de humanidad y supervisión humana de la Inteligencia artificial», El Cronista del Estado Social y Democrático de Derecho, 100, pp. 58-67.
Sánchez Morón, Miguel (2020): «Derecho administrativo, Parte General», 17ª ed., Madrid, Tecnos.
Simeone, Osvaldo (2018): «A very brief introduction to machine learning with applications to communication systems», IEEE Transactions on Cognitive Communications and Networking, 4.4, págs. 648-664. https://doi.org/10.1109/TCCN.2018.2881442 DOI: https://doi.org/10.1109/TCCN.2018.2881442
Soriano Arnanz, Alba (2021): «Decisiones automatizadas: problemas y soluciones jurídicas. Más allá de la protección de datos», Revista de derecho público: teoria y método, 3, pp. 85-127. https://doi.org/10.37417/RPD/vol_3_2021_535 DOI: https://doi.org/10.37417/RPD/vol_3_2021_535
Soriano Arnanz, Alba (2022): «El uso de la inteligencia artificial en la selección y gestión del personal de las administraciones públicas», Documentación Administrativa. Nueva época, 9, pp. 11-25. https://doi.org/10.24965/da.11148 DOI: https://doi.org/10.24965/da.11148
Valero Torr ijos, Julián (2019): «Les garanties jurídiques de la intelligència artificial en l'activitat administrativa des de la perspectiva de la bona administración », Revista Catalana de Dret Públic, 58, pp. 82-96.
Vestri, Gabriele (2022): «El acceso a la información algorítmica a partir del caso bono social vs. Fundación Ciudadana Civio», Revista General de Derecho Administrativo, 61, pp. 32.
