Repercusiones de la inteligencia artificialen la legitimidad del sistema penaluna reflexión desde la justicia procedimental

  1. Olalla Baz Cores
Revista:
Indret: Revista para el Análisis del Derecho

ISSN: 1698-739X

Año de publicación: 2023

Número: 4

Tipo: Artículo

DOI: 10.31009/INDRET.2023.I4.09 DIALNET GOOGLE SCHOLAR lock_openAcceso abierto editor

Otras publicaciones en: Indret: Revista para el Análisis del Derecho

Objetivos de desarrollo sostenible

Resumen

En las últimas décadas se han producido grandes avances en las nuevas tecnologías de IA que pueden ser muy beneficiosos para el sistema de justicia penal. Aunque ello implique a priori una mayor eficacia de los procedimientos, es necesario que nos preguntemos cómo puede afectar este nuevo contexto a la legitimidad social de todo sistema penal. Con el presente artículo se pretende realizar una reflexión crítica sobre esta cuestión utilizando la perspectiva de la justicia procedimental. En primer lugar, se expone la relevancia que tiene la legitimidad del sistema penal para que los ciudadanos cumplan la ley. En segundo lugar, se analiza el posible impacto de la IA en la calidad de la toma de decisiones y en la calidad de trato, que son las dos dimensiones de la justicia procedimental que se relacionan con una mayor legitimidad del sistema penal.

Referencias bibliográficas

  • ABIODUN, Oloruntoba Samson/LEKAN, Akinode John, «Exploring the potentials of artificial intelligence in the judiciary», International Journal of Engineering Applied Sciences and Technology, vol. 5(8), 2020, pp. 23 ss.
  • ACIKGOZ, Yalcin et al., «Justice perceptions of artificial intelligence in selection», International Journal of Selection and Assessment, vol. 28(4), 2020, pp. 399 ss.
  • AGUERRI, Jesús C., «Datos, teoría y causalidad: una breve aproximación al retorno a la teoría», en CASTRO TOLEDO, Francisco Javier (coord.), La transformación algorítmica del sistema de justicia penal, Thomson Reuters Aranzadi, 2022, pp. 77 ss.
  • ANDRÉS PUEYO, Antonio/ECHEBURÚA, Enrique, «Valoración del riesgo de violencia: instrumentos disponibles e indicaciones de aplicación», Psicothema, vol. 22(3), 2010, pp. 403 ss.
  • ANDRÉS PUEYO, Antonio/REDONDO ILLESCAS, Santiago, «Predicción de la violencia: entre la peligrosidad y la valoración del riesgo de violencia», Papeles del psicólogo, vol. 28(3), 2007, pp. 157 ss.
  • ANGWIN, Julia et al., «Machine bias: There’s software used across the country to predict future criminals. And it’s biased against blacks», en ProPublica, [en línea], 23 de mayo de 2016. Disponible en https://www.propublica.org/article/machine-bias-risk-assessments-in-criminalsentencing
  • BARYSE, Dovilė/SAREL, Roee, «Algorithms in the court: does it matter which part of the judicial decision-making is automated?», Artificial intelligence and law, Publicado online el 8 de enero, 2023, pp. 1 ss. https://doi.org/10.1007/s10506-022-09343-6
  • BAZ, Olalla/FERNÁNDEZ MOLINA, Esther, «An empirical approach to the study of legal socialization in adolescence», European Journal of Criminology, vol. 19(2), 2022, pp. 237 ss.
  • BECKMAN, Ludvig/HULTIN ROSENBERG, Jonas/JEBARI, Karim, «Artificial intelligence and democratic legitimacy», The problem of publicity in public authority», AI & SOCIETY, Open Forum, 2022, pp. 1 ss.
  • BOATENG, Francis D./DARKO, Isaac Nortey, «Perceived police legitimacy in Ghana: The role of procedural fairness and contacts with the police», International Journal of Law, Crime and Justice, vol. 65, 100458, 2021, pp. 1 ss.
  • BOTTOMS, Anthony/TANKEBE, Justice, «Beyond procedural justice: A dialogic approach to legitimacy in criminal justice», The Journal of Criminal Law & Criminology, vol. 102(1), 2012, pp. 119 ss.
  • BURTON, Jason W. et al., «A systematic review of algorithm aversion in augmented decision making», Journal of behavioral decision making, vol. 33(2), 2020, pp. 220 ss.
  • CAMPBELL, Ray Worthy, «Artificial intelligence in the courtroom: The delivery of justice in the age of machine learning», Colorado Technology Law Journal, vol. 18, 2020, pp. 323 ss.
  • CHEN, Benjamin Minhao et al., «Having your day in Robot Court», Harvard Journal of Law & Technology, vol. 36(1), 2022, pp. 127 ss.
  • CHENG, Kevin Kwok-yin, «Prosecutorial procedural justice and public legitimacy in Hong Kong», British Journal of Criminology, vol. 57(1), 2017, pp. 94 ss.
  • CHENG, Kevin Kwok-yin, «Legitimacy in a postcolonial legal system: public perception of procedural justice and moral alignment toward the courts in Hong Kong», Law & Social Inquiry, vol. 43(1), 2018, pp. 212 ss.
  • CIGÜELA SOLA, Javier, «Populismo penal y justicia paralela: un análisis político-cultural», Revista Electrónica de Ciencia Penal y Criminología, n.º 22-12, 2020, pp. 1 ss.
  • COLANER, Nathan. «Is explainable artificial intelligence intrinsically valuable?», AI & SOCIETY, vol. 37, 2022, pp. 231 ss.
  • DÍEZ RIPOLLÉS, José Luis, «El nuevo modelo de seguridad ciudadana», Revista Electrónica de Ciencia Penal y Criminología, n.º 06-03, 2004, pp. 1 ss.
  • FERNÁNDEZ MOLINA, Esther, «Percepciones y experiencias de una muestra de españoles hacia los tribunales penales», en ROMERO FLORES, Beatriz et al. (eds.), Criminología Aplicada, Bosch Editor, 2021, pp. 99 ss.
  • FERNÁNDEZ MOLINA, Esther et al., «Observing juvenile courtrooms: testing the implementation of guidelines on child-friendly justice in Spain». Youth justice, vol. 21(2), 2021, pp. 192 ss.
  • FINE, Adam D./VAN ROOIJ, Benjamin, «Legal socialization: Understanding the obligation to obey the law», Journal of Social Issues, vol. 77(2), 2021, pp. 367 ss.
  • GARLAND, David, La cultura del control: crimen y orden social en la sociedad contemporánea, Gedisa, Barcelona, 2005.
  • GAU, Jacinta, «The Convergent and Discriminant Validity of Procedural Justice and Police Legitimacy: An Empirical Test of Core Theoretical Propositions», Journal of Criminal Justice, vol. 39(6), 2011, pp. 489 ss.
  • GÓMEZ COLOMER, Juan Luis, «Derechos fundamentales, proceso e inteligencia artificial: Una reflexión», En CALAZA LÓPEZ, Sonia/LLORENTE SÁNCHEZ-ARJONA, Mercedes (eds.), Inteligencia artificial legal y administración de justicia, Thomson Reuters Aranzadi, 2022, pp. 257 ss.
  • GREENE, Carolyn et al., «Punishing processes in youth court: Procedural justice, court atmosphere and youths' views of the legitimacy of the justice system», Canadian journal of Criminology and Criminal justice, vol. 52(5), 2010, pp. 527 ss.
  • GREWAL, Dhruv et al., «Artificial intelligence: The light and the darkness», Journal of Business Research, vol. 136, 2021, pp. 229 ss.
  • GRIJALVA ETERNOD, Áurea E./FERNÁNDEZ MOLINA, Esther, «La opinión de los reos sobre la justicia penal en México: explorando los efectos de la justicia procedimental», Revista Latinoamericana de Opinión Pública, n.º 7, 2017, pp. 99 ss.
  • HIGH LEVEL EXPERT GROUP ON ARTIFICIAL INTELLIGENCE, A definition of AI: Main capabilities and disciplines, The European Commission, 2019. Disponible en https://ec.europa.eu/futurium/en/system/files/ged/ai_hleg_definition_of_ai_18_december_1.pdf
  • HOUGH, Mike et al., «Legitimacy, trust and compliance: An empirical test of procedural justice theory using the European Social Survey», en TANKEBE, Justice/LIEBLING, Alison (eds.), Legitimacy and Criminal Justice: An International Exploration, Oxford University Press, 2013, pp. 326 ss.
  • JACKSON, Jonathan/GAU, Jacinta M., «Carving up concepts? Differentiating between trust and legitimacy in public attitudes towards legal authority», en SHOCKLEY, Ellie et al., Interdisciplinary Perspectives on Trust, Springer International Publishing, 2016, pp. 49 ss.
  • JANIESCH, Christian et al., «Machine learning and deep learning», Electronic Markets, vol. 31(3), 2021, pp. 685 ss.
  • JOSHI, Ameet V., Machine learning and artificial intelligence, Springer, 2020.
  • LEBEN, Steve, «Exploring the overlap between procedural-justice principles and emotion regulation in the courtroom», Oñati Socio-Legal Series, vol. 9(5), 2019, pp. 852 ss.
  • MARONEY, Terry A., «Angry judges», Vanderbilt Law Review, vol. 65(5), 2012, pp. 1207 ss
  • MATSUEDA, Ross L. et al., «Deterring delinquents: A rational choice model of theft and violence», American sociological review, vol. 71(1), 2006, pp. 95 ss.
  • MCLEAN, Scott et al., «The risks associated with Artificial General Intelligence: A systematic review». Journal of Experimental & Theoretical Artificial Intelligence, vol. 35(5), 2023, pp. 649 ss.
  • METCALFE, Christi/BAKER, Thomas, «Race, ethnicity, justice, and self-regulating beliefs among a sample of justice-involved men and women», Race and Justice, Publicado online el 25/01/2022. Doi: 10.1177/21533687221075737
  • MIRÓ LLINARES, Fernando, «Inteligencia artificial y justicia penal: más allá de los resultados lesivos causados por robots», Revista de Derecho Penal y Criminología, n.º 20, 2018, pp. 87 ss.
  • MIROWSKA, Agata/MESNET, Laura, «Preferring the devil you know: Potential applicant reactions to artificial intelligence evaluation of interviews». Human Resource Management Journal, vol. 32(2), 2022, pp. 364 ss.
  • MÜLLER, Vincent C./BOSTROM, Nick, «Future progress in artificial intelligence: A survey of expert opinion», en MÜLLER, Vincent C. (ed.), Fundamental issues of artificial intelligence, Springer, 2016, pp. 555 ss.
  • NAGIN, Daniel S., «Criminal deterrence research at the outset of the twenty-first century», Crime and justice, vol. 23, 1998, pp. 1 ss.
  • PÉREZ DAUDÍ, Vicente, «El precedente judicial. La previsibilidad de la sentencia y la decisión automatizada del conflicto», Revista General de Derecho Procesal, n.º 54, 2021, pp. 1 ss.
  • QUATTROCOLO, Serena, Artificial intelligence, computational modelling and criminal proceedings, Springer International Publishing, 2020.
  • ROA AVELLA, Marcela del Pilar et al., «Uso del algoritmo COMPAS en el proceso penal y los riesgos a los derechos humanos», Revista Brasileira de Direito Processual Penal, vol. 8(1), 2022, pp. 275 ss.
  • SAMOILI, Sofia et al., AI WATCH. Defining Artificial Intelligence, EUR 30117 EN, Publications Office of the European Union, Luxembourg, 2020, ISBN 978-92-76-17045-7, doi:10.2760/382730, JRC118163.
  • SHOOK, Jeffrey J. et al., «Procedural justice and legal socialization among juvenile offenders: The role of defense attorneys», Journal of Social Issues, vol. 77(2), 2021, pp. 484 ss.
  • SIMÓN CASTELLANO, Pere, «Inteligencia artificial y Administración de Justicia ¿Quo vadis, justitia?», IDP. Revista de Internet, Derecho y Política, 2021, n.º 33, pp.1 ss.
  • SKOGAN, Wesley G. et al., «Training police for procedural justice», Journal of experimental criminology, vol. 11, 2015, pp. 319 ss.
  • TAMBE, Prasanna et al., «Artificial intelligence in human resources management: Challenges and a path forward», California Management Review, vol. 61(4), 2019, pp. 15 ss.
  • TERPSTRA, Bo L./VAN WIJCK, Peter W., «The influence of police treatment and decision-making on perceptions of procedural justice: a Field Study», Journal of research in crime and delinquency, vol. 60(3), 2023, pp. 344 ss.
  • TRINKNER, Rick/COHN, Ellen S., «Putting the “social” back in legal socialization: Procedural justice, legitimacy, and cynicism in legal and nonlegal authorities», Law and Human Behavior, vol. 38(6), 2014, pp. 602 ss.
  • TRINKNER, Rick/TYLER, Tom R., «Legal socialization: Coercion versus consent in an era of mistrust», Annual Review of Law and Social Science, vol. 12, 2016, pp. 417 ss.
  • TYLER, Tom R., Why people obey the law, Princeton University Press, 2006.
  • TYLER, Tom R., «Psychological perspectives on legitimacy and legitimation», Annual Review of Psychology, vol. 57, 2006, pp. 375 ss.
  • TYLER, Tom R./LIND, E. Allan, «Procedural justice», en SANDERS, Joseph/HAMILTON, V. Lee (eds.), Handbook of justice research in law, Springer, 2001, pp. 65 ss.
  • VALLS PRIETO, Javier, «De los principios éticos a los derechos fundamentales», en CASTRO TOLEDO (coord.), La transformación algorítmica del sistema de justicia penal, Thomson Reuters Aranzadi, 2022, pp. 53 ss.
  • VAN WINGERDEN, Sigrid/PLESNICAR, Mojca M., «Artificial Intelligence and Sentencing: Humans against Machines», en RYBERG, Jesper/ROBERTS, Julian V. (eds.), Studies in Penal Theory and Philosophy, Oxford University Press, 2022, pp. 230 ss.
  • VÁZQUEZ, David et al., «ACA… All Coppers Are… an analysis of police legitimacy in Spain», Policing and Society, vol. 33(6), 2023, pp. 666 ss.
  • VÁZQUEZ, David/FERNÁNDEZ MOLINA, Esther, «Confianza en los tribunales penales: una vía normativa a la cooperación ciudadana con la justicia más allá de la amenaza y la coerción», Revista Electrónica de Ciencia Penal y Criminología, n.º 15-18, 2013, pp. 1 ss.
  • WALL, Steven, «Democracy and equality», The Philosophical Quarterly, vol. 57(228), 2007, pp. 416 ss.
  • WALTERS, Glenn D./BOLGER, P. Colin, «Procedural justice perceptions, legitimacy beliefs, and compliance with the law: A meta-analysis», Journal of experimental Criminology, vol. 15, 2019, pp. 341 ss.
  • WU, Tim, «Will artificial intelligence eat the law? The rise of hybrid social-ordering systems». Columbia Law Review, vol. 119(7), 2019, pp. 2001 ss.
  • XIA, Qi et al., «Systematic literature review on opportunities, challenges, and future research recommendations of artificial intelligence in education», Computers and Education: Artificial Intelligence, vol. 4, 100118, 2022, pp. 1 ss.
  • XU, Zichun, «Human Judges in the Era of Artificial Intelligence: Challenges and Opportunities», Applied Artificial Intelligence, vol. 36(1), e2013652, 2022, pp. 1025 ss.
  • YALCIN, Gizem et al., «Perceptions of justice by algorithms», Artificial Intelligence and Law, vol. 31, 2023, pp. 269 ss.
  • YIN, Jiamin et al., «Role of artificial intelligence applications in real-life clinical practice: systematic review». Journal of medical Internet research, vol. 23(4), 2021, e25759.
Fuente de los datos: Dialnet