Inteligencia artificial y derechos de las personas con discapacidad

  1. Valle Escolano, Raquel 1
  1. 1 Autismo España y Universidad Carlos III
Revista:
Revista Española de Discapacidad (REDIS)

ISSN: 2340-5104

Año de publicación: 2023

Título del ejemplar: REVISTA ESPAÑOLA DE DISCAPACIDAD | Junio 2023

Volumen: 11

Número: 1

Páginas: 7-28

Tipo: Artículo

DIALNET GOOGLE SCHOLAR lock_openDialnet editor

Otras publicaciones en: Revista Española de Discapacidad (REDIS)

Resumen

La inteligencia artificial (IA) ha revolucionado nuestras vidas y seguirá transformándolas extraordinariamente en las próximas décadas. Su potencial es indiscutible, y sus aplicaciones pueden aportar beneficios importantísimos a las personas con discapacidad. Sin embargo, la IA es una realidad claramente bifacial, y junto a esta cara amable, presenta también otra conformada por diversos riesgos fundamentales, muchos de corte ético, susceptibles de crear nuevos tipos de discriminación que cercenen los derechos de tales colectivos, siempre en permanente reivindicación, especialmente ante realidades novedosas. Este trabajo revisará en sentido genérico las ventajas y puntos oscuros de la inteligencia artificial en relación con las personas con discapacidad, para focalizarse de forma particular en los sesgos algorítmicos, un elemento clave con reconocida capacidad de organizar la sociedad e influir en las políticas e instituciones, a través de una toma de decisiones autónoma, basada en un comportamiento en ocasiones injusto y discriminatorio. Finalmente, se aportarán algunas soluciones tendentes a moldear un fenómeno aún incipiente, de modo que se desarrolle al servicio de todas las personas, incluyendo aquellas que presentan cualquier tipo de discapacidad.

Referencias bibliográficas

  • de Asís, R. (2014). Sobre discapacidad y derechos. Dykinson.
  • de Asís, R. (2015a). Una mirada a la robótica desde los derechos humanos. Dykinson.
  • de Asís, R. (2015b). Ética de las tecnologías emergentes. En C. Hermida y J. A. Santos (Coords.), Una filosofía del Derecho en acción. Homenaje al profesor Andrés Ollero (pp. 1007-1024). Congreso de los Diputados y Universidad Rey Juan Carlos.
  • de Asís, R. (2018). Robótica, inteligencia artificial y derecho. Revista de privacidad y derecho digital, 3(10), 27-77.
  • de Asís, R. (2020). Inteligencia artificial y derechos humanos. Uc3m Working paper, Materiales de Filosofía del derecho, 20-04. Universidad Carlos III de Madrid IA.
  • Ávila, R. Brandusescu, A., Ortiz Freuler, J. y Thakur, D. (2018). Policy Brief W20 Argentina. Artificial Intelligence: Open questions about gender inclusion. World Wide Web Foundation. http://webfoundation.org/docs/2018/06/AI-Gender.pdf.
  • Banco Mundial (2022). Discapacidad. https://www.bancomundial.org/es/topic/disability.
  • Bariffi, F. J. (2021). Inteligencia artificial, derechos humanos y discapacidad, ¿reflejo de los prejuicios humanos u oportunidad del trashumanismo? En R. De Lorenzo y L. C. Pérez (Dirs.), Nuevas fronteras del derecho de la discapacidad (Vol. I, p. 121). Aranzadi.
  • Barnes, E. (2016). The minority body. A theory of disability. Oxford University Press.
  • Berendt, B. y Preibusch, S. (2017). Toward accountable discrimination-aware data mining: The importance of keeping the human in the loop – and under the looking-glass. Big Data, 5(2). https://doi.org/10.1089/big.2016.0055.
  • Bigham, J. P. y Carrington, P. (15-20 de julio de 2018). Learning from the front: People with disabilities as early adopters of AI. Proceedings of the 2018 HCIC Human-Computer Interaction Consortium, HCIC, Las Vegas, Estados Unidos. https://www.cs.cmu.edu/~jbigham/pubs/pdfs/2018/ai-and-hci-people-with-disabilities-asearly-adopters.pdf.
  • Binns, R. y Kirkham, R. (2021). How could equality and data protection law shape AI fairness for people with disabilities? ACM Trans. Access. Comput., 14, 1-32. https://doi.org/10.1145/3473673.
  • Boix, A. (2020). Los algoritmos son reglamentos: la necesidad de extender las garantías propias de las normas reglamentarias a los programas empleados por la administración para la adopción de decisiones. Revista de Derecho Público: Teoría y Método, 1, 223-270.
  • Boucher, P. (2020). Artificial intelligence: How does it work, why does it matter, and what can we do about it? Parlamento Europeo. https://www.europarl.europa.eu/RegData/etudes/STUD/2020/641547/EPRS_STU(2020)641547_EN.pdf.
  • CERMI (2019). Objetivos de Desarrollo Sostenible y promoción de los derechos de las personas con discapacidad. CERMI y Cinca.
  • CERMI (2020). Inteligencia artificial y personas con discapacidad desde una visión exigente de derechos humanos. http://semanal.cermi.es/noticia/Inteligencia-Artificial-Personas-Discapacidad-vision-exigente-derechos-humanos.aspx.
  • CERMI (27 de agosto de 2022). CERMI y Fundación ONCE avanzan en la realización de un plan nacional de algoritmos sociales y de inclusión. https://cermi.es/noticia/cermi-y-fundacion-once-avanzan-en-la-realizacion-de-un-plan-nacional-de-algoritmos-sociales-y-de-inclusion.
  • Comisión Europea (2018). Comunicación de la Comisión al Parlamento Europeo, al Consejo Europeo, al Consejo, al Comité Económico y Social Europeo y al Comité de las Regiones, Inteligencia artificial para Europa. COM/2018/237 final. https://eur-lex.europa.eu/legal-content/ES/TXT/?uri=CELEX:52018DC0237.
  • Comisión Europea (2019). Directrices éticas para una IA fiable. https://data.europa.eu/doi/10.2759/14078.
  • Comisión Europea (2020). Libro Blanco sobre la inteligencia artificial: un enfoque europeo orientado a la excelencia y la confianza. https://op.europa.eu/es/publication-detail/-/publication/ac957f13-53c6-11ea-aece-01aa75ed71a1.
  • Comisión Europea (2021). Propuesta de Reglamento del Parlamento Europeo y del Consejo por el que se establecen normas armonizadas en materia de inteligencia artificial (Ley de inteligencia artificial) y se modifican determinados actos legislativos de la Unión. https://eur-lex.europa.eu/resource.html?uri=cellar:e0649735-a372-11eb-9585-01aa75ed71a1.0008.02/DOC_1&format=PDF.
  • Comisión Europea (2022). Comunicación de la Comisión al Parlamento Europeo, al Consejo, al Comité Económico y Social Europeo y al Comité de las Regiones. Formulación de una Declaración Europea sobre los Derechos y Principios Digitales para la Década Digital. https://eur-lex.europa.eu/legal-content/ES/TXT/?uri=CELEX:-52022DC0027.
  • Cotino Hueso, L. (2019a). Riesgos e impactos del Big Data, la inteligencia artificial y la robótica: enfoques, modelos y principios de la respuesta del derecho. Revista general de Derecho administrativo, (50). https://www.dropbox.com/s/010qzjnh7mwwk3t/cotinoiustel.pdf?dl=0.
  • Cotino Hueso, L. (2019b). Ética en el diseño para el desarrollo de una inteligencia artificial, robótica y big data confiables y su utilidad desde el Derecho. Revista catalana de dret públic, (58), 29-48.
  • Council of Europe (2019). Unboxing artificial intelligence: 10 steps to protect human rights. https://rm.coe.int/unboxing-artificial-intelligence-10-steps-to-protect-human-rights-reco/1680946e64.
  • Echarri, M. (2 de agosto de 2022). Bruce Springsteen indigna a sus fans con los precios “escandalosos y desorbitados” de su última gira. Icon. El País. https://elpais.com/icon/2022-08-02/bruce-springsteen-escandaliza-a-sus-fans-con-los-precios-escandalosos-y-desorbitados-de-su-ultima-gira.html.
  • España. Instrumento de Ratificación de la Convención sobre los derechos de las personas con discapacidad, hecho en Nueva York el 13 de diciembre de 2006. Boletín Oficial del Estado, 21 de abril de 2008, núm. 96, pp. 20648-20659.
  • España. Real Decreto Legislativo 1/2013, de 29 de noviembre, por el que se aprueba el Texto Refundido de la Ley General de derechos de las personas con discapacidad y de su inclusión social. Boletín Oficial del Estado, 3 de diciembre de 2013, núm. 289, pp. 95635 a 95673.
  • European Commission (5 de enero de 2011). EU ratifies UN Convention on disability rights. https://ec.europa.eu/commission/presscorner/detail/en/IP_11_4.
  • European Data Protection Supervisor (2015). Dictamen 4/2015. Hacia una nueva ética digital. Datos, dignidad y tecnología. https://edps.europa.eu/sites/edp/files/publication/15-09-11_data_ethics_es.pdf.
  • Global Disability Innovation Hub (2021). Disability Innovation Strategy 2021-2024. https://cdn.disabilityinnovation.com/uploads/images/GDI-Hub-Strategy_21-24_2021-06-18-071837.pdf?v=1624000717.
  • Guo, A., Kamar, E., Wortman Vaughan, J., Wallach, H. y Ringel Morris, M. (2019). Toward fairness in AI for people with disabilities: A research roadmap. Accessibility and Computing, (125). https://doi.org/10.1145/3386296.3386298.
  • Hao, K. (12 de diciembre de 2018). Necesitamos que la IA elimine los sesgos hacia los discapacitados. MIT Technology Review. https://www.technologyreview.es/s/10782/necesitamos-que-la-ia-elimine-los-sesgos-hacia-los-discapacitados.
  • Hernández Sánchez, M. A. (2018). Contractualismo y discapacidad. Hacia una crítica del capacitismo y el contrato funcional desde la obra de Carole Pateman. HYBRIS. Revista de Filosofía, 9. N° especial. Debates contemporáneos sobre justicia social.
  • Hil, R. K. (2016). What an algorithm is? Philosophy and Technology, (29), 35-59. https://doi.org/10.1007/s13347-014-0184-5.
  • INFOBAE (3 de agosto de 2017). Desarrollaron un algoritmo para devolver la movilidad a personas con discapacidad. https://www.infobae.com/discapacidad/2017/08/03/desarrollaron-un-algoritmo-para-devolver-la-movilidad-a-personas-con-discapacidad/.
  • Instituto Nacional de Estadística (2022). Encuesta de discapacidad, autonomía personal y situaciones de dependencia (EDAD). Año 2020. https://www.ine.es/dyngs/INEbase/es/operacion.htm?c=Estadistica_C&cid=1254736176782&idp=1254735573175.
  • Joamets, K. y Chochia, A. (2021). Access to Artificial Intelligence for persons with disabilities: Legal and ethical questions concerning the application of trustworthy AI. Acta Baltica Historiae et Philosophiae Scientiarum, 9(1), 51-66. https://doi.org/10.11590/abhps.2021.1.04.
  • López Costa, M. (2021). El mercado laboral del futuro y su afectación a las personas con discapacidad. Fundación Randstad y Universitat Oberta de Catalunya (UOC). https://openaccess.uoc.edu/bitstream/10609/136287/6/Informe3Catedra_Randstad-UOC_M.Lopez.pdf.
  • Maldonado Ramírez, J. (2019). Antropología CRIP: cuerpo, discapacidad, cuidado e interdependencia. La Cifra Editorial.
  • McClain-Nhlapo, C. y Samant Raja, D. (2021). Addressing the drivers of digital technology for disability-inclusive development. En M. A. Stein y J. Lazar (Eds), Accessible technology and the developing world (p. 32). Oxford University Press.
  • Monasterio Astobiza, A. (2017). Ética algorítmica: implicaciones éticas de una sociedad cada vez más gobernada por algoritmos. Dilemata, 24, 185-217.
  • Muro, M., Maxim, R. y Whiton, J. (2019). Automation and artificial intelligence: How machines are affecting people and places. Brookings Institution. https://www.brookings.edu/research/automation-and-artificial-intelligence-how-machines-affect-people-and-places/.
  • Okeenea Group (28 de diciembre de 2021). Artificial Intelligence and accessibility: Examples of a technology that serves people with disabilities. https://www.inclusivecitymaker.com/artificial-intelligence-accessibility-examples-technology-serves-people-disabilities/#:~:text=Here%20are%20a%20few%20non,can%20learn%20Braille%20more%20independently.
  • Organización de las Naciones Unidas (ONU) (2006). Convención sobre los derechos de las personas con discapacidad. https://www.un.org/esa/socdev/enable/documents/tccconvs.pdf.
  • Organización de las Naciones Unidas (ONU) (2018). Reposicionando el sistema de desarrollo de la ONU. Objetivos de Desarrollo Sostenible. https://www.un.org/sustainabledevelopment/es/repositioning-the-un-development-system/.
  • Organización de las Naciones Unidas (ONU) (2021). Informe del Relator Especial sobre los derechos de las personas con discapacidad. A/HRC/49/52: Derechos de las personas con discapacidad. https://www.ohchr.org/es/documents/thematic-reports/ahrc4952-artificial-intelligence-and-rights-persons-disabilities-report.
  • Organización de las Naciones Unidas (ONU) (2022). Naciones Unidas. Personas con Discapacidad. Departamento de Asuntos Económicos y Sociales. https://www.un.org/es/observances/day-of-persons-with-disabilities.
  • Randstad Research (2021). Abrazando el cambio. Flexibility@work21. https://www.randstadresearch.es/informe-flexibilitywork-el-futuro-del-trabajo/.
  • Russell, S. (2020). Human compatible: Artificial intelligence and the problem of control. Penguin.
  • Sangüesa, R. (2018). Inteligencia artificial y transparencia algorítmica: “It’s complicated”. BiD: textos universitaris de biblioteconomia i documentació, (41). http://dx.doi.org/10.1344/BiD2018.41.12.
  • Smith, G. y Rustagi, I. (2020). Mitigating bias in Artificial Intelligence: An equity fluent leadership playbook. The Center for Equity, Gender and Leadership at the Haas School of Business. University of California.
  • Smith, P. y Smith, L. (2021). Artificial intelligence and disability: Too much promise, yet too little substance? AI and Ethics, 1, 81-86.
  • Taddeo, M. y Floridi, L. (2018). How AI can be a force for good. Science, 361(6404), 751-752. https://doi.org/10.1126/science.aat5991.
  • Tsamados, A., Aggarwal, N., Cowls, J., Morley, J., Roberts, H., Taddeo, M. y Floridi, L. (2022). The ethics of algorithms: Key problems and solutions. AI & Soc., 37, 215-230). https://doi.org/10.1007/s00146-021-01154-8.
  • UNESCO (2020). Artificial intelligence and gender equality. Key findings of UNESCO’s global dialogue. https://unesdoc.unesco.org/ark:/48223/pf0000374174.
  • Universidad Carlos III de Madrid (UC3M) (20 de septiembre de 2013). Es necesario un debate ético sobre la robótica que se plantee su sentido y aplicación. Entrevista a Rafael de Asís Roig. SINC. https://www.agenciasinc.es/Entrevistas/Es-necesario-un-debate-etico-sobre-la-robotica-que-se-plantee-su-sentido-y-aplicacion.
  • Mills, M. y Whittaker, M. (2019). Disability, bias, and AI. AI Now Institute. https://nyuscholars.nyu.edu/en/publications/disability-bias-and-ai.
  • Winston, M. y Edelbach, R. (2011). Society, Ethics, and Technology. Cengage Learning.
  • Wirtz, B. W., Weyerer, J. C. y Geyer, C. (2019). Artificial intelligence and the public sector-applications and challenges. International Journal of Public Administration, 42(7), 596-615.
  • World Economic Forum (2022). A blueprint for equity and inclusion in Artificial Intelligence. https://www3.weforum.org/docs/WEF_A_Blueprint_for_Equity_and_Inclusion_in_Artificial_Intelligence_2022.pdf.
  • Yudkowsky, E. (2008). Artificial intelligence as a positive and negative factor in global risk. En N. Bostrom y M. M. Cirkovic (Eds.), Global Catastrophic Risks (pp. 308-345). Oxford University Press. https://intelligence.org/files/AIPosNegFactor.pdf.
  • Žliobaite, I. (2017). Measuring discrimination in algorithmic decision making. Data Mining and Knowledge Discovery, 31(4), 1060-1089. https://doi.org/10.1007/s10618-017-0506-1.
Fuente de los datos: Dialnet