Inteligencia artificial aplicada a la salud¿qué marco jurídico?

  1. Carlos María Romeo Casabona
  2. Guillermo Lazcoz Moratinos
Revista:
Revista de derecho y genoma humano: genética, biotecnología y medicina avanzada

ISSN: 1134-7198

Año de publicación: 2020

Número: 52

Páginas: 139-167

Tipo: Artículo

DIALNET GOOGLE SCHOLAR

Otras publicaciones en: Revista de derecho y genoma humano: genética, biotecnología y medicina avanzada

Resumen

La implementación de herramientas de Inteligencia Artificial en los ámbitos de la medicina y del cuidado de la salud es un reto lleno de oportunidades y riesgos. Desde un punto de vista jurídico la cuestión es igualmente compleja, en este artículo desarrollamos algunos de los interrogantes que se plantean desde distintas perspectivas; el régimen legal de los datos utilizados para alimentar algoritmos de aprendizaje automático; la automatización de la práctica clínica; o la opacidad de estos modelos y la atribución de responsabilidad profesional, entre otros. Son muchos los pasos que han de darse en la seguridad y validación de estos complejos algoritmos para que puedan integrarse en la asistencia sanitaria, del mismo modo, los argumentos jurídicos embrionarios que recogemos en este texto, tienen que ser objeto de un desarrollo más amplio para aportar seguridad jurídica a desarrolladores e instituciones involucradas en la aplicación de la Inteligencia Artificial a la salud.

Referencias bibliográficas

  • COTINO, Lorenzo, «Big data e inteligencia artificial. Una aproximación a su tratamiento jurídico desde los derechos fundamentales», Dilemata, Núm. 24, 2017
  • GARRIGA DOMÍNGUEZ, Ana, «La elaboración de perfiles y su impacto en los derechos fundamentales. Una primera aproximación a su regulación en el reglamento general de protección de datos de la Unión Europea», Derechos y Libertades, Rev del Inst Bartolomé las Casas, núm. 38, 2018
  • YEUNG, Karen, «Algorithmic regulation: A critical interrogation», Regul Gov., Núm. 12, Vol. 4, 2018.
  • DEL RÍO SOLÁ, María L. / LÓPEZ SANTOS, José M. / VAQUERO PUERTA, Carlos, «La inteligencia artificial en el ámbito médico». Rev Española Investig Quirúrgica, núm. 21, vol. 3, 2018
  • BODEN, Margaret A., Inteligencia Artificial. Turner, Madrid, 2017
  • BROUSSARD, Meredith, Artifi cial Unintelligence: How Computers Misunderstand the World. MIT Press, 2019.
  • OBERMEYER, Ziad / EMANUEL Ezekiel J., «Predicting the Future – Big Data, Machine Learning, and Clinical Medicine». N Engl J Med., Núm. 375, Vol. 13, 2016
  • ESTEVA, André, et ál., «A guide to deep learning in healthcare», Nat Med., núm. 25, vol. 1, 2019.
  • CABITZA, Federico / CIUCCI, Davide / RASOINI Raffaele, «A Giant with Feet of Clay: On the Validity of the Data that Feed Machine Learning in Medicine». En: CABITZA F, BATINI C, MAGNI M (eds.), Organizing for the Digital World. Cham: Springer International Publishing, 2019.
  • YU, Kung-Hsing / BEAM, Andrew L. / KOHANE, Isaac S., «Artifi cial intelligence in healthcare», Nat Biomed Eng, Núm. 2, Vol. 10, 2018, pp. 719-31.
  • RAJKOMAR, Alvin / DEAN, Jeffrey / KOHANE Isaac, «Machine Learning in Medicine», N Engl J Med, núm. 380, vol. 14, 2019, pp. 1347-58.
  • AAVV, en NORDLINGER, B, VILLANI, C, (Dirs.), Santé et intelligence artifi cielle, CNRS Éds., Paris, 2018.
  • WENG, Stephen F., et ál., «Prediction of premature all-cause mortality: A prospective general population cohort study comparing machine-learning and standard epidemiological approaches». PLoS One, Núm. 14, Vol. 3, 2019, pp. 1-22.
  • YU, Kung-Hsing / BEAM, Andrew L. / KOHANE, Isaac S., «Artifi cial intelligence in healthcare», Nat Biomed Eng, Núm. 2, Vol. 10, 2018.
  • RODRIGUEZ-RUIZ, Alejandro, et al., «Stand-Alone Artificial Intelligence for Breast Cancer Detection in Mammography: Comparison With 101 Radiologists». JNCI J Natl Cancer Inst., Núm. 111, Vol. 9, 2019, pp. 916-922.
  • FERRETTI, Agata / SCHNEIDER, Manuel / BLASIMME, Alessandro, «Machine learning in medicine: Opening the New Data Protection Black Box», European Data Protection Law Review, Núm. 4, Vol. 3, 2018, pp. 320-32
  • ZERILLI, John, et ál., «Transparency in Algorithmic and Human Decision- Making: Is There a Double Standard?», Philosophy and Technology., Vol. 32, 2019, pp. 661-683.
  • V. European Group on Ethics in Science and New Technologies (EGE), Future of Work? Future of Society?, European Commission, Brussels, 2018.
  • MONJE, Beatriz, et ál., «Errar ya no es solo humano», Revista OFIL-ILAPHAR, Núm. 29, Vol. 2, 2019, p. 164.
  • European Group on Ethics in Science and New Technologies (EGE), Artificial Intelligence, Robotics and ‘Autonomous’ Systems, European Commission, Brussels, 2018
  • FLORIDI, Luciano, «What the Near Future of Artifi cial Intelligence Could Be», Philosophy and Technology, Núm. 32, Vol. 1, 2019
  • PÉREZ SANTONJA. T., et ál., «Historia clínica electrónica : evolución de la relación médicopaciente en la consulta de Atención Primaria», Semergen, Núm. 43, Vol. 3, 2017, pp.175-81.
  • TAI-SEALE, Ming, et al., «Electronic health record logs indicate that physicians split time evenly between seeing patients and desktop medicine», Health Aff., Núm. 36, Vol.4, 2017, pp. 655-62.
  • GARDNER, Rebekah L., et ál., «Physician stress and burnout: the impact of health information technology», Journal of the American Medical Informatics Association, Núm. 26, Vol. 2, 2019, pp. 106-14.
  • TOPOL, Eric J., Deep Medicine: How Artifi cial Intelligence Can Make Healthcare Human Again. Basic Books, Inc., 2019, p. 400.
  • NÚÑEZ REIZ, A. / ARMENGOL DE LA HOZ, M.A. / SÁNCHEZ GARCÍA M., «Big Data Analysis y Machine Learning en medicina intensiva», Medicina Intensiva, Núm. 43, Vol. 7, Octubre 2019, pp. 416-26.
  • ROMEO CASABONA, Carlos María (Coord.) / NICOLÁS JIMÉNEZ, Pilar / DE MIGUEL BERIAIN, Iñigo, Retos éticos y necesidades normativas en la actividad asistencial en Medicina Personalizada de Precisión. Fundación Instituto Roche, 2018
  • ROMEO CASABONA, Carlos María, «Revisión de las categorías jurídicas de la normativa europea ante la tecnología del big data aplicada a la salud», Revista de Derecho y Genoma Humano / Law and the Human Genome, Núm. Extra 1, 2019, pp. 85-127.
  • ROMEO CASABONA, Carlos María, «El nuevo marco normativo europeo sobre protección de datos personales y el estatuto de las muestras biológicas humanas y de los biobancos para investigación biomédica», en Comunicaciones en Propiedad Industrial y Derecho de la Competencia, Vol. 86, 2019, pp. 215-238.
  • ROMEO CASABONA, Carlos María , «The new European legal framework on personal data protection and the legal status of biological samples and biobanks for biomedical research purposes in Spanish Law», en SLOKENBERGA, S. TZORTZATOU, O. y REICHEL, J. (Eds.), Article 89 of the General Data Protection Rule and biobanking in Europe, Springer, en prensa.
  • MAIER N. / OSSOINING V., “Einzelne Bereiche der Datenverarbeitung”, en ROSSNAGEL, A. (Hrsg.), Europäische Datenschutz-Grundverordung, Nomos Verlag, Baden-Baden, 2017
  • GIL GONZÁLEZ, Elena, Big data, privacidad y protección de datos, AEPD y BOE, Madrid, 2016
  • V. European Group on Ethics in Science and New Technologies (EGE), Artificial Intelligence, Robotics and ‘Autonomous’ Systems, European Commission, Brussels, 2018.
  • CRISTEA UIVARU, Lucía, La protección de datos sensible: Historia Clínica Digital y Big Data en Salud, J.B. Bosch Editor, Barcelona, 2018.
  • CARUANA, Rick, et al., «Intelligible Models for HealthCare: Predicting Pneumonia Risk and Hospital 30-day Readmission», en Proceedings of the 21th ACM SIGKDD International Conference on Knowledge Discovery and Data Mining, New York, NY, USA: ACM, 2015, pp. 1721–30.
  • FERRETTI, Agata / SCHNEIDER, Manuel / BLASIMME, Alessandro, «Machine learning in medicine: Opening the New Data Protection Black Box», Eur Data Prot Law Rev., Núm. 4, Vol. 3, 2018
  • DE MIGUEL BERIAIN, Iñigo, «Does the use of risk assessments in sentences respect the right to due process? A critical analysis of the Wisconsin v. Loomis ruling». Law, Probability and Risk, Núm. 17, Vol. 1, 2018, pp. 45-53
  • ROMEO CASABONA, Carlos María. «Riesgo, procedimientos actuariales basados en inteligencia artifi cial y medidas de seguridad». Revista Penal, Núm. 42, 2018, pp. 165-79.
  • HALLEVY, Gabriel, Liability for Crimes Involving Artifi cial Intelligence Systems. Springer, Heidelberg, 2015.
  • ROMEO CASABONA, Carlos María, «La atribución de responsabilidad penal por los hechos cometidos por robots y otros sistemas inteligentes autónomos»,
  • ROMEO CASABONA, Carlos María / SOLA RECHE, Esteban / BOLDOVA PASAMAR, Miguel Angel (Coords.), Derecho Penal, Parte General. Introducción. Teoría Jurídica del Delito, 2ª ed., Comares, Granada, 2016.
  • BOLDOVA PASAMAR en ROMEO CASABONA en ROMEO CASABONA, Carlos María / SOLA RECHE, Esteban / BOLDOVA PASAMAR, Miguel Angel (Coords.), Derecho Penal, Parte General. Introducción. Teoría Jurídica del Delito, cit., en pp. 352 y s.ta de Derecho Penal, Rubinzal Culzoni, Rosario, en prensa
  • PERIN, Andrea, «Estandarización y automatización en medicina: El deber de cuidado del profesional entre la legítima confianza y la debida prudencia», Revista Chilena de Derecho y Tecnología, Núm. 8, Vol. 1, 2019
  • ROMEO CASABONA, Carlos María, El Médico y el Derecho Penal, T. II, V. 1º Los problemas penales actuales de la Biomedicina, Rubinzal– Culzoni, Santa Fe, 2011.
  • ROMEO CASABONA en ROMEO CASABONA, Carlos María, SOLA RECHE E, BOLDOVA PASAMARMA, (Coords.). Derecho Penal, Parte General. Introducción. Teoría Jurídica del Delito,
  • AVATI, Anand, et al., «Improving palliative care with deep learning». BMC Med Inform Decis Mak., Núm. 18, Vol. 4, 2018
  • SÁNCHEZ CARO, Javier, «Autonomía del paciente y ocultación de datos sanitarios», DS Derecho y Salud, Núm. 26, Extra, 2016
  • DE MIGUEL BERIAIN, Iñigo, «Medicina personalizada, algoritmos predictivos y utilización de sistemas de decisión automatizados en asistencia sanitaria. Problemas éticos», Dilemata, Núm. 30, 2019,
Fuente de los datos: Dialnet