La criminalización de las ultrafalsificaciones (con especial atención a las implicaciones de la normativa europea de servicios digitales e inteligencia artificial)

  1. Santisteban Galarza, Mario 1
  1. 1 Universidad del País Vasco (UPV/EHU)
Revista:
Revista de Derecho Penal y Criminología

ISSN: 1132-9955

Año de publicación: 2024

Número: 31

Páginas: 211-249

Tipo: Artículo

DOI: 10.5944/RDPC.ENERO.2024.38890 DIALNET GOOGLE SCHOLAR lock_openAcceso abierto editor

Otras publicaciones en: Revista de Derecho Penal y Criminología

Resumen

La Inteligencia Artificial presenta riesgos que están siendo atendidos por distintas ramas del ordenamiento jurídico. Una subespecie de estos sistemas, los llamados modelos generativos, presentan una particularidad como es que pueden crear todo tipo de contenidos, entre ellos ultrafalsificaciones (comúnmente conocidos como deep fakes), esto es, representaciones de personas realizando comportamientos que no tuvieron lugar en un principio. Recientemente la criminalización de las ultrafalsificaciones se ha planteado tanto en el ordenamiento jurídico comunitario como el nacional. El presente trabajo analiza la respuesta que las citadas reformas presentan ante las ultrafalsificaciones de carácter sexual, enmarcándolas en el complejo marco regulatorio europeo de las ultrafalsificaciones, que establece obligaciones adicionales a los operadores de estos sistemas relevantes para el Derecho penal.

Referencias bibliográficas

  • Abadía Selman, A., «La protección penal de los trabajadores frente a la inteligencia artificial en el ámbito del delito de discriminación laboral», Revista General de Derecho Penal, 39, 2023, págs. 1-61.
  • Aires De Sousa, S., «Portuguese report on traditional criminal law categories and AI», RIDP, Vol. 94 issue 1, 2023, págs. 319-330.
  • Ajder, H., Patrin, G., Cavalli, F. y Cullen, L., «The State of Deepfakes: Landscape, Threats, and Impact», 2019 Disponible en: https://regmedia.co.uk/2019/10/08/deepfake_report.pdf.
  • Bergamini, E., «Combating violence against women and domestic vio- lence: From the Istanbul convention to the EU framework: the proposal for an EU directive», Freedom, Security & Justice: European Legal Studies, n. 2, 2023, págs. 21-48.
  • Broughton Micova, S. y Calef, A., «Elements for effective systemic risk assessment under the DSA», CERRE, 2023, Disponible en: https:// cerre.eu/publications/elements-for-effective-systemic-risk-assessment-under-the-dsa/.
  • Ciancaglini, V., Gibson, C. y Sancho, D., «Malicious Uses and Abuses of Artificial Intelligence», Trend Micro Research, 2020, Disponible en: https://www.europol.europa.eu/cms/sites/default/files/documents/malicious_uses_and_abuses_of_artificial_intelligence_europol.pdf.
  • Citron, D. y Chesney, R., «Deep Fakes: A Looming Challenge for Privacy, Democracy, and National Security», California Law Review, 197, 2019, págs.1769-1820.
  • Comisión Europea, «Libro blanco sobre la inteligencia artificial. Un enfoque europeo orientado a la excelencia y la confianza», 2020, Disponible en: https://eur-lex.europa.eu/legal-content/ES/TXT/PDF/?uri= CELEX:52020DC0065&from=ES.
  • De La Mata Barranco, N. J., «Reflexiones sobre el bien jurídico a proteger en el delito de acceso informático ilícito (art. 197 bis cp)», Cuadernos de política criminal, Núm. 118, 2016, págs. 43-86.
  • Devis Matamoros, A., «Criminalización de las fake news en redes sociales: ¿necesidad de intervención o derecho penal simbólico?», Revista General de Derecho Penal, Vol. 37, 2022, págs. 1-31.
  • Devis Matamoros, A., Algunas claves del castigo penal del deepfake de naturaleza sexual, Iberconect, 2023, Disponible en: https://www.ibericonnect.blog/2023/07/ algunas-claves-del-castigo-penal-del-deepfake-de-naturaleza-sexual/.
  • Dobber, T., Metoui, N., Trilling, D., Helberger, N. y De Vreese, C., «Do (Microtargeted) Deepfakes Have Real Effects on Political Attitudes?, The International Journal of Press/Politics, 26(1), págs. 69-91. https://doi.org/10.1177/1940161220944364.
  • Europol Innovation Lab, «Facing reality? Law enforcement and the challenge of deepfakes», 2022, disponible en: https://www.europol.eu- ropa.eu/publications-events/publications/facing-reality-law-enforcement-and-challenge-of-deepfakes.
  • Europol, «ChatGPT The impact of Large Language Models on Law Enforcement», 2023, Disponible en: https://www.europol.europa.eu/me- dia-press/newsroom/news/criminal-use-of-chatgpt-cautionary-taleabout-large-language-models.
  • Galán Muñoz, A., «La internacionalización de la represión y la persecución de la criminalidad informática: un nuevo campo de batalla en la eterna guerra entre prevención y garantías penales», Revista Penal, Núm. 24, 2009, págs. 90-107.
  • Galán Muñoz, A., Libertad de expresión y responsabilidad penal por contenidos ajenos en internet. Un estudio sobre la incidencia penal de la ley 34/2002 de Servicios de la Sociedad de la Información y el Comercio Electrónico, Tirant monografías, Valencia, 2010.
  • Gómez Tomillo, M., Responsabilidad penal y civil por Delitos Cometidos a través de Internet, Aranzadi, Navarra, 2006.
  • Grandi, C., «Positive obligations (garantestellung) grounding criminal responsibility for not having avoided an il-legal result connected to the Ai functioning», RIDP, Vol. 94 issue 1, 2023, págs. 67-77.
  • Hacker, P., Engel, A. y Mauer, M., «Regulating ChatGPT and other Large Generative AI Models», en ACM Conference on Fairness, Accountability, and Transparency (FAccT ’23), June 12–15, 2023, págs. 1123-1223.
  • High Level Expert Group On Fake News And Online Disinformation, «A multi-dimensional approach to disinformation», 2018, Disponible en: https://digital-strategy.ec.europa.eu/en/library/final-report-high- level-expert-group-fake-news-and-online-disinformation.
  • Husovec, M., «Rising above liability: the Digital Services Act as a blueprint for the second generation of global internet rules», Berkeley Technology Law Journal, Vol. 38. 2023, págs. 101-137.
  • Ice, J., «Defamatory Political Deepfakes and the First Amendment», Case W. Rsrv. L. Rev, Vol. 417, 2019, págs. 417-455.
  • Juanatey Dorado, C. «Protección penal de la intimidad frente a la utilización ilícita de medios digitales. Un análisis de la reciente doctrina jurisprudencial», Revista General de Derecho Penal, 39, 2023, págs. 1-45.
  • Kübek, G., «Facing and embracing the consequences of mixity: Opinion 1/19, Istanbul Convention», Common Market Law Review, 59(5), 2022, págs. 1465-1500.
  • León Alapont, J., «El Derecho penal ante las fake news y la desinformación: una vuelta de tuerca», Revista General de Derecho Penal, 39, 2023, págs. 1-59.
  • Lloria García, P., «Delitos y redes sociales: los nuevos atentados a la intimidad, el honor y la integridad moral». Especial referencia al «sexting», La Ley Penal, Nº 105, Sección Estudios, Noviembre-Diciembre, 2013, págs. 1-10.
  • Lloria García, P., «La violencia sobre la mujer en el siglo xxi: sistemas de protección e influencia de las tecnologías de la información y la comunicación en su diseño», La Ley Penal, nº 138, mayo-junio, 2019, págs. 1-21.
  • Lloria García, P., «La difusión de imágenes íntimas sin consentimiento (A propósito de la Sentencia 70/2020 del Tribunal Supremo de 24 de febrero de 2020)», LA LEY privacidad , Nº 4, Sección El foro de la privacidad, Segundo trimestre de 2020, págs. 1-7.
  • Maddocks, S., «A Deepfake Porn Plot Intended to Silence Me’: exploring continuities between pornographic and ‘political’ deep fakes», Porn Studies, 7:4, 2020, págs. 415-423.
  • Marí Farinos, E., «La lucha contra la violencia de género en el derecho comparado, con especial referencia a Europa», Diario La Ley, Nº 9128, Sección Tribuna, 29 de enero de 2018, págs. 1-17.
  • Mendo Estrella, A., «Delitos de descubrimiento y revelación de secretos: acerca de su aplicación al sexting entre adultos», Revista Electrónica de Ciencia Penal y Criminología, núm. 18-16, 2016, págs. 1-27.
  • Miguel Asensio, P. M., «Obligaciones de diligencia y responsabilidad de los intermediarios: el Reglamento (UE) de Servicios Digitales», La Ley Unión Europea, Núm. 109, 2022, págs. 1-48.
  • Miguel Barrio, R., «El delito de injurias y las redes sociales. El número de ‘followers’ y otras variables ambientales como elementos de valoración del daño», Revista de Internet, Derecho y Política, N.º 36. 2022, págs. 1-13.
  • Miró Llinares, F., «Penal law and criminalization in the face of the challenges of AI. General report», RIDP, Vol, 2, 2024 (en prensa).
  • Miró Llinares, F., «Cibercriminalidad y responsabilidad de los prestadores de servicios a la luz de la normativa europea y de su interpretación por los Tribunales españoles», en Gómez Martín, V, (coord.), Garantías constitucionales y Derecho penal europeo, Marcial Pons, España, 2012, págs. 561-584.
  • Miró Llinares, F., «Injuriar es ofender: apuntes sobre la criminalización de los delitos contra el honor desde el enfoque teórico del daño/ofensa», en M., Cancio Meliá (ed), Libro homenaje al profesor Dr. Agustín Jorge Barreiro, UAM, Madrid, 2019, págs. 1161-1174.
  • Miró Llinares, F., «Inteligencia artifi cial, delito y control penal: nuevas refl exiones y al-«Inteligencia artificial, delito y control penal: nuevas reflexiones y algunas predicciones sobre su impacto en el derecho y la justicia penal», El Cronista del Estado Social y Democrático de Derecho, Vol. 100, 2022, págs. 174-183.
  • Moraiti, A., «AI Crimes and Misdemeanors: Debating the Boundaries of Criminal Liability and Imputation», RIDP, 2021, págs. 109-122.
  • Muñoz Conde, F., «La responsabilidad por el producto en el derecho penal español», Derecho & Sociedad, Núm. 49, 2017, págs. 253-279.
  • Muñoz Conde, F., Derecho Penal. Parte Especial, Tirant lo Blanch, Valencia, 2023.
  • Núñez Castaño, E., «La relevancia penal de las nuevas tecnologías y su incidencia en los denominados ciberdelitos: especial referencia a los delitos contra la intimidad», Revista General de Derecho Penal, Núm. 37, 2023, págs. 1-45.
  • Pablo Serrano, A., Honor, Injurias y Calumnias. Los delitos contra el honor en el Derecho histórico y en el derecho vigente español, Tirant lo Blanch, Valencia, 2018.
  • Palma Herrera, J. M., «Inteligencia artificial y ciencias penales. Aproximación a las bases de una compleja relación», en Galán Muñoz, A., y Mendoza Calderón, S., (coord.), Derecho penal y política criminal en tiempos convulsos, Tirant lo Blanch, Valencia, 2021, págs. 37-70.
  • Picotti, L., «Traditional Criminal law categories and AI: crisis or palingenesis? General report», RIDP, Vol. 94 issue 1, 2023, págs. 11-53.
  • Rodríguez Fernández, R. y Garrido Antón, M. J., «Violencia de género a través de internet (ciberviolencia): análisis psicológico-jurídico», La Ley Penal, Núm. 154, Sección Estudios, Enero-Febrero, 2022, págs, 1-11.
  • Sánchez-Ostiz, P., A vueltas con la Parte Especial (Estudios de Derecho Penal), Atelier, Barcelona, 2020.
  • Silva Sánchez, J. M., «¿Hasta qué punto son conductas neutras los servicios de Google, Facebook o Twitter?», InDret, 3.2023, págs. 1-3.
  • Silva Sánchez, J. M., El riesgo permitido en el Derecho penal económico, Atelier, Barcelona, 2022.
  • Simó Soler, E., «Retos jurídicos derivados de la Inteligencia Artificial Generativa Deepfakes y violencia contra las mujeres como supuesto de hecho», InDret, 2.2023, págs. 1-23.
  • Soler Presas, A., ¿»Am I in Facebook? Sobre la responsabilidad civil de las redes sociales on-line por la lesión de los derechos de la personalidad, en particular por usos no consentidos de la imagen de un sujeto», InDret, 3/2011, págs. 1-44.
  • UK Centre For Data Ethics And Innovation, «Snapshot Paper Deepfakesand Audiovisual Disinformation», 2020, Disponible en: https:// www.gov.uk/government/publications/cdei-publishes-its-first-seriesof-three-snapshot-papers-ethical-issues-in-ai/snapshot-paper-deepfakes-and-audiovisual-disinformation.
  • Vaccari, C. y Chadwick, A., «Deepfakes and Disinformation: Exploring the Impact of Synthetic Political Video on Deception, Uncertainty, and Trust in News», Social Media + Society, 6(1). 2020, págs. 1-23.
  • Valls Prieto, J., «Sobre la responsabilidad penal por la utilización de sistemas inteligentes», Revista Electrónica de Ciencia Penal y Criminología, 24-27, 2022, págs. 1-35.
  • Van Der Sloot, B. y Wagensveld, Y., «Deepfakes: regulatory challenges for the synthetic society», Computer Law & Security Review, Volume 46, 2022, págs. 1-15.
  • Zittrain, J., «The Generative Internet», Harvard Law Review, Vol. 119, 2006, págs. 1975-2023.
Fuente de los datos: Dialnet