Deepfakes, desinformación, discursos de odio y democracia en la era de la Inteligencia Artificial
ISSN: 2952-6116, 2952-6094
Year of publication: 2024
Issue Title: Los discursos de odio en los medios de comunicación audiovisual y su difusión en Internet
Issue: 12
Pages: 177-190
Type: Article
More publications in: Cuadernos del Audiovisual del Consejo Audiovisual de Andalucía
Abstract
La inteligencia artificial (IA) está transformando el mundo y esto implica que también presenta nuevos desafíos. Una de las mayores preocupaciones es el auge de los deepfakes, vídeos o audios manipulados para que parezcan reales. Esta tecnología tiene el potencial de ser utilizada para difundir desinformación, propaganda y discurso de odio, lo que representa una grave amenaza para la democracia. Los deepfakes son cada vez más sofisticados y difíciles de detectar. Esto significa que pueden ser utilizados para manipular a la opinión pública de forma muy efectiva. Por ejemplo, se pueden crear deepfakes de políticos diciendo cosas que nunca han dicho o de celebridades haciendo cosas que nunca han hecho. La difusión de deepfakes puede tener un impacto devastador en la sociedad. Puede erosionar la confianza en las instituciones, aumentar la polarización política y alimentar la violencia. En un mundo donde la gente no sabe qué creer, la democracia se vuelve vulnerable. Pero, ¿es verdaderamente la IA una amenaza para la democracia? No lo creo. Este escenario no debe conducirnos a considerar la IA como una amenaza inexorable a la democracia. La clave reside en asumir la responsabilidad colectiva de desarrollar mecanismos efectivos de detección, promover la alfabetización digital y el pensamiento crítico entre la ciudadanía y salvaguardar el compromiso con la veracidad y el debate constructivo en el ámbito digital. En lugar de ceder al pánico ante la posibilidad de manipulación, debemos enfocarnos en empoderar a los individuos para que puedan navegar con discernimiento en este complejo ecosistema informativo. Este artículo propone, por tanto, una perspectiva esperanzadora: en la batalla contra el uso malintencionado de la IA para fines de desinformación y odio, el verdadero desafío podría no ser la tecnología en sí, sino nuestro propio temor. Superar este miedo mediante la educación, el desarrollo de habilidades críticas y el fomento de una cultura de verificación y participación activa, puede no solo mitigar los riesgos asociados a los deepfakes, la desinformación o el discurso de odio, sino también reforzar los pilares de nuestra democracia en la era digital.
Bibliographic References
- Aral S. (2022, 6 de abril). Fake News about our Fake News Study Spread Faster than its Truth… Just as We Predicted. https://bit.ly/3TwE0Pt
- Acemoglu, D., & Robinson, J. A. (2012). Why nations fail: The origins of power, prosperity, and poverty. NY. Crown Business.
- Barro, Robert (1999). The Determinants of Democracy, Journal of Political Economy 107, S158-S183.
- Comisión Europea (2022). Tackling online disinformation. https://bit.ly/3v6TDDG
- Saner E. (2024, 31 de enero). Inside the Taylor Swift deepfake scandal: ‘It’s men telling a powerful woman to get back in her box’ The Guardian http://bit.ly/3v283F6
- Herman, E. S., & Chomsky, N. (1988). Manufacturing Consent: The Political Economy of the Mass Media. Pantheon Book
- Mercier h. (2020). Not Born Yesterday: The Science of Who We Trust and What We Believe. Princeton, NJ, Princeton University Press
- Morozov, Evgeny (2011). The net delusion: The dark side of internet freedom. PublicAffairs.
- Maçães B. (2024, 10 de enero). The year of voting dangerously. The New Stetesman. https://bit.ly/3v4fsUs
- Nyhan, B. (2020). Facts and myths about misperceptions. Journal of Ecnomics Pespectives, 34 (3): 220-36.
- Solow, R. M. (1957). Technical change and the aggregate production function. Review of Economics and Statistics, 39(3), 312-320.
- Savva Terentyev v. Rusia, Aplicación No. 001-185307 (TEDH, 28 de agosto de 2018). Recuperado de http://hudoc.echr.coe.int/eng#{"itemid":["001-185307"]}
- Sunstein, Cass R. (2001). Republic.com 2.0: How the Internet is changing democracy. Princeton University Press.
- Vosoughi, S., et al. (2018). The spread of true and false news online. Science, 359(6380), 1146-1151. https://doi.org/10.1126/science.aap9559
- Williams D. (2024, 24 de enero). AI-based disinformation is probably not a major threat to democracy https://bit.ly/3Isv8Us