Ética, Imagen Personal y Desinformación en la Era de los Deepfakes
DOI:
https://doi.org/10.62161/revvisual.v18.5930Palabras clave:
Deepfake, Inteligencia Artificial, Ética, Desinformación, Imagen personalResumen
La creciente relevancia de la cultura visual digital plantea grandes interrogantes relacionados con la curación de imágenes, el respeto a los derechos de imagen y la protección de la privacidad. En este contexto, el desarrollo de la tecnología deepfakes agrava estos problemas al permitir una manipulación audiovisual sin precedentes. Este artículo analiza las implicaciones éticas, legales y sociales de la creación y difusión de deepfakes, enfatizando la problemática de la falsificación de identidades. Asimismo, examina las medidas de control y regulación implementadas por las plataformas digitales para detectar y limitar la distribución de este tipo de contenido, apuntando hacia la necesidad de pautas éticas claras. También se aborda la capacidad de los deepfakes para reforzar sesgos y narrativas discriminatorias, deteriorando la confianza en la información visual perpetuando estereotipos dañinos en el imaginario colectivo.
Descargas
Estadísticas globales ℹ️
|
18
Visualizaciones
|
23
Descargas
|
|
41
Total
|
|
Citas
Ajder, H., Patrini, G., Cavalli, F., & Cullen, L. (2019). The State of Deepfakes: Landscape, Threats, and Impact. Deeptrace Labs Report. Disponible en:
https://regmedia.co.uk/2019/10/08/deepfake_report.pdf
Ayers, D. (2021). The limits of transactional identity: Whiteness and embodiment in digital facial replacement. Convergence, 27(4), 1018-1037. 10.1177/13548565211027810 DOI: https://doi.org/10.1177/13548565211027810
Bañuelos, J. (2022). Evolución del Deepfake: campos semánticos y géneros discursivos (2017-2021). Revista ICONO 14. Revista Científica De Comunicación Y Tecnologías Emergentes, 20(1). https://doi.org/10.7195/ri14.v20i1.1773 DOI: https://doi.org/10.7195/ri14.v20i1.1773
Baudrillard, J. (1999). Sur la photographie. París: Sens & Tonka.
Bayer, J., Holznagel, D. B., Katarzyna, L., Pace, A., Szakács, J., & Uszkiewicz, E. (2021). Disinformation and propaganda: Impact on the functioning of the rule of law and democratic processes in the EU and its Member States: 2021 update. European Parliament Policy Department for External Relations. https://bit.ly/3WHc8ZM DOI: https://doi.org/10.2139/ssrn.4090610
Berenguel Fernández, J., & Fernández Gómez, J. (2018). La eficacia de la comunicación en la convergencia mediática: propuesta de metodología de estudio y aplicación de casos. Trípodos, (43), 37-56. DOI: https://doi.org/10.51698/tripodos.2018.43.37-56
Berenguer, X. (2016). A chupar del bote. RM Verlag
Bode, L., Lees, D., & Golding, D. (2021). The Digital Face and Deepfakes on Screen. Convergence, 27(4), 849-854. 10.1177/13548565211034044 DOI: https://doi.org/10.1177/13548565211034044
Brown, M., & Fleming, E. (2020). Celebrity headjobs: Or oozing squid sex with a framed-up leaky. Porn Studies, 7(4), 357-366. http://dx.doi.org/10.1080/23268743.2020 DOI: https://doi.org/10.1080/23268743.2020.1815570
Busacca, A., & Monaca, M. A. (2023). Deepfake: Creation, Purpose, Risks. En Marino, D. y Monaca, M. A. (eds.), Innovations and Economic and Social Changes due to Artificial Intelligence: The State of the Art (pp. 55-68). Springer Nature Switzerland. 10.1007/978-3-031-334610_6 DOI: https://doi.org/10.1007/978-3-031-33461-0_6
Buxó, M.J. (1999). De la investigación audiovisual. Fotografía, cine, vídeo, televisión. Barcelona: Proyecto A Ediciones.
Castro Monge, E. (2010). El estudio de casos como metodología de investigación y su importancia en la dirección y administración de empresas. Revista Nacional de Administración, 1(12), 31-54. doi:https://doi.org/10.22458/rna.v1i2.332 DOI: https://doi.org/10.22458/rna.v1i2.332
Chesney, R., & Citron, D. (2018). Deep Fakes: A Looming Challenge for Privacy, Democracy, and National Security. California Law Review, 107(6), 1753-1816.
DOI: https://doi.org/10.2139/ssrn.3213954 DOI: https://doi.org/10.2139/ssrn.3213954
Chesney, R., & Citron, D. (2019). Deepfakes and the New Disinformation War: The Coming Age of Post-Truth Geopolitics. Foreign Affairs.
Disponible en: https://www.jstor.org/stable/26798018
Citron, D. (2014). Hate crimes in cyberspace. Harvard University Press. DOI: https://doi.org/10.4159/harvard.9780674735613
Congreso de los Diputados. (2023). Proposición de Ley [BOCG, Serie B, 15-B-23-1].https://bit.ly/40CHHFn
Diakopoulos, N., & Johnson, D. (2021). Anticipating and addressing the ethical implications of deepfakes in the context of elections. New Media & Society, 23(7), 2072-2098. 10.1177/1461444820925811 DOI: https://doi.org/10.1177/1461444820925811
European Parliamentary Research Service. (2023). Tackling deepfakes in European policy. Publicación del Parlamento Europeo.https://bit.ly/40Xu6tG
Fernández, Á. (2017). Relatos híbridos: El papel de la narratividad en la visualización de información interactiva [Tesis doctoral, Universidad Europea]. Repositorio Abacus https://193.147.239.238/handle/11268/6981
Fletcher, R. (2018). The truth behind fake news in a post-factual age. Palgrave Studies in Communication.
Fundación Telefónica. (2023). Fake News. La fábrica de mentiras [Exposición]. Madrid, España: Espacio Fundación Telefónica. Recuperado de https://bit.ly/3EeEBQo
García, M. (2023, octubre 15). Zuckerberg elimina verificación de datos en Facebook e Instagram, modelo de Elon Musk en X. ElDiario.es. https://bit.ly/40TiUhM
Godinho Bilro, R., & Correia Loureiro, S. (2020). A consumer engagement systematic review: synthesis and research agenda. Spanish Journal of Marketing - ESIC, 24(3), 283-307. DOI: https://doi.org/10.1108/SJME-01-2020-0021
Gosse, C., & Burkell, J. (2020). Politics and porn: how news media characterizes problems presented by deepfakes. Critical Studies in Media Communication, 37(5), 497-511. DOI: https://doi.org/10.1080/15295036.2020.1832697
Greenough, C. J. (2022). Make it, Fake it and Get Away with it? The Role of Toxic Masculinity and Threat Perception within Cases, Policies, and Legislation Surrounding Deep Fakes. Master Thesis, University of Auckland. https://hdl.handle.net/2292/61261
Haseena, S., Saroja, S. & Nivetha, A. (2023). TVN: Detect Deepfakes Images using Texture Variation Network. Inteligencia Artificial, 26(72), 1–14. https://doi.org/10.4114/intartif.vol26iss72pp1-14 DOI: https://doi.org/10.4114/intartif.vol26iss72pp1-14
Kirchengast, T. (2020). Deepfakes and image manipulation: Criminalisation and control. Information & Communications Technology Law, 29(3), 308-323. 10.1080/13600834.2020.1794615 DOI: https://doi.org/10.1080/13600834.2020.1794615
Li, M., & Wan, Y. (2023). Norms or fun? The influence of ethical concerns and perceived enjoyment on the regulation of deepfake information. Internet Research, 33(5), 1750-1773. 10.1108/INTR-07-2022-0561 DOI: https://doi.org/10.1108/INTR-07-2022-0561
Liz-López, H, Keita, M., Taleb-Ahmed, A. Abdenour, H., Huertas-Tato, J., Camacho, D. (2023). Generación y detección de contenidos audiovisuales multimodales manipulados: Avances, tendencias y desafíos abiertos. Fusión de Información, pp.102-103 DOI: https://doi.org/10.1016/j.inffus.2023.102103
Lu, G., & Ebrahimi, T. (2024). A New Approach to Improve Learning-based Deepfake Detection in Realistic Conditions. arXiv preprint arXiv:2203.11807.
Maddocks, S. (2020). Deepfake Porn, Revenge Porn, and Gendered Violence. Feminist Media Studies, 20(7), 976–990. DOI: https://doi.org/10.1080/23268743.2020.1757499
Mahashreshty, V. S. (2023). Implications of deepfake technology on individual privacy and security (Culminating Projects in Information Assurance No. 142). St. Cloud State University. https://repository.stcloudstate.edu/msia_etds/142
Matthews, T. (2023). Deepfakes, fake barns, and knowledge from videos. Synthese, 201 (2). https://doi.org/10.1007/s11229-022-04033-x. DOI: https://doi.org/10.1007/s11229-022-04033-x
Mekkawi, L. (2023). The challenges of Digital Evidence usage in Deepfake Crimes Era. Journal of Law and Emerging Technologies, 3(2), 176-232. DOI: https://doi.org/10.54873/jolets.v3i2.123
Meskys, E., Kalpokiene, J., Jurcys, P., & Liaudanskas, A. (2020). Regulating deep fakes: legal and ethical considerations. Journal of Intellectual Property Law & Practice, 15(1), 24-31. DOI: https://doi.org/10.1093/jiplp/jpz167
Ministerio del Interior (2023). Informe de Cibercriminalidad en España 2023. (Referencia sin URL oficial.)
Moher, D., Shamseer, L., Clarke, M., Ghersi, D., Liberati, A., Petticrew, M., … PRISMA-P Group. (2009). Preferred reporting items for systematic review and meta-analysis protocols (PRISMA-P) 2015 statement. Syst Rev, 4(1). DOI: https://doi.org/10.1186/2046-4053-4-1
Molina Montoya, N. P. (2005). Herramientas para investigar: ¿Qué es el estado del arte? Ciencia y Tecnología para la Salud Visual y Ocular, (4), 73-75. DOI: https://doi.org/10.19052/sv.1666
Montasari, R. (2024). Responding to Deepfake Challenges in the United Kingdom: Legal and Technical Insights with Recommendations. En Montasari, R. (ed.), Cyberspace, Cyberterrorism and the International Security in the Fourth Industrial Revolution: Threats, Assessment and Responses (pp. 241-258). Springer International Publishing. 10.1007/978-3-031-50454-9_12 DOI: https://doi.org/10.1007/978-3-031-50454-9_12
Mukta, N., Mustak, M., & Naitali, A. (2023). An investigation of the effectiveness of deepfake models and tools. Journal of Sensor and Actuator Networks, 12(4), 61. https://doi.org/10.3390/jsan12040061 DOI: https://doi.org/10.3390/jsan12040061
Mustak, M., Salmien, J., Mäntymäki, M., Rahman, A. & Dwivedi, Y.K. (2023). Deepfakes: Deceptions, Mitigations and Opportunities. Journal of Business Research, 154. DOI: https://doi.org/10.1016/j.jbusres.2022.113368
Ng, A., & Leung, M. (2020). Toward a strong AI for deepfake governance: Ethical implications. (Referencia sin datos.)
Nikolakopoulos, A., Segui, M., Pellicer, A. B., Kefalogiannis, M., Gizelis, C., Marinakis, A., Nestorakis, K., & Varvarigou, T. (2023). BigDaM: Efficient Big Data Management and Interoperability Middleware for Seaports as Critical Infrastructures. Computers, 12(11), Article 11. https://doi.org/10.3390/computers12110218 DOI: https://doi.org/10.3390/computers12110218
Pantserev, K. A. (2020). The Malicious Use of AI-Based Deepfakes Technology as the New Threat to Psychological Security and Political Stability. En Jahankhani, H., Kendzierskyj, S., Chelvachandran, N. y Ibarra, J. (eds.), Cyber Defence in the Age of AI, Smart Societies and Augmented Humanity (pp. 37-55). Springer International Publishing. 10.1007/978-3-030-35746-7_ DOI: https://doi.org/10.1007/978-3-030-35746-7_3
Paris, B., & Donovan, J. (2019). Deepfakes and Cheap Fakes: The Manipulation of Audio and Visual Evidence. Data & Society Research Institute. DOI: https://doi.org/10.69985/GTFQ8529
Disponible en: https://datasociety.net/library/deepfakes-and-cheap-fakes/
Peele, J., & BuzzFeed. (2018). You Won't Believe What Obama Says In This Video! [Video]. YouTube. https://www.youtube.com/watch?v=cQ54GDm1eL0
Pérez, J. (2023, diciembre 18). Bruselas abre una investigación formal contra X por vulnerar las normas sobre moderación de contenidos. Cinco Días. https://bit.ly/3El4b6n
Rizzica, F. (2021). Protección del bienestar en la era de los deep fakes. (Referencia sin datos concretos.)
Rodríguez, G., Gil, J., & García, E. (1996). Metodología de la investigación cualitativa. Ediciones Aljibe.
Rössler, A., Cozzolino, D., Verdoliva, L., Riess, C., Thies, J., & Niessner, M. (2019). FaceForensics++: Learning to detect manipulated facial images. Proceedings of the IEEE/CVF International Conference on Computer Vision (ICCV). DOI: https://doi.org/10.1109/ICCV.2019.00009
Sánchez, M., Palella, S., & Fernández, A. (2024). Implementación de herramientas de Inteligencia Artificial en la detección de vídeos falsos y ultrafalsos (deepfakes): Caso de Radio Televisión Española (RTVE). VISUAL REVIEW. International Visual Culture Review/Revista Internacional de Cultura Visual, 16(4), 213-225. DOI: https://doi.org/10.62161/revvisual.v16.5303
Schick, N. (2020). Deepfakes: the coming infocalypse. Grand Central Publishing.
Shilpa, A., Varma, K., & Sur, S. (2023). Evaluating convolutional neural networks for deepfake detection. (Referencia sin datos concretos.)
Sohrawardi, S. J., Seng, S., Chintha, A., Thai, B., Hickerson, A., Ptucha, R., & Wright, M. (2020). Defaking DeepFakes: Understanding journalists’ needs for DeepFake detection. In Proceedings of the Computation+ Journalism 2020 Conference (Vol. 21). Northeastern University.
Tolosana, R., Vera-Rodríguez, R., Fierrez, J., Morales, A., & Ortega-Garcia, J. (2020). Deep Fakes and beyond: A survey of face manipulation and fake detection. Information Fusion, 64, 131-148. DOI: https://doi.org/10.1016/j.inffus.2020.06.014
UNESCO (2022). Recomendación sobre la Ética de la Inteligencia Artificial. https://unesdoc.unesco.org/ark:/48223/pf0000380455
Vaccari, C., & Chadwick, A. (2020). Deepfakes and Disinformation: Exploring the Impact of Synthetic Political Video on Deception, Uncertainty, and Trust in News. *Social Media + Society, 6(1).*1-13. https://doi.org/10.1177/2056305120903408 DOI: https://doi.org/10.1177/2056305120903408
Vargas, J., & Calvo, V. (1987). El estado del arte en la investigación educativa: su definición y significado. Perfiles Educativos, 35, 5-15.
Wagner, T. & Blewer, A. (2019). “The Word Real Is No Longer Real”: Deepfakes, Gender, and the Challenges of AI-Altered Video. Open Information Science, 3(1), 32-46. https://doi.org/10.1515/opis-2019-0003 DOI: https://doi.org/10.1515/opis-2019-0003
Wang, P. (2019). This person does not exist [Portal web]. Recuperado de https://thispersondoesnotexist.com
Westerlund, M. (2019). The Emergence of Deepfake Technology: A Review. Technology Innovation Management Review, 9(11), 39-52.
DOI: https://doi.org/10.22215/timreview/1282 DOI: https://doi.org/10.22215/timreview/1282
X. Yang, Y. Li, & S. Lyu (2019). Exposing deep fakes using inconsistent head poses. ICASSP 2019 - 2019 IEEE International Conference on Acoustics, Speech and Signal Processing (ICASSP), 8261–8265. DOI: https://doi.org/10.1109/ICASSP.2019.8683164
Yin, R. (1981). The case study crisis: Some answers. Administrative Science Quarterly, 26(1), 58-65 DOI: https://doi.org/10.2307/2392599
Zuckerberg, M. (2023, octubre 20). Actualización sobre las nuevas funcionalidades de Facebook [Video]. Facebook. https://www.facebook.com/zuck/videos/1525382954801931
Descargas
Publicado
Cómo citar
Número
Sección
Licencia
Derechos de autor 2026 Los autores/as conservan los derechos de autor y ceden a la revista el derecho de la primera publicación y el derecho de edición
Esta obra está bajo una licencia internacional Creative Commons Atribución-SinDerivadas 4.0.
Los autores/as que publiquen en esta revista aceptan las siguientes condiciones:
- Los autores/as conservan los derechos de autor.
- Los autores/as ceden a la revista el derecho de la primera publicación. La revista también posee los derechos de edición.
- Todos los contenidos publicados se regulan mediante una Licencia Atribución/Reconocimiento-SinDerivados 4.0 Internacional. Acceda a la versión informativa y texto legal de la licencia. En virtud de ello, se permite a terceros utilizar lo publicado siempre que mencionen la autoría del trabajo y a la primera publicación en esta revista. Si transforma el material, no podrá distribuir el trabajo modificado.
- Los autores/as pueden realizar otros acuerdos contractuales independientes y adicionales para la distribución no exclusiva de la versión del artículo publicado en esta revista (p. ej., incluirlo en un repositorio institucional o publicarlo en un libro) siempre que indiquen claramente que el trabajo se publicó por primera vez en esta revista.
- Se permite y recomienda a los autores/as a publicar su trabajo en Internet (por ejemplo en páginas institucionales o personales), una vez publicado en la revista y citando a la misma ya que puede conducir a intercambios productivos y a una mayor y más rápida difusión del trabajo publicado (vea The Effect of Open Access).
