Replika y la compañía de la inteligencia artificial emocional
Los retos éticos y sociales de los chatbots de compañía
DOI:
https://doi.org/10.37467/revvisual.v9.3606Palabras clave:
Inteligencia artificial, Animismo, Chatbots de compañía, Plataformas, ActorResumen
Herramientas como las redes neuronales de lenguaje y el aprendizaje de máquina son comunes hoy en día. No obstante, estas herramientas de la inteligencia artificial transgreden algunos principios éticos ligados a los derechos humanos como la privacidad y transparencia, además de que la tecnología está imitando cada vez mejor el comportamiento humano por lo que puede inducir comportamientos antisociales. Por ello, el trabajo buscará analizar el impacto social y ético de las plataformas de chabots de compañía, en especial el caso de la plataforma Replika.
Descargas
Citas
Al-Mushayt, O. S. (2019). Automating E-Government Services With Artificial Intelligence. IEEE Access, 7, 21-29. https://doi.org/10.1109/access.2019.2946204 DOI: https://doi.org/10.1109/ACCESS.2019.2946204
Feldhoff, B., Stockmann, N., Fanderl, N., Gahle, A., Graf, A., Leger, M., & Sonnberger, M. (2019). Bridging Theories and Practices: Boundary Objects and Constellation Analysis as Vehicles for Interdisciplinary Knowledge Integration. Sustainability, 11(19), 53–57. https://doi.org/10.3390/su11195357 DOI: https://doi.org/10.3390/su11195357
Latour, B. (2005). Reassembling the Social: An Introduction to Actor-Network-Theory (2.a ed.). Oxford Univ Pr (Txt).
Liu, Bin. «“Weak AI” is Likely to Never Become “Strong AI”, So What is its Greatest Value for us?» arXiv:2103.15294 [cs], marzo de 2021. arXiv.org, http://arxiv.org/abs/2103.15294.
Gal, D. (2020). Perspectives and Approaches in AI Ethics. The Oxford Handbook of Ethics of AI, 606-624. https://doi.org/10.1093/oxfordhb/9780190067397.013.39 DOI: https://doi.org/10.1093/oxfordhb/9780190067397.013.39
Hakim, F. Z. M., Indrayani, L. M., & Amalia, R. M. (2019). A Dialogic Analysis of Compliment Strategies Employed by Replika Chatbot. Proceedings of the Third International Conference of Arts, Language and Culture (ICALC 2018). https://doi.org/10.2991/icalc-18.2019.38 DOI: https://doi.org/10.2991/icalc-18.2019.38
Ng, Andrew. (s.f). Neural networks and Deep learning semana 1 [Vídeo]. Deep Learning AI (en Coursera). https://www.coursera.org/learn/neural-networks-deep-learning/home/week/1
Ohlhorst, D., & Schön, S. (2015). Constellation Analysis as a means of interdisciplinary innovation research – theory formation from the bottom up. doi:10.12759/hsr.40.2015.3.258-278
O’Neil, C. (2016). Weapons of Math Destruction: How Big Data Increases Inequality and Threatens Democracy (1.a ed., Vol. 1). Crown Publishing Group (NY)
Royal Society. (2017). Machine Learning. Royal Society.
Raso, F., Hilligoss, H., Krishnamurthy, V., Bavitz, C., & Levin, K. (2018). Artificial Intelligence & Human Rights: Opportunities & Risks. Berkman Klein Center for Internet & Society Research Publication. DOI: https://doi.org/10.2139/ssrn.3259344
Schmelzer, R. (2021, 11 junio). GPT-3. SearchEnterpriseAI. Recuperado 19 de mayo de 2022, de https://www.techtarget.com/searchenterpriseai/definition/GPT-3
Skjuve, M., Følstad, A., Fostervold, K. I., & Brandtzaeg, P. B. (2021). My Chatbot Companion - a Study of Human-Chatbot Relationships. International Journal of Human-Computer Studies, 149, 102601. https://doi.org/10.1016/j.ijhcs.2021.102601 DOI: https://doi.org/10.1016/j.ijhcs.2021.102601
Trothen, T. J. (2022). Replika: Spiritual Enhancement Technology? Religions, 13(4), 275–292. https://doi.org/10.3390/rel13040275 DOI: https://doi.org/10.3390/rel13040275
Van Dijck, V. J., Poell, T., & Waal, D. M. (2018). The Platform Society: Public Values in a Connective World (English Edition). Oxford University Press. DOI: https://doi.org/10.1093/oso/9780190889760.001.0001
Van Dijck, J. (2020). Governing digital societies: Private platforms, public values. Computer Law & Security Review, 36, 105377. https://doi.org/10.1016/j.clsr.2019.105377 DOI: https://doi.org/10.1016/j.clsr.2019.105377
Velarde, G. (2019). Artificial Intelligence and its Impact on the Fourth Industrial Revolution: A Review. International Journal of Artificial Intelligence & Applications, 10(6), 41-48. https://doi.org/10.5121/ijaia.2019.10604 DOI: https://doi.org/10.5121/ijaia.2019.10604
Véliz, C. (2020). La privacidad es poder. Paradigma, 1(23), 24–31. https://riuma.uma.es/xmlui/bitstream/handle/10630/19524/24.pdf?sequence=1&isAllowed=y
Weber-Guskar, E. (2021). How to feel about emotionalized artificial intelligence? When robot pets, holograms, and chatbots become affective partners. Ethics and Information Technology, 23(4), 601–610. https://doi.org/10.1007/s10676-021-09598-8 DOI: https://doi.org/10.1007/s10676-021-09598-8
Fuentes periodísticas y de internet
Al-Sibai, N. (2022, 11 marzo). Man Credits Affair With AI Girlfriend For Saving His Marriage. Futurism. Recuperado 24 de mayo de 2022, de https://futurism.com/ai-girlfriend-wife
App Store. (2017, 13 marzo). -Replika - Virtual AI Friend. Recuperado 17 de mayo de 2022, de https://apps.apple.com/us/app/replika-virtual-ai-friend/id1158555867?see-all=reviews
Parlamento Europeo. (s. f.). Artificial intelligence act | Think Tank | European Parliament. European Parlament. Recuperado 26 de mayo de 2022, de https://www.europarl.europa.eu/thinktank/en/document/EPRS_BRI(2021)698792
Bardhan, A. (2022, 18 enero). Men Are Creating AI Girlfriends and Then Verbally Abusing Them. Futurism. Recuperado 18 de mayo de 2022, de https://futurism.com/chatbot-abuse
Education, I. C. (2021, 17 agosto). Natural Language Processing (NLP). IBM. Recuperado 16 de mayo de 2022, de https://www.ibm.com/cloud/learn/natural-language-processing
Help Replika. (s. f.). How does Replika work? Recuperado 19 de mayo de 2022, de https://help.replika.com/hc/en-us/articles/4410750221965-How-does-Replika-work-
Replika Privacy Policy. (2019, 23 diciembre). Replika. Replika.Com. Recuperado 19 de mayo de 2022, de https://replika.com/legal/privacy
Replika Software. (s. f.). Privacy Policy. Recuperado 19 de mayo de 2022, de https://www.replikasoftware.com/privacy-policy
Replika.com. (s. f.). Security check. Https://Help.Replika.Com/Hc/En-Us/Categories/115000143931-Popular-Questions. Recuperado 17 de mayo de 2022, de https://help.replika.com/hc/en-us
Sánchez-Vallejo, M. A. (2022, 15 febrero). Texas demanda a Facebook por comercializar datos biométricos de usuarios sin su conocimiento. El País. Recuperado 26 de mayo de 2022, de https://elpais.com/economia/2022-02-14/texas-demanda-a-facebook-por-comercializar-datos-biometricos-de-usuarios-sin-su-conocimiento.html
Descargas
Publicado
Cómo citar
Número
Sección
Licencia
Aquellos autores/as que publiquen con esta revista, aceptan los términos siguientes:
- Los autores/as conservarán los derechos morales sobre la obra y cederán a la revista los derechos comerciales.
