Robotica sociale e inganno: questioni etiche

Autore tesi:

Laura Vincitorio

Anno accademico:

2024/2025

Il presente elaborato analizza alcuni temi etici legati alla diffusione della robotica sociale. La social robotics costituisce un ambito applicativo dell’Intelligenza Artificiale volto allo sviluppo di robot capaci di interagire e comunicare con gli esseri umani, tentando di riprodurre un linguaggio il più possibile familiare e naturale. Si tratta, dunque, di dispositivi creati per svolgere il ruolo di partner sociali.

Per tale motivo ho ritenuto fondamentale soffermarmi sulla componente di inganno insita nel loro design. Quando parliamo di inganno all’interno della robotica sociale, infatti, non ci si riferisce a un elemento accidentale o eliminabile, bensì a una
costante strutturale prevista già a livello progettuale. Per ottimizzare il funzionamento di questi robot è necessario che essi assumano un linguaggio, un comportamento e, nella maggior parte dei casi, anche un aspetto non propriamente macchinico, ma il più possibile vicino a quello umano, simulando, dunque, di possedere stati mentali, emozioni e, più in generale, un’interiorità che la macchina, in realtà, non possiede.
La tesi si articola in quattro capitoli. I primi due capitoli sono dedicati all’inquadramento dell’inganno come problema etico generale, dapprima in chiave descrittiva e successivamente normativa, estendendo poi l’analisi ad alcune tematiche ad esso collegate. Tra queste emerge il tema della fiducia, intesa come fondamento, consapevole o inconsapevole, delle relazioni umane e come dimensione che l’inganno tende inevitabilmente a compromettere o corrompere. Mediante l’analisi del pensiero di vari autori, ho successivamente approfondito i concetti di autoinganno e antropomorfizzazione, processi naturali per l’essere umano e centrali nelle sue possibilità di interazione con il mondo esterno. Una volta analizzate tali questioni, i capitoli finali sono dedicati all’indagine di due specifici ambiti di applicazione della robotica, ovvero quello dell’affettività e dell’intimità sessuale e quello della cura. Nel terzo capitolo ho esaminato lo sviluppo e l’utilizzo di robot impiegati come animali domestici, amici e partner sentimentali, includendo in quest’ultima categoria i sex robot, dispositivi progettati per l’attività sessuale e, potenzialmente, per la costruzione di un legame affettivo. Da tali applicazioni emergono numerose problematiche etiche, legate soprattutto alla componente di inganno presente nella relazione. Per instaurare connessioni emotive, questi robot simulano infatti la capacità di provare emozioni e possedere stati mentali, suggerendo così la possibilità di una reciprocità con l’utente umano, laddove ci si trova invece di fronte a relazioni esclusivamente unidirezionali. Tuttavia, l’incoraggiamento di false credenze finalizzate alla creazione di una connessione empatica sembra essere, nella maggior parte dei casi, necessario al funzionamento stesso dell’interazione ed è pertanto promosso anche dalle aziende produttrici. L’analisi di diversi autori si concentra quindi sulla definizione di concetti quali amicizia e amore, interrogandosi sulla legittimità morale della produzione di macchinari progettati appositamente per suscitare negli utenti emozioni e sentimenti di attaccamento, incentivando così il processo immaginativo di antropomorfizzazione. Nel quarto capitolo ho invece preso in esame un ulteriore ambito applicativo della robotica sociale: quello della compagnia terapeutica. In questo caso non si fa riferimento tanto alla robotica destinata al sollevamento o al trasporto dei pazienti, quanto piuttosto a dispositivi che tendono a sostituirsi ai ruoli di caregiving, con l’obiettivo di fornire cura soprattutto attraverso la relazione empatica. Le questioni etiche affrontate dagli autori assumono qui un carattere ancora più urgente, poiché l’inganno è rivolto alle fasce di popolazione più vulnerabili, come bambini, anziani e persone affette da deficit cognitivi. Anche in questo contesto i filosofi si interrogano sulla definizione stessa di cura e sulle componenti della relazione terapeutica che devono essere preservate affinché essa possa essere considerata eticamente accettabile, discutendo inoltre la possibilità e la legittimità dell’inganno terapeutico. Infine, ho brevemente analizzato un particolare ambito dello sviluppo tecnologico contemporaneo: quello delle grief technologies, connesse alla possibilità di oltrepassare i limiti della finitudine umana. Si tratta della progettazione di surrogati digitali di persone scomparse, finalizzati ad accompagnare il processo di elaborazione del lutto e a fornire supporto emotivo. Un esempio è rappresentato dall’azienda sudcoreana re;memory. La peculiarità di questi sistemi di deep learning consiste nel fatto che tali surrogati non si limitano a imitare il defunto e a rispondere in modo verosimile, ma sono anche in grado di apprendere nuove informazioni e sviluppare memorie che la persona scomparsa non ha mai potuto esperire. In una società contemporanea in cui la morte è progressivamente divenuta un tabù, qualcosa da allontanare il più possibile, uno sviluppo tecnologico di questo tipo potrebbe condurre a profonde trasformazioni dell’identità umana, rinunciando alla dimensione della finitudine in favore di una forma di immortalità digitale. Si tratterebbe, in altri termini, di sostituire alla morte un’altra forma di vita, seppur differente.
In conclusione, questo studio propone diversi approcci e possibili reazioni alla diffusione dei dispositivi automatici relazionali, evidenziando tuttavia una diffusa contrarietà alla sostituzione del protagonismo umano con le tecnologie all’interno della realtà sociale.

Bibliografia
-Aristotele (1999), Etica Nicomachea, a cura di C. Natali, Laterza, Bari.
-Asimov I. (1957), The Naked Sun, HarperCollins Publishers, New York.
-Baier A. C. (1995), Moral Prejudices: Essay on Ethics, Harvard University Press, Cambridge.
-Baier A. C. (1986), Trust and Antitrust, in «Ethics», 96, pp. 231-260.
-Balistreri M. (2018), Sex Robot: L’amore al tempo delle macchine, Fandango Libri, Roma.
-Blackford R. (2012), Robots and reality: a reply to Robert Sparrow, in «Ethics and Information Technology», 14, pp. 41-51.
-Bok S. (2003), Mentire: Una scelta morale nella vita pubblica e privata, a cura di Massimo Baldini, Armando Editore, Roma.
-Bond C. F., Robinson M. (1988), The evolution of deception, in «Journal of Nonverbal Behavior», 12, pp. 295-307.
-Botti C. (2014), Prospettive Femministe: Morale, bioetica e vita quotidiana, Mimesis, Milano.
-Bryson J. J. (2010), Robots should be slaves, in «Natural Language Processing», 8, pp.
63-74.
-Cañamero L., Lewis M. (2016), Making New “New AI” Friends: Designing a Social Robot for Diabetic Children from an Embodied AI Perspective, in «International Journal of Social Robotics», 8, pp. 523-537.
-Cheok A., Levy D., Karunanayaka K. (2016), Lovotics: Love and Sex with Robots, in «Springer Science+Business Media Singapore», 4, pp. 1-26.
-Chisolm R. M., Feehan T. D. (1977), The intent to Deceive, in «The Journal of Philosophy», 74, pp. 143-159.
-Coeckelbergh M. (2010), Moral appearances: emotions, robots, and human morality, «Ethics Inf Technol», 12, pp. 235-241.
-Coeckelbergh M. (2011), Are emotional robots deceptive?, in «IEEE Transaction on Affective Computing», 4, pp. 388-410.
-Coeckelbergh M. (2011), Can we trust robots?, in «Ethics and Information Technology», 14, p. 53-60.
-Coeckelbergh M. (2015), Artificial agents, good care, and modernity, in «Theoretical medicine and bioethics», 36, pp. 265-277.
-Coeckelbergh M. (2016), Care robots and the future of ICT-mediated elderly care: a response to doom scenarios, in «AI & Soc», 31, pp. 455-462.
-Collins E. C. (2017), Vulnerable users: deceptive robotics, in «Connection Science», 29, pp. 223-229.
-Danaher J. (2017), Should We Be Thinking About Sex Robots?, in Danaher J., McArthur N., Robot Sex: Social and Ethical Implications, MIT Press, pp. 1-24.
-Danaher J. (2019), The Philosophical Case for Robot Friendship, in «Journal of Posthuman Studies», 3, pp. 5-24.
-Darling K. (2017), Who’s Johnny? Anthropomorphic Framing in Human-Robot Interaction, Integration, and Policy, in Lin P. et al., Robot Ethics 2.0, Oxford University Press, pp. 1-21.
-Darling K., Nandy P., Breazeal C. (2015), Empathic concern and the effect of stories in human-robot interaction, in «IEEE International Symposium on Robot and Human Interactive Communication», pp. 770-775.
-De Graaf M., Allouch S., Klamer T. (2015), Sharing a life with Harvey: Exploring the acceptance of and relationship-building with a social robot, in «Computers in Human Behavior», 43, pp. 1-14.
-De Graaf M. (2016), An Ethical Evaluation of Human-Robot Relationships, in «International Journal of Social Robotics», 8, pp. 589-598.
-Diamond C. (2006), L’immaginazione e la vita morale, a cura di P. Donatelli, Carocci,Roma.
-Emmeche C. (2014), Robot Friendship: Can a Robot be a Friend?, in «International Journal of Signs and Semiotic Systems», 3, pp. 26-42.
-Fosch-Villaronga E. & Albo-Canals J. (2019), “I’ll take care of you”, said the robot, in «Paladyn: Journal of Behavioral Robotics», 10, pp. 77-93.
-Fossa F. (2024), Etica dell’inganno e intelligenza artificiale: il caso della robotica sociale, «Ethics&Polithics», 2, pp. 31-44.
-Foucault M. (2015), L’uso dei piaceri, Vol. 2, a cura di L. Guarino, Feltrinelli, Milano.
-Galletti M., Zipoli Caiani S. (2024), Filosofia dell’Intelligenza Artificiale: Sfide etiche e teoriche, il Mulino, Bologna.
-Gambetta D. (1988), Trust: Making and Breaking Cooperative Relations, Basil Blackwell, Oxford.
-Gilligan C. (2016), In a Different Voice, Harvard University Press, Cambridge.
-Grodzinsky F. S., Miller K. W., Wolf M. J. (2015), Developing Automated Deceptions and the Impact on Trust, in «Springer», 28, pp. 91-105.
-Holton R. (1994), Deciding to Trust, Coming to Believe, in «Australasian Journal of Philosophy», 72, pp. 63-76.
-Huang et al., Modeling and Controlling Friendliness for An Interactive Museum robot, https://www.roboticsproceedings.org/rss10/p25.pdf.
-Johnson D. J., Verdicchio M. (2018), Why robots should not be treated like animals, in «Ethics and Information Technology», 20, pp. 291-301.
-Jones K. (1996), Trust as an Affective Attitude, in «The University of Chicago Press», 107, pp. 4-25.
-Kant I. (1785), Fondazione della metafisica dei costumi, a cura di Andrea Tettamanti, Armando Editore, Roma.
-Lee M. et al. (2019), Caring for Vincent: A Chatbot for Self-Compassion, in «Association for Computing Machiney», pp. 1-13.
-Leo-Liu J. (2022), Loving a “defiant” AI companion? The gender performance and ethics of social exchange robots in simulated intimate interactions, in «Computers in Human Behavior», 141, pp. 1-11.
-Levy D. (2007), Love and Sex with Robots: The Evolution of Human-Robot Relationships, Harper, New York.
-McFall M. T. (2012), Real character-friends: Aristotelian friendship, living together, and technology, in «Springer Science+Business Media», 14, pp. 221-230.
-Mori M. (1970, 2012), The Uncanny Valley, in «Energy», 7, 4, pp. 33-35.
-Nissenbaum H., Roessler B., Susser D. (2019), Technology, autonomy, and manipulation, in «Internet Policy Review», 8, pp. 1-22.
-Nyholm S. (2023), Artificial Intelligence, Ethics of, in «Encyclopedia of the Philosophy of Law and Social Philosophy», pp. 1-10.
-Nyholm S. & Frank L. (2017), From Sex Robots to Love Robots: Is Mutual Love with a Robot Possible?, in Nyholm S., Frank L., Robot Sex: Social and Ethical Implications, MIT Press, Cambridge, pp. 219-244.
-O'Neill O. (2002), Autonomy and trust in bioethics, Cambridge University Press, Cambridge.
-Pedrini P. (2013), L’autoinganno: che cos’è e come funziona, Laterza, Bari.
-Platone (1979), Simposio, a c. di G. Colli, Adelphi, Milano.
-Rodogno R. (2016), Social robots, fiction, and sentimentality, in «Ethics and Information Technology», 18, pp. 157- 178.
-Ryan M. (2020), In AI We Trust. Ethics, Artificial Intelligence, and Reliability, in «Science and Engineering Ethics», 26, pp. 2749-2767.
-Scheutz M. (2011), The Inherent Dangers of Unidirectional Emotional Bonds between Human and Social Robots, https://hrilab.tufts.edu/publications/roboethicsicra09.pdf.
-Sharkey A., Sharkey N. (2010), The crying shame of robot nannies: An ethical appraisal, in «Interaction Studies», 11, pp. 161-190.
-Sharkey A., Sharkey N. (2011), Children, the Elderly, and Interactive Robots: Anthropomorphism and Deception in Robot Care and Companionship, in «IEEE Robotics and Automation Magazine», 18, pp. 32-38.
-Sharkey A., Sharkey N. (2012), Granny and the robots: ethical issues in robot care for the elderly, in «Ethics Inf Technol», 14, pp. 27-40.
-Sharkey A., Sharkey N., The rights and Wrongs of Robot Care, in «Robot ethics and social implication of robotics», pp. 217-282, https://www.dhi.ac.uk/san/waysofbeing/data/governance-crone-sharkey-2012....
-Sharkey A., Sharkey N. (2021), We need to talk about deception in social robotics!, in «Ethics and Information Technology», 23, pp. 309-316.
-Simpson D. (1992), Lying, Liars and Language, in «Philosophy and Phenomenological Research», 52 (3), pp. 623-640.
-Sparrow R., Sparrow L. (2006), In the hands of machines? The future of aged care, in «Minds & Machines», 16, pp. 141-161.
-Sparrow R. (2002), The march of the robot dogs, in «Ethics and Information Technology», 4, pp. 305-318.
-Sparrow R. (2016), Robots in aged care: a dystopian future?, in «AI & Soc», 31, pp. 445-454.
-Sullins J. P. (2012), Robots, Love and Sex: The Ethics of Building a Love Machine, in «IEEE Transaction on Affective Computing», 3, pp. 398-409.
-Sweeney P. (2023), Trusting social robots, in «AI Ethics», 3, pp. 419-126.
-Taddeo M. (2009), Defining Trust and E-Trust: From Old Theories to New Problems, in «International Journal of Technology and Human Interaction», 5, pp. 1-23.
-Tafani D. (2022), What’s wrong with “AI ethics” narratives, in «Bollettino telematico di filosofia politica», pp. 1-22.
-Vaassen B. (2022), AI, Opacity, and Personal Autonomy, in «Philosophy and Technology», 35, pp. 1-20.
-Van Wynsberghe A. (2016), Service robots, care ethics, and design, in «Ethics Inf Technol», 18, pp. 311-321.
- Zizek S. (2002), The Zizek Reader, Blackwell, Londra.