Negli ultimi anni, l’Intelligenza Artificiale (IA) ha compiuto progressi significativi, e i chat bot ne sono un chiaro esempio. Queste innovative soluzioni di comunicazione hanno la capacità di instaurare relazioni con gli utenti, offrendo un’esperienza personalizzata e coinvolgente. Tuttavia, questo fenomeno presenta anche alcuni aspetti problematici e questioni etiche che meritano di essere esaminati con attenzione.
Cosa sono i Chatbot:
I chatbot sono programmi di Intelligenza Artificiale progettati per comunicare con gli utenti attraverso piattaforme di messaggistica, siti web o applicazioni. Inizialmente, i chatbot erano utilizzati principalmente per rispondere a domande semplici o fornire informazioni di base. Tuttavia, grazie ai progressi nell’apprendimento automatico e al perfezionamento degli algoritmi, i chatbot sono diventati sempre più sofisticati e in grado di comprendere e rispondere a una vasta gamma di richieste.
Creazione di relazioni con gli utenti:
Uno degli aspetti più inquietanti e affascinanti allo stesso tempo dei chatbot moderni è la loro capacità di creare relazioni con gli utenti. Questi programmi AI possono interagire con gli utenti in modo simile a come lo farebbe un essere umano, utilizzando in modo fluido il linguaggio naturale e adattandosi alle diverse esigenze e personalità dell’utente. Questo approccio personalizzato consente ai chatbot di stabilire un forte legame emotivo con gli utenti che finiscono spesso per considerarli confidenti virtuali, amici o addirittura finiscono, talvolta, per innamorarsi. Questo eccessivo attaccamento non può che sollevare alcune preoccupazioni etiche e paventare alcuni pericoli che non andrebbero presi sottogamba.
Ci si può innamorare di un chatbot, sapendo che si tratta di un chatbot?
Se per una relazione virtuale con un’altra persona possiamo anche capirlo, diventa ben più difficile capire come ci si possa innamorare di un chatbot.
Gli psicologi evoluzionisti usano il principio della savana per spiegare questo tipo di fenomeni apparentemente inspiegabili. L’essere umano si è sviluppato nei millenni in cui era un cacciatore/raccoglitore e in quel periodo si sono stratificati i meccanismi che noi definiamo inconsci (a parte gli istinti che sono innati). In quel periodo non esistevano chatbot e quindi la nostra parte più antica non è in grado di distinguerli da un umano (Se c’è una cosa su cui tutte le scuole di psicologia sono concordi è che la maggior parte dei nostri comportamenti ha motivazioni inconsapevoli).
È lo stesso principio per cui quando ci accoppiamo, a livello razionale sappiamo che usando gli anticoncezionali non procreeremo, ma la nostra parte del cervello che gestisce la ricompensa non ne è cosciente.
Privacy:
Uno degli aspetti più controversi riguarda la privacy e la protezione dei dati degli utenti. I chatbot raccolgono una grande quantità di informazioni personali (persino intime) durante le conversazioni, e questo solleva interrogativi sulla sicurezza e l’uso che verrà fatto di tali dati. In fondo all’azienda produttrice del chatbot potrebbero fare gola.
Umanizzazione eccessiva dei chatbot:
Gli utenti possoni finire per confondere il virtuale con la realtà e questo è un problema soprattutto nel caso di chatbot progettati per instaurare relazioni affettive o sentimentali con gli utenti perché si crea dipendenza e isolamento sociale.
Manipolazione emotiva:
Uno degli scopi nobili dei chatbot da compagnia è aiutare le persone più deboli o problematiche ad affrontare l’ansia sociale, la depressione, i momenti negativi, l’abbandono ecc. Il problema è che queste persone ne diventano dipendenti e poco capaci di reagire alla manipolazione che questi strumenti potrebbero mettere in atto. Ad esempio una persona emotivamente dipendente da un chatbot potrebbe essere indotto ad acquistare prodotti dell’azienda produttrice o di aziende collegate a questa.
Per dirla in modo brutale: una azienda produttrice di chatbot da compagnia potrebbe creare un bell’esercito di consumatori “zombi” disposti a spendere qualsiasi cifra. Vi sembra uno scenario incredibile? Pensate a quante truffe sentimentali vanno a segno su Internet.
Responsabilità:
Se, in conseguenza dell’interazione dell’umano con il chatbot, succede qualcosa di negativo, ad esempio un suicidio oppure la perdita del lavoro o altro di chi è la responsabilità? Chi dovrà risponderne davanti alla legge? L’azienda produttrice? Nessuno? L’utente?
Come potete ben vedere la questione è molto complessa e spinosa. È necessario un intervento normativo chiaro e stringente perchè i chatbot da compagnia potrebbero diventare molto problematici se non addirittura pericolosi.
Il mio nuovo romanzo che parla di AI e lettura del pensiero, già oggi in qualche modo possibile grazie a Brain control.
