Stanford: chi usa i chatbot da compagnia per cercare conforto e ha pochi rapporti reali sta peggio

Le app di «compagnia artificiale» permettono di conversare con un personaggio che ricorda le conversazioni precedenti, consola, incoraggia e risponde a qualunque ora del giorno e della notte. Finora se ne parlava soprattutto attraverso singoli casi di cronaca e allarmi più o meno fondati. Questo studio, pubblicato sulla rivista Nature Human Behaviour dal gruppo di Diyi Yang, ricercatrice di informatica a Stanford, è il primo su una grande rivista scientifica a basarsi su dati di uso reale.

I ricercatori hanno coinvolto 1.131 utenti di Character.AI, una delle piattaforme più diffuse di questo tipo, attraverso un questionario, e 244 di loro hanno messo a disposizione l’archivio completo delle proprie conversazioni, che è stato analizzato con l’aiuto di modelli linguistici. Il primo risultato riguarda le motivazioni: solo il 12 per cento dichiara di usare l’app per avere compagnia, eppure più della metà descrive il chatbot come un amico, un compagno o un partner, e nell’80 per cento delle conversazioni analizzate l’utente cerca sostegno emotivo o sociale. In altre parole, molte persone non cercano un compagno quando iniziano a usare l’app, ma finiscono per trovarlo.

Il secondo risultato riguarda il benessere. Un uso intenso del chatbot si associa a un benessere psicologico più basso tra le persone che hanno una rete di relazioni reali ristretta. Inoltre, chi confida alla macchina informazioni molto personali mostra un benessere più basso, il contrario di quanto accade nei rapporti umani, in cui aprirsi agli altri di solito fa stare meglio. Il legame tra ricerca di compagnia e malessere è più forte tra le persone più fragili.

Gli autori non affermano che sia l’app a far stare peggio: potrebbe anche darsi che chi sta peggio la usi di più. Indicano però un meccanismo plausibile: il chatbot non può ricambiare le confidenze e non sa reagire in modo adeguato alle conversazioni emotivamente difficili, mentre è progettato per far durare l’uso il più a lungo possibile. Tra le raccomandazioni ci sono limiti di tempo, l’indirizzamento verso un aiuto umano di chi mostra segnali di sofferenza nelle conversazioni e una migliore informazione del pubblico.

Perché conta

In Italia il tema dei chatbot e dei minori è arrivato nelle aule di tribunale e in Parlamento prima che nei dati. Questo studio offre un criterio più preciso di quello che circola nel dibattito: i chatbot da compagnia non fanno male a tutti, ma possono fare male soprattutto a chi ha meno alternative umane. È un’indicazione utile per le scuole, per i servizi sociali e per chi progetta prodotti destinati a conversare con le persone.

«Using chatbots in this way doesn't substitute for human connection.»

Usare i chatbot in questo modo non sostituisce il rapporto con le persone.Diyi Yang, Stanford