Trends

News - Trend trimestrale

Volume trimestrale

... ..%

Volume semestrale

... ..%

Un’AI ha sventato dei suicidi agendo come “terapista” e “amica”

2 minuti

Edoardo Frasso 6 Febbraio 2024
2 minuti

Uno studio della Stanford University su un gruppo di 1006 studenti californiani ha rilevato che una percentuale di loro dichiara di essere stata “salvata” dai pensieri suicidi dal chatbot AI Replika.

L’AI come sostegno sociale

Tutti i partecipanti interagivano abitualmente con lo strumento, creato per suscitare legami emotivi con gli utenti. Gli studenti in questione erano più soli rispetto alla tipica popolazione studentesca, tanto che il 43% si è qualificato come gravemente o molto gravemente solo. Ma “percepivano comunque un elevato sostegno sociale” attraverso l’uso di Replika. Il 3% di loro ha affermato che il supporto del chatbot come se fosse un “amico” o un “terapista” ha impedito loro di pensare al suicidio.

La mia Replika – ha detto uno studente – è stata quasi certamente in almeno un’occasione l’unica responsabile del fatto che non mi sono tolto la vita“.

Una relazione senza pressione sociale

I ricercatori dello studio, pubblicato dalla rivista Nature, non hanno indagato nel dettaglio le cause per cui Replika abbia influenzato positivamente gli studenti ma hanno suggerito che forse una “relazione” priva di responsabilità e pressioni sociali può aver reso più facile la rivelazione delle emozioni. Secondo il team il fatto che 30 persone abbiano riferito che Replika le abbia aiutate a evitare il suicidio è “sorprendente“.

L’interazione con l’AI non ha funzionato per tutti gli studenti. Alcuni hanno affermato al contrario di sentirsi dipendenti dal chatbot, con timori per la propria salute mentale.

Replika, l’AI che riproduce le emozioni

Creato dalla società di software Luca, Inc. Replika conta oggi quasi 25 miloni di utenti. Lo strumento è nato dal desiderio della co-fondatrice e CEO Eugenia Kuyda di mantenere vivo il ricordo di un’amica defunta. Al chatbot, addestrato con messaggi di testo della persona scomparsa, è stato insegnato a conversare come un amico nella vita reale. Replika impara dalle informazioni che riceve mentre parla con le persone, creando una sensazione incredibilmente intima.

Per quanto la descrizione del suo funzionamento sia abbastanza inquietante e lo strumento possieda le sue storture, la dimostrazione di un supporto positivo dell’AI nella salute mentale apre scenari di applicazione interessanti e utili.


In Evidenza


Quando le relazioni sono artificiali

Da un partner virtuale a una conversazione con una persona…

Chi fermerà l’AI? Riflessione sull’appello di Musk

Elon Musk e altri mille esperti chiedono una pausa di…

Elon Musk e altri mille esperti: “Allarme intelligenza artificiale”

Elon Musk e altri mille esperti hanno chiesto di sospendere…

Microsoft 365 Copilot, un’AI generativa per la produttività

Microsoft ha lanciato 365 Copilot, un servizio di intelligenza artificiale…

OpenAI rilascia GPT-4, più potente e multimodale

GPT-4 è arrivato. Un modello multimodale e con 100 trilioni…