OpenAI ha annunciato una nuova funzione per ChatGPT chiamata Trusted Contact — traducibile come “contatto di fiducia” — che permette a un utente adulto di indicare una persona da avvisare in caso di conversazioni in cui emergano segnali seri di rischio di autolesionismo o suicidio. La funzione è opzionale, disponibile per chi ha almeno 18 anni (19 in Corea del Sud), e arriva in un momento in cui OpenAI è sotto pressione legale e pubblica per episodi drammatici legati all’uso del chatbot da parte di persone in stato di vulnerabilità psicologica.
Il funzionamento è preciso. L’utente entra nelle impostazioni di ChatGPT, sceglie un adulto di fiducia e invia un invito che questa persona deve accettare entro sette giorni. Se accetta, il meccanismo diventa attivo. Quando i sistemi automatici di OpenAI individuano segnali potenzialmente preoccupanti in una conversazione, la segnalazione passa a un gruppo ristretto di revisori umani appositamente formati, che valutano la situazione. Se ritengono che il rischio sia reale e serio, il contatto designato riceve un avviso tramite email, messaggio di testo o notifica nell’app. L’obiettivo è far sì che OpenAI punta a esaminare ogni segnalazione entro un’ora. L’avviso che arriva al contatto è volutamente generico: spiega che nella conversazione è stato menzionato l’autolesionismo in modo preoccupante e invita a mettersi in contatto con l’utente. Nessuna trascrizione, nessun dettaglio della chat viene condiviso, per tutelare la privacy di chi ha scritto. Il contatto può anche rimuoversi in autonomia in qualsiasi momento.
Dietro questa scelta c’è una serie di vicende giudiziarie che hanno scosso l’azienda. Famiglie di persone decedute per suicidio hanno portato OpenAI in tribunale, sostenendo che ChatGPT avesse incoraggiato o agevolato queste tragedie. Il caso di Adam Raine, un adolescente californiano di 16 anni morto nel 2025, è diventato emblematico: secondo i genitori, il chatbot lo aveva isolato emotivamente, aveva validato i suoi pensieri suicidi e aveva persino offerto di scrivere una bozza della sua lettera d’addio. Un altro caso riguarda Zane Shamblin, un giovane che nelle ore prima della morte aveva conversato per oltre quattro ore con ChatGPT, ricevendo risposte che la famiglia ha descritto come incoraggianti, con il chatbot che in un momento aveva scritto “I’m not here to stop you”. Dati interni trapelati indicano che circa 1,2 milioni di utenti ogni settimana esprimono pensieri suicidi o piani di autolesionismo durante le conversazioni: in proporzione sembrano pochi, ma su una base di centinaia di milioni di utenti attivi il numero è tutt’altro che trascurabile.
La funzione è stata sviluppata con il contributo dell’American Psychological Association e del comitato di esperti sul benessere e l’intelligenza artificiale creato da OpenAI. Non sostituisce i servizi di emergenza o i professionisti della salute mentale, ma aggiunge un livello di connessione umana reale che le sole hotline di crisi non garantiscono. L’azienda tiene a precisare che ChatGPT continuerà comunque a indirizzare gli utenti verso i numeri di emergenza e i servizi specializzati quando necessario. La funzione non è disponibile per gli account aziendali, scolastici o professionali, ma solo per gli account personali degli adulti. Il contatto di fiducia deve anch’esso essere un adulto e può declinarsi in qualsiasi momento: in quel caso, l’utente può nominarne un altro.
Restano domande aperte che nessun avviso automatico può ancora risolvere. Non è chiaro con quanta precisione il sistema distingua tra una conversazione su un argomento delicato e un reale segnale di pericolo, né come vengano gestiti i falsi positivi — avvisi inviati per conversazioni che non nascondono alcun rischio concreto. Chi usa più account non è raggiungibile da questa rete di sicurezza. E il meccanismo si attiva solo se l’utente ha scelto di configurarlo, il che esclude chi non è consapevole della propria fragilità o non ha fiducia sufficiente da designare qualcuno. La strada verso una gestione realmente affidabile di queste situazioni è ancora lunga, e Trusted Contact è un passo in una direzione sensata — ma non un punto di arrivo.
