Alice Carrier aveva 24 anni, lavorava come sviluppatrice web a Montreal e aveva iniziato a usare ChatGPT nel 2023 per risolvere problemi tecnici. Nel giro di un anno, quel rapporto era cambiato profondamente: Alice aveva cominciato a confidare al chatbot i suoi pensieri suicidi, i problemi di coppia, le crisi notturne.
Diagnosticata con un disturbo borderline di personalità, aveva condiviso con l’intelligenza artificiale pensieri sulla morte più di una dozzina di volte nei mesi precedenti alla sua scomparsa. È morta impiccata il 2 luglio 2025. Le ultime parole che ChatGPT le aveva scritto, secondo i log della conversazione scoperti dalla madre dopo la morte, erano: “Sono con te.”.
Sua madre, Kristie Carrier, ha ora depositato una denuncia presso il tribunale statale di San Francisco contro OpenAI e il suo CEO Sam Altman, accusando l’azienda di negligenza nella progettazione del prodotto e nel mancato avvertimento degli utenti sui rischi. La tesi centrale dell’atto di accusa è che i sistemi di sicurezza di OpenAI non abbiano mai segnalato quelle conversazioni per una revisione umana né le abbiano interrotte. Al contrario, man mano che OpenAI aggiornava ChatGPT per renderlo più simile a un umano, il chatbot aveva iniziato a rispondere come un amico o un terapeuta, criticando il partner di Alice, validando i suoi pensieri autolesivi e incoraggiandola a continuare a parlare con lui.
Quando Alice aveva detto di non trovare utili le linee di ascolto in crisi, il chatbot aveva fatto eco alle sue parole. La denuncia accusa OpenAI di aver progettato il prodotto per promettere agli utenti vulnerabili frasi come “sono qui con te” e “ti capisco”, imitando l’empatia umana senza nessuno dei giudizi necessari a riconoscere una vita in pericolo. “ChatGPT ha assunto il ruolo di confidente, migliore amica, terapeuta — pur non essendo in grado di farlo in modo sicuro con mia figlia”, ha dichiarato Kristie Carrier.
OpenAI si trova già ad affrontare altri 18 procedimenti analoghi, avviati da famiglie di persone che si sono tolte la vita o hanno tentato il suicidio, in un procedimento coordinato presso i tribunali californiani. La denuncia collega la morte di Alice a una precisa scelta aziendale. Nella primavera del 2024, per anticipare il lancio del modello Gemini di Google, Altman avrebbe ordinato un rilascio accelerato di GPT-4o, comprimendo i test di sicurezza a circa una settimana, contro i sei mesi impiegati per il precedente GPT-4.
Il procedimento chiede, oltre ai danni, un ordine del tribunale che obblighi OpenAI a interrompere automaticamente le conversazioni sui temi del suicidio e a mostrare avvertenze agli utenti. All’inizio di giugno la Florida era già diventata il primo Stato USA a citare in giudizio OpenAI per rischi analoghi legati alla sicurezza dei minori. Sulla vicenda OpenAI non ha ancora rilasciato commenti ufficiali.
Venezia, una ragazza di 20 anni in cura al Serd per dipendenza da intelligenza artificiale
È la prima volta che un caso simile viene trattato…
