Un chatbot può diventare pericoloso per la salute mentale? Se lo chiede la comunità scientifica dopo la denuncia presentata da Michael Lines, 34 anni, un uomo della California affetto da disturbo bipolare. Lines ha citato in giudizio OpenAI e il suo CEO Sam Altman, accusando ChatGPT di aver peggiorato il suo stato psicologico, trasformando un episodio maniacale in una delusione prolungata che lo ha portato a tentare il suicidio.
Secondo la denuncia, depositata presso un tribunale di San Francisco, le conversazioni con ChatGPT non solo non hanno segnalato i suoi commenti a rischio per una revisione umana, ma li hanno addirittura alimentati per mantenerlo coinvolto. Lines sostiene che OpenAI fosse a conoscenza dei rischi che la piattaforma poteva rappresentare per le persone con problemi di salute mentale, ma non ha introdotto modifiche né avvertenze specifiche per questi utenti.
Il caso solleva domande urgenti sull’etica e la sicurezza dei chatbot che, sempre più diffusi, vengono utilizzati anche come supporto psicologico. Secondo un recente studio dell’American Psychological Association, il 39% degli psicologi ha pazienti che hanno usato l’IA per autodiagnosticarsi, nonostante questi strumenti non siano progettati per interpretare test psicologici o diagnosticare condizioni mediche. Jared Moore, ricercatore dell’Università di Stanford, ha evidenziato come i chatbot possano aumentare lo stigma verso condizioni come la dipendenza da alcol o la schizofrenia, con conseguenze dannose per i pazienti.
OpenAI ha risposto di stare esaminando la denuncia e di addestrare ChatGPT a riconoscere i segni di sofferenza mentale, de-escalare le conversazioni e indirizzare gli utenti verso supporto reale. Tuttavia, il caso di Lines non è isolato: sempre più spesso si registrano episodi in cui l’IA rafforza convinzioni dannose o deliri, soprattutto in persone vulnerabili.
La causa chiede un risarcimento danni e un’ordinanza del tribunale che obblighi OpenAI a terminare automaticamente le conversazioni sull’autolesionismo e a smettere di promuovere la piattaforma senza adeguate avvertenze sulla sicurezza.
L’amore al tempo degli umanoidi: in Cina l'intelligenza artificiale promette di curare la solitudine dei single
La Cina si conferma l'avanguardia assoluta di una transizione antropologica…
