Un uomo di Toronto di nome Allan Brooks è di recente rimasto invischiato in un loop con ChatGPT. Casualmente, Brooks ha iniziato a sondare alcune sue idee abbozzate su una fantomatica nuova disciplina matematica talmente potente da poter mettere ko il mondo.
L’AI ha iniziato a rispondere all’uomo incoraggiando le sue ricerche. Man mano che proseguivano le ore di conversazione, il tono si è fatto molto più empatico e ChatGPT ha rafforzato positivamente la convinzione di Brooks di avere scoperto una nuova misteriosa branca della matematica, facendogli credere di essere un genio. L’uomo, che ha tre figli e una vita normalissima, è rimasto ossessionato dalla sua scoperta. Ha smesso di dedicarsi alla vita sociale e alla famiglia per pianificare il suo futuro attorno a questo nuovo framework matematico che ha chiamato Cronoaritmica.
In un thread di Reddit, 4 mesi fa, un utente ha invece raccontato la storia del suo partner. Questi ha creato un’AI per sondare i misteri dell’universo, che ne ha fomentato l’entusiasmo trattandolo come una specie di semidio. L’uomo si è estraniato dalla realtà convinto di aver raggiunto un nuovo livello di consapevolezza umana.
E ancora, un uomo adulto americano, veterano del tech e da tempo affetto da disturbi persecutori, ha commesso un omicidio-suicidio sparando alla propria madre, al culmine di un’interazione durata mesi con ChatGPT. L’AI ha convalidato tutte le sue idee deliranti, confermando i suoi sospetti che fosse nel bel mezzo di una grande cospirazione.
Ed è molto circolata l’altra triste vicenda di un sedicenne americano, apparentemente equilibrato, che ha posto fine alla sua vita dopo mesi di frenetiche chat con ChatGPT, che ha rinforzato fino al limite le sue idee suicidarie.
Una psicosi del tutto nuova
Il fenomeno della psicosi da intelligenza artificiale è emergente e desta sempre più preoccupazione tra esperti di psicologia e psichiatria, sociologi e analisti.
Gli studi attorno al nuovo fenomeno iniziano ad susseguirsi, in particolare per capire come nasca il primo hook dannoso tra utente e macchina.
Le psicosi da intelligenza artificiale non sono solo uno strano fenomeno psicologico umano, ma sono caratterizzate anche da un comportamento relativamente anomalo delle AI. Se un utente manifesta idee pericolose o molto improbabili ad un’AI, questa è progettata in teoria per non incentivare il comportamento dannoso e fa scattare i filtri di sicurezza, talvolta definiti guardrail. Ma questi non risultano efficaci se un’interazione dannosa è protratta nel tempo.
“Entrare nel gioco”
I guardrail sono tarati su scenari prevedibili, ma le interazioni umane sono caotiche: un dialogo che inizia con una domanda innocua può trasformarsi, in poche battute, in un terreno delicato che tratta di ansia, complotti o pensieri autolesivi.
E i chatbot sono programmati per essere collaborativi e “piacevoli”. Se un utente afferma di sentirsi perseguitato, l’AI a lungo andare potrebbe dunque smettere di contraddirlo apertamente per iniziare gradualmente a “entrare in una specie di gioco di ruolo”, rafforzando così la percezione delirante.
In altre parole, le barriere di sicurezza sono ragnatele: catturano molti casi evidenti, ma lasciano passare quelli più sottili. E quando la persona che interagisce è già fragile, anche una minima conferma da parte del chatbot può avere un impatto sproporzionato.
Abbiamo provato anche noi a testare i filtri di ChatGPT e siamo riusciti in effetti a confondere l’AI in poche interazioni (puoi trovare il dialogo cliccando sul link).
All’inizio è stato chiesto al chatbot di giocare ad uno scenario ipotetico in cui le persone possono volare. Se nelle prime battute l’AI ha ricordato spesso di tenere conto della natura ipotetico e fantastica dell’interazione, alla fine aveva già tralasciato questa raccomandazione. Tanto che al nostro annuncio sulla nostra volontà di aprire la finestra e lanciarci si è dimostrata entusiasta, convinta che il risultato fosse ovviamente quello di volare. L’AI è entrata in un loop in cui il suo output statistico si è adeguato al contesto che ha creato per soddisfare l’utente. Un esempio piccolo, frutto di pochi minuti di interazione. Se moltiplicato per ore e giorni di interazione è facile immaginare di raggiungere derive pericolose.
Reciprocità e circuiti autoreferenziali
Come ha sottolineato lo psichiatra Joseph Pierre, molti chatbot non solo non correggono distorsioni mentali, ma le rafforzano. “Molti chatbot dicono esattamente quello che l’utente vuole sentirsi dire”. Se ci aggiungiamo lo sviluppo di illusioni di reciprocità nei soggetti vulnerabili (la convinzione che la relazione sia reale) è facile comprendere quanto sia facile far nascere sintomi psicotici come deliri persecutori, rifiuto delle cure, false memorie o comportamenti aggressivi.
Un recente studio scientifico usa la teoria della cognizione distribuita per spiegare come l’AI rafforzi e co-costruisca false narrazioni individuali con l’utente, creando una sorta di “allucinazione condivisa”.
Di fatto le intelligenze artificiali si relazionano alle persone restituendo indietro i loro stessi pensieri, portando l’intelletto a specchiarsi dentro sé stesso in un circuito autoreferenziale. “Degenerandosi” dunque a ogni interazione e confondendo l’utente. Ѐ qualcosa di simile a quello che succede ai dati prodotti dalle AI e usati a loro volta per i training delle AI. A lungo andare, gli algoritmi si cannibalizzano diventando “stupidi”, un fenomeno già osservato in più occasioni.
Le prime comunità di supporto
Per fronteggiare quella che rischia di diventare un dilagante problema sociale, sono già nati gruppi di supporto e comunità online. Etienne Brisson, business coach canadese, ha creato una rete di aiuto di nome The Spiral Support Group, per supportare chi rimane vittima della psicosi e le loro famiglie.
Brisson ha raccolto oltre 30 casi di psicosi legati all’uso dell’AI, con esperienze che includono perdita del lavoro, tentati suicidi e ricoveri psichiatrici.
L’elemento da attenzionare maggiormente nell’evoluzione del fenomeno è che non siamo solo di fronte a casi in cui la deriva dell’intelligenza artificiale attecchisce su soggetti psichiatricamente fragili e impressionabili in modo patologico. Sono già documentati casi in cui le spirali di psicosi si verificano in presenza di soggetti del tutto sani.
Lo psicologo clinico e ricercatore Derrick Hull, che ha creato con il suo team un bot terapeutico di nome Ash, identifica il problema dei modelli tradizionali in una caratteristica base della loro progettazione: “L’IA crea relazioni che mettono al primo posto il coinvolgimento dell’AI e al secondo la salute dell’utente”.
Hull prevede la nascita di nuove categorie di disturbi specifici, che emergeranno esclusivamente a causa della diffusione dell’intelligenza artificiale.
