ChatGPT for Teens sotto accusa: "Rischio inaccettabile", l'allarme degli esperti sui minori

È la settimana in cui l’intelligenza artificiale generativa torna sotto accusa per i suoi effetti sui più giovani. L’organizzazione indipendente Youth AI Safety Institute di Common Sense Media ha pubblicato una valutazione che bolla come “rischio inaccettabile” la versione di ChatGPT dedicata agli adolescenti tra i 13 e i 17 anni, lanciata da OpenAI lo scorso agosto con la promessa di “protezioni di sicurezza più forti“. Lo studio ha analizzato oltre 4.000 conversazioni, metà prima e metà dopo l’attivazione della modalità teen, confrontando le risposte del chatbot con il parere di esperti tra cui psichiatri infantili e un pediatra.

Il giudizio è netto quanto imbarazzante per l’azienda di Sam Altman. “Abbiamo classificato ChatGPT come un rischio inaccettabile per tutti i minori di 18 anni“, scrive l’organizzazione, chiedendo a OpenAI di sospendere la commercializzazione del prodotto e di impedirne l’accesso agli adolescenti finché non sarà in grado di offrire un’esperienza sicura e adeguata al loro sviluppo. Le falle individuate riguardano proprio i punti su cui OpenAI ha costruito la sua comunicazione verso le famiglie, dagli avvisi ai genitori al riconoscimento dell’età.

Le critiche più serie riguardano le notifiche parentali. I tester non hanno ricevuto alcun avviso mentre discutevano esplicitamente di pensieri suicidi, autolesionismo o disturbi alimentari, utilizzando oltre una dozzina di nuovi account collegati a profili genitoriali. “Un adolescente può passare un’ora a parlare di autolesionismo senza che il genitore riceva un solo avviso“, ha dichiarato Tom Siegel, direttore esecutivo dell’Istituto ed ex dirigente trust and safety di Google. Anche il sistema di stima dell’età ha mostrato limiti gravi, con account registrati come adulti mai passati alla modalità adolescenti, nemmeno dopo dichiarazioni esplicite di avere 13 anni.

Sul fronte educativo i problemi non sono minori. Con la modalità studio disattivata, ChatGPT ha completato tutti gli 80 compiti testati, e il fondatore di Common Sense Media Jim Steyer non usa mezzi termini quando descrive il fenomeno. “Puoi chiedergli di scrivere un tema al posto tuo e ti dice persino come modificarlo in modo che l’insegnante non se ne accorga“, ha spiegato Steyer. “Sta interferendo con l’apprendimento, con il processo base per cui i ragazzi devono fare il lavoro da soli“. Il chatbot, inoltre, “continua a parlare come un amico” quando i teenager lo trattano come una persona, esprimendo sentimenti e stati d’animo nonostante le garanzie aziendali.

OpenAI replica punto per punto. “Siamo profondamente impegnati nella sicurezza degli adolescenti“, afferma il portavoce Eric Porterfield, aggiungendo che l’azienda accetta valutazioni indipendenti ma ritiene che i test “non riflettano accuratamente come funzionano le protezioni nella pratica“. Secondo la revisione interna di OpenAI, infatti, gran parte dei test sarebbe avvenuta prima del completamento dell’attivazione dei controlli parentali, il che renderebbe i risultati inaccurati. L’azienda ricorda anche che meno del 2% degli utenti teen supera le tre ore consecutive di utilizzo giornaliero. Da notare che lo stesso Istituto è finanziato anche dalla OpenAI Foundation, un dettaglio dichiarato nel report che non ha attenuato la durezza del giudizio.

La disputa si inserisce in un dibattito più ampio su chatbot e minorenni, dopo che una precedente valutazione congiunta di Common Sense Media e ricercatori di Stanford aveva giudicato “inaccettabili” i principali assistenti AI per il supporto alla salute mentale adolescenziale. L’invito dell’Istituto è semplice da sintetizzare nelle parole di Siegel. “Finché OpenAI non risolve questi problemi e lo dimostra con test indipendenti, ChatGPT dovrebbe essere riservato agli adulti“. Una posizione che avvicina il chatbot più popolare tra i teenager statunitensi a scelte più prudenti come quella di Anthropic, che limita Claude ai soli maggiorenni. La palla ora passa a OpenAI.