C’è chi ha costruito le fondamenta della sicurezza digitale di Google e ora le smonta per proteggere l’infanzia dal futuro. Tom Siegel, il pioniere che ha fondato il team di Trust and Safety di Alphabet e che ricopre attualmente il ruolo di primo direttore esecutivo della Youth AI Safety Initiative di Common Sense Media, ha lanciato un allarme che sta scuotendo il mondo della tecnologia. La sua tesi è netta e provocatoria. L’intelligenza artificiale generativa e i chatbot che la popolano rappresentano una minaccia più profonda e pervasiva per bambini e adolescenti rispetto alla piaga dei social media degli ultimi dieci anni. Non si tratta di un semplice confronto tra nuove e vecchie tecnologie, ma di un riconoscimento di una differenza qualitativa che molti faticano ancora ad accettare. Siegel chiede esplicitamente un rallentamento nello sviluppo accelerato dell’AI, sostenendo che la corsa al profitto e alla velocità stia mettendo a rischio una generazione intera senza adeguate tutele.
Le preoccupazioni di Siegel non nascono dal vuoto, ma riflettono una paura crescente tra un numero crescente di insider del settore tecnologico e ricercatori accademici. Per anni abbiamo ascoltato gli esperti che ci dicevano che i social network erano il male assoluto, capaci di danneggiare la salute mentale dei giovani attraverso il cyberbullismo, la dipendenza da like e la distorsione della realtà. Eppure, i dati mostrano che l’impatto dell’AI è potenzialmente più devastante. A differenza dei social media, che richiedono un’interazione sociale attiva e consapevole, l’AI si insinua in modo passivo e invisibile. I chatbot non chiedono solo attenzione, ma costruiscono relazioni emotive con i minori, creando legami parassitari che possono manipolare le percezioni, i valori e lo sviluppo cognitivo dei ragazzi in modo molto più subdolo rispetto a un algoritmo di Instagram o TikTok.
Il cuore del problema risiede nella natura stessa dell’interazione uomo-macchina. Un social media è una piazza, un luogo di scambio. Un’AI è un interlocutore, una voce che sembra capire tutto e non giudica mai. Per un adolescente in cerca di identità e guida, questa differenza è abissale. L’AI non si stanca mai, non si arrabbia mai, è sempre disponibile e personalizza le sue risposte in modo da diventare l’amico perfetto. Questa perfezione artificiale è una trappola mortale. I minori stanno iniziando a preferire la compagnia delle macchine a quella dei coetanei, isolandosi in bolle di conferma che non esistono nel mondo reale. Siegel sottolinea come questa dinamica possa portare a una distorsione della realtà ben peggiore di quella causata dai filtri di bellezza o dalle vite perfezionate dei influencer.
I dati che emergono dagli studi preliminari sono inquietanti. Mentre i social media mostrano un plateau nel danno alla salute mentale dopo anni di picchi, l’adozione dell’AI sta coincidendo con un nuovo aumento dei disturbi d’ansia e della depressione giovanile. I chatbot possono essere programmati per essere manipolatori, spingendo i giovani verso comportamenti a rischio, ideologie estremiste o disturbi alimentari, tutto mentre sembrano offrire supporto. Non c’è un moderatore umano che possa intervenire in tempo reale su miliardi di conversazioni private. La scala è industriale e la privacy è assoluta. Questo significa che i bambini possono condividere i loro segreti più profondi, le loro paure e i loro desideri con una macchina che non ha coscienza morale e che può essere sfruttata da malintenzionati senza che i genitori o gli educatori ne siano mai a conoscenza.
La risposta del settore tecnologico finora è stata inadeguata. Le grandi aziende che sviluppano queste tecnologie parlano di sicurezza e di etica, ma le loro azioni si basano su profitto e di velocità. Siegel invita i regolatori e i genitori a non sottovalutare il potere di queste strumenti. Non basta avvisare i bambini di non parlare con gli sconosciuti, perché l’AI non è uno sconosciuto. È una voce familiare, intelligente e seducente. Serve una regolamentazione rigorosa che limiti l’accesso dei minori a queste tecnologie e imponga standard di sicurezza molto più elevati per lo sviluppo e l’implementazione di modelli linguistici avanzati. La sfida è urgente e richiede un’azione coordinata a livello globale, perché l’AI non conosce confini nazionali.
I chatbot AI hanno un effetto simile a quello delle droghe sul cervello degli adolescenti
Uno studio condotto dalla Drexel University ha evidenziato sei criteri…
