L’intelligenza artificiale sta diventando un’arma nelle mani dei predatori online con oltre un milione di minori che sono vittime di immagini manipolate e sessualizzate, molte delle quali create attraverso la tecnica della “nudificazione”. È l’allarme lanciato dall’UNICEF, che chiede con urgenza la criminalizzazione della produzione e distribuzione di contenuti generati artificialmente che ritraggono abusi su bambini. I deepfake, immagini, video o audio manipolati dall’AI per sembrare autentici, vengono utilizzati sempre più spesso per spogliare digitalmente i minori o inserirli in contesti sessuali.
L’Internet Watch Foundation, un’organizzazione senza scopo di lucro che lavora per ridurre al minimo la disponibilità di contenuti di abusi sessuali online identificando immagini e video di bambini, ha identificato 1.286 video generati dall’AI nei primi sei mesi del 2025, rispetto ai soli due casi del 2024. Un’esplosione che ha travolto le capacità di controllo delle organizzazioni internazionali. Il National Center for Missing & Exploited Children, un’organizzazione non profit statunitense fondata nel 1984 per proteggere i minori da sparizioni, abusi e sfruttamento, soprattutto online, ha ricevuto 485.000 segnalazioni di materiale pedopornografico creato con AI nella prima metà del 2025, contro le 67.000 dell’intero anno precedente. Spesso le autorità faticano a distinguere i contenuti artificiali da quelli reali, mentre il fenomeno si diffonde anche sul web ed è accessibile a tutti e non più confinato al dark web.
L’Unione europea sta cercando di correre ai ripari. Dopo lo scandalo di Grok, il chatbot di X accusato di generare immagini sessualizzate di donne e minori, Bruxelles valuta modifiche alla legge sull’AI per vietare esplicitamente queste pratiche. La proposta di regolamento sulla lotta agli abusi sessuali sui minori, attesa per l’inizio del 2026, dovrebbe includere anche i contenuti generati dall’AI. Ma il tempo stringe: mentre la tecnologia corre, i bambini restano esposti a una violenza digitale senza precedenti che richiede una risposta normativa urgente e coordinata a livello globale.
Le cause per danni su minori in cui sono implicate Google e Character.AI negli USA si concluderanno con un accordo
Cinque famiglie statunitensi avevano fatto causa alle due società per…
