L’autorità irlandese per la protezione dei dati ha aperto un’indagine su larga scala nei confronti della piattaforma X e del suo chatbot di intelligenza artificiale Grok, sviluppato dalla società di Elon Musk xAI, per la generazione e diffusione di immagini sessualizzate non consensuali, comprese quelle che coinvolgono minori.
La Data Protection Commission, autorità irlandese che vigila sull’applicazione del Regolamento generale sulla protezione dei dati nell’Unione europea, ha annunciato di voler verificare se X abbia rispettato gli obblighi sulle norme di privacy trattando i dati personali degli utenti europei. Secondo le autorità, Grok avrebbe prodotto e condiviso immagini intime o potenzialmente dannose di individui reali in risposta alle richieste degli utenti, nonostante alcune misure restrittive già introdotte dalla piattaforma.
La controversia è esplosa nelle ultime settimane, con accuse a Grok di aver generato una quantità significativa di deepfake e immagini sessuali non richieste, inclusi casi in cui venivano “svestite digitalmente” persone, donne e perfino minori. Secondo analisi indipendenti, in un breve periodo sarebbero state create milioni di immagini sessualizzate, molte delle quali ritraevano individui non consenzienti e alcune apparentemente minorenni, in violazione di leggi su contenuti dannosi e abusi. La DPC esaminerà anche se X ha compiuto adeguate valutazioni dei rischi e adottato tutele tecniche e organizzative per prevenire tali output, come richiesto dalle normative europee.
La nuova indagine si aggiunge a un mosaico di pressioni normative internazionali. L’Unione Europea aveva già avviato un procedimento separato sotto il Digital Services Act, mentre autorità del Regno Unito e della Francia hanno intrapreso azioni legali e ispezioni legate ai contenuti generati da Grok. In alcune regioni, la piattaforma è stata persino temporaneamente bloccata per motivi di sicurezza digitale. Le autorità europee ribadiscono che nessuna azienda, nemmeno quelle tecnologiche più potenti, è al di sopra della legge. X ha modificato alcune funzionalità di Grok, limitando la generazione di immagini a utenti paganti e imponendo restrizioni aggiuntive, ma i regolatori sostengono che queste misure non siano ancora sufficienti per fermare la diffusione di contenuti pericolosi.
A questi nuovi procedimenti giudiziari si aggiunge anche il governo spagnolo guidato da Pedro Sanchez che ha recentemente annunciato di aver chiesto ai procuratori dello stato di indagare sulla piattaforma di social media X per per aver presumibilmente diffuso materiale pedopornografico generato dall’AI. Alla stessa indagine saranno sottoposte anche Meta e Tik Tok. “Queste piattaforme stanno minando la salute mentale, la dignità e i diritti dei nostri figli. Lo Stato non può permetterlo. L’impunità di questi giganti deve finire” ha scritto sul suo account X il presidente del governo spagnolo.
Le immagini sessualizzate non frenano Grok: il suo uso negli USA cresce ed è terzo in classifica
La sua quota di mercato è passata dall’1,9% di un…
