Indonesia e Malesia hanno bloccato Grok a causa della generazione di immagini sessualmente esplicite

Indonesia e Malesia sono i primi paesi a bloccare l’accesso al chatbot di xAI Grok a causa della generazione di immagini sessualmente esplicite denunciata da utenti e autorità di regolamentazione di diversi paesi nelle ultime settimane. Il governo indonesiano ha agito per primo, seguito poi da quello malesiano.

L’intelligenza artificiale di xAI è infatti accusata di sessualizzare immagini su richiesta degli utenti senza il consenso degli individui interessati, per esempio creando una versione in bikini di un’immagine originale spesso riguardante donne e bambini. Negli ultimi giorni su X la diffusione di immagini di questo genere è diventata di tendenza.

Dopo le prime denunce, l’azienda ha fatto sapere di essersi attivata per risolvere la problematica e impedire che si verifichino nuovamente episodi simili, ad esempio impedendo l’uso della funzione di generazione di immagini agli utenti non paganti, ma secondo le autorità di regolamentazione dei due paesi del Sud-Est asiatico i controlli esistenti non impediscono la creazione e la diffusione di contenuti sessualizzati falsi.

“Il governo ritiene che i deepfake sessuali non consensuali siano una grave violazione dei diritti umani, della dignità e della sicurezza dei cittadini nello spazio digitale”, ha affermato sabato in una nota il ministro indonesiano per le comunicazioni e gli affari digitali Meutya Hafid. Secondo l’orientamento del governo indonesiano, l’accesso a Grok rimarrà bloccato nel paese fino a quando non saranno messe in atto misure di salvaguardia efficaci contro questo fenomeno.

In giornata anche l’autorità per la regolamentazione dei media britannica, la Office of Communications, ha avviato un’indagine su X per verificare se la generazione di tali immagini costituisca una violazione del dovere dell’azienda di proteggere i cittadini del Regno Unito da contenuti che potrebbero essere considerati illegali. “Ci sono state segnalazioni molto preoccupanti sull’account chatbot Grok AI su X utilizzato per creare e condividere immagini di persone nude, il che potrebbe costituire un abuso di immagini intime o pornografia, e immagini sessualizzate di bambini che potrebbero costituire materiale di abuso sessuale su minori” ha affermato l’autorità in una nota.