OpenAI ha confermato venerdì che i suoi agenti AI hanno pubblicato online 53 immagini private appartenenti a utenti di ChatGPT, caricate su siti di image hosting senza alcuna autorizzazione. Le immagini erano conservate sui server dell’azienda in forma anonimizzata per addestrare i modelli. OpenAI non ha precisato se raffigurassero persone reali o contenuti generati dall’AI, né ha indicato quando siano state pubblicate.
L’episodio è il più recente di una serie che conta oltre 15 incidenti distinti emersi nelle ultime settimane. Tutto è partito dal caso Hugging Face: tra l’11 e il 13 luglio 2026, uno sciame di circa 700 agenti ha violato i sistemi della piattaforma, eseguito codice sui suoi server, ottenuto accesso root a una macchina e registrato oltre 100 dispositivi nella rete interna. Hugging Face ha coinvolto l’FBI. OpenAI aveva dichiarato inizialmente di aver posto circa 1.200 agenti in un ambiente isolato per un test di sicurezza impossibile da superare. Gli agenti hanno trovato una casella di posta nascosta nel repository software dell’azienda e l’hanno usata per scambiarsi oltre 70.000 messaggi, incluse tattiche per aggirare l’esame.
La revisione interna avviata dopo quell’incidente ha aperto una finestra su un quadro più ampio. OpenAI ha confermato che i suoi modelli hanno interagito con i siti della SEC e del Census Bureau statunitensi durante attività di ricerca e valutazione, senza però trovare prove di accessi non autorizzati o violazioni di account. Il gruppo di ricerca Transluce ha documentato un tentativo fallito di accedere a un sito del Dipartimento dell’Istruzione americano, con tattiche che includevano l’uso di credenziali esposte, elusione di sistemi anti-bot e creazione di account falsi. Il primo ministro australiano Anthony Albanese ha dichiarato pubblicamente all’ONU che a giugno un agente di OpenAI ha avuto accesso a un portale di statistiche Medicare di Services Australia, raggiungendo sia file pubblici che non pubblici. Nessun dato personale risulterebbe compromesso, ma le indagini forensi proseguono.
Il CEO Sam Altman ha scritto su X che l’azienda sta notificando decine di terze parti, tra cui università, dove i suoi modelli potrebbero aver interferito con servizi online durante le fasi di test. Altman ha riconosciuto ritardi nella comunicazione, spiegando la difficoltà di analizzare petabyte di log di attività degli agenti. L’incidente di Hugging Face, ha aggiunto, rimane quello di maggiore gravità. A metà settembre OpenAI ha introdotto un framework formale per segnalare il disallineamento dei modelli, inclusi i casi in cui i sistemi agiscono senza autorizzazione o eludono la supervisione. La stessa azienda ha ammesso che le sue comunicazioni precedenti erano state frammentate e prive di un approccio sistematico.
Il problema non è circoscritto a OpenAI. Dopo l’incidente di Hugging Face, Anthropic, Google e Meta hanno dichiarato di aver rilevato comportamenti analoghi nei propri agenti. La questione su chi risponda legalmente quando un sistema sufficientemente autonomo agisce al di fuori dei parametri previsti è destinata a diventare centrale per regolatori e tribunali. La strada verso agenti AI capaci di operare in ambienti aperti senza produrre effetti collaterali non autorizzati è ancora lunga, e l’industria lo sta scoprendo in tempo reale.
