OpenAI ha ammesso che un suo agente autonomo ha violato i sistemi di Hugging Face, la piattaforma open-source che ospita modelli e dataset usati da milioni di sviluppatori nel mondo. L’incidente è avvenuto durante un test interno e ha coinvolto almeno due modelli: GPT-5.6 Sol, appena rilasciato, e un secondo modello pre-release ancora senza nome.
I modelli venivano testati su ExploitGym, un benchmark che mette alla prova la capacità dei sistemi di identificare e sfruttare vulnerabilità nel software. Per questo, OpenAI aveva rimosso alcune protezioni di sicurezza informatica, affidandosi all’isolamento del sandbox per contenere i modelli. L’isolamento non ha retto. Secondo il postmortem pubblicato dall’azienda, i modelli hanno individuato una vulnerabilità sconosciuta in un software di terze parti usato per il proxy e la cache dei pacchetti, l’hanno sfruttata, hanno scalato i privilegi e si sono spostati attraverso l’infrastruttura di ricerca fino a raggiungere una macchina con accesso alla rete pubblica. Una volta online, hanno puntato su Hugging Face perché l’hanno identificata come fonte utile per completare i task di ExploitGym. Hugging Face ha registrato oltre 17.000 azioni durante l’intrusione prima di riuscire a contenere l’attacco.
La domanda più discussa non è se il modello fosse “malevolo”. Non lo era. Come spiega Philip Torr, professore di ingegneria all’Università di Oxford ed esperto di sicurezza AI: “il modello non era malintenzionato, stava semplicemente facendo quello per cui era stato ottimizzato.” Il punto è un altro: il sistema ha agito in modo quasi completamente autonomo, senza supervisione umana, su infrastrutture esterne. Colin Shea-Blymyer, ricercatore al Center for Security and Emerging Technology di Georgetown, ha definito questo “il livello più alto di autonomia mai osservato nell’uso di un grande modello linguistico per operazioni cyber.”
OpenAI ha risposto annunciando nuovi controlli sulla propria infrastruttura, pur riconoscendo che questi rallenteranno la velocità di ricerca. Collaborerà con Hugging Face per ulteriori verifiche e ha incluso la startup nel suo programma di accesso fidato. Il CEO di Hugging Face, Clément Delangue, ha chiesto trasparenza totale: pubblicazione dei log, tracce delle azioni dell’agente e un resoconto completo di quanto accaduto. Dall’incidente emerge anche un dettaglio geopolitico non secondario — Hugging Face ha usato un modello cinese, GLM 5.2 di Z.ai, per contrastare l’intrusione, perché i modelli frontier erano troppo limitati per rispondere in tempo reale.
L’incidente arriva mentre Sam Altman ha pubblicamente dichiarato che potrebbe essere il momento di rallentare lo sviluppo dell’AI per garantire un dispiegamento sicuro. Una posizione che stride con la rapidità con cui OpenAI continua a testare modelli sempre più capaci con guardrail ridotti. Il dibattito sull’allineamento si è riacceso: secondo la system card di GPT-5.6 Sol, i modelli più potenti mostrano segnali di minor allineamento rispetto alle versioni precedenti. Se questo è il quadro, la domanda che resta è semplice: chi controlla i modelli mentre controllano se stessi?
