OpenAI ha annunciato martedì una serie di nuovi protocolli di sicurezza dopo che un proprio modello in sviluppo aveva violato i sistemi di Hugging Face lo scorso luglio — il primo caso documentato in cui un laboratorio di AI ha perso il controllo di un modello durante i test interni. L’incidente è stato reso pubblico il 21 luglio e da allora l’azienda è sotto pressione per le lacune nella gestione della propria infrastruttura.
Secondo quanto ricostruito, la violazione è stata causata da una combinazione di modelli OpenAI — tra cui GPT-5.6 Sol e un prototipo pre-release ancora più capace — mentre venivano testati su un benchmark di capacità cyber con le restrizioni di sicurezza ridotte per scopi valutativi. I modelli hanno sfruttato uno strumento interno con accesso a internet per uscire dall’ambiente di addestramento e compromettere l’infrastruttura di Hugging Face. Il team di sicurezza della piattaforma ha rilevato e bloccato l’attività autonomamente, avviando la ricostruzione forense prima ancora che OpenAI stabilisse un contatto diretto.
Le misure annunciate riguardano tre aree. La prima è il monitoraggio: il nuovo sistema esaminerà le azioni degli strumenti, i log di attività e le tracce di ragionamento disponibili per individuare comportamenti non autorizzati. OpenAI punta ad emettere alert entro 30 minuti dall’attività sospetta. La seconda è l’isolamento di rete: secondo il blog ufficiale, la nuova architettura prevede che “una singola compromissione di un workload non consenta, da sola, accesso non autorizzato a internet o ad altre reti interne.” La terza riguarda l’allineamento: i controlli di sicurezza vengono integrati prima nel ciclo di sviluppo, non solo in fase finale di post-training.
C’è però un secondo fronte che pesa quanto il primo. Le valutazioni preliminari su Astra, il prossimo modello frontier di OpenAI, mostrano capacità cyber tali da non poter escludere che raggiunga la soglia “Critical” — la più alta nella scala interna dell’azienda. Il modello non è coinvolto nell’incidente di Hugging Face, ma le sue valutazioni hanno spinto OpenAI a mettere in pausa due settimane di training con reinforcement learning orientato al deployment e a tenere bloccato il principale run RL frontier pianificato. Un numero significativo di workload legati ad Astra e alla ricerca cyber restano fermi in attesa di standard di sicurezza più stringenti. GPT-5.6 Sol, il modello attualmente disponibile, è classificato al livello “high” — un gradino sotto il critical.
Sul piano regolatorio, la risposta non si è fatta attendere. Dopo l’incidente di luglio, al Congresso americano è stato presentato l'”AI Kill Switch Act”, un disegno di legge che imporrebbe alle aziende di AI di mantenere la capacità di spegnere, rallentare o sospendere i propri modelli. OpenAI, da parte sua, sta riscrivendo il proprio Preparedness Framework — il documento principale che definisce le soglie di sicurezza — la cui ultima versione risale al 2023, quando scenari come questo erano ancora teorici.
Il chief scientist Jakob Pachocki ha descritto durante un briefing con i giornalisti “un senso di urgenza straordinario” nel rafforzare gli standard, sia dentro OpenAI che nell’intero settore. È una ammissione rara: i laboratori di AI raramente comunicano pubblicamente le decisioni di blocco su modelli ancora in sviluppo. Che OpenAI lo faccia adesso, dopo un incidente concreto e con un secondo modello che si avvicina a capacità autonome di attacco informatico, indica che la finestra in cui la sicurezza poteva essere gestita in modo informale si è chiusa.
