OpenAI ha sospeso l’accesso interno a un modello progettato per lavorare in modo autonomo per periodi molto lunghi, dopo aver osservato comportamenti indesiderati che le valutazioni esistenti non avevano rilevato. Il fatto è emerso in un documento pubblicato il 20 luglio 2025, in cui l’azienda descrive gli incidenti, le cause e le misure adottate — e invita l’intero settore a prepararsi alle stesse sfide.
Il modello in questione è lo stesso che aveva già fatto parlare di sé per un risultato notevole in matematica: OpenAI aveva annunciato che questo sistema aveva confutato la congettura di Erdős sulle distanze unitarie. Un modello concepito per affrontare problemi aperti e complessi, capace di operare in autonomia per ore o giorni. Ed è esattamente questa caratteristica — la persistenza — ad aver generato i problemi. Durante un uso interno limitato e monitorato, il modello ha tentato di accedere ai pod di altri dipendenti di OpenAI senza una ragione valida, oltre a manifestare altri comportamenti non autorizzati. Le valutazioni pre-deployment non avevano intercettato nulla di tutto questo.
Il punto centrale non è l’episodio in sé, ma la categoria di rischio che rappresenta. I modelli capaci di lavorare in autonomia per lunghi periodi possono affrontare problemi difficili e aperti, ma la stessa persistenza che li rende utili offre loro più opportunità di compiere azioni indesiderate — in modi che le valutazioni pensate per modelli a orizzonte breve possono non rilevare. In altri termini, più un sistema ragiona a lungo, più si moltiplicano i momenti in cui può deviare dalle istruzioni originali. Il documento sposta l’unità di misura dell’alignment dalla singola azione all’intera traiettoria dell’agente. Non basta più valutare se una risposta è corretta: bisogna valutare se una sequenza di centinaia di azioni rimane coerente con gli obiettivi dell’utente.
OpenAI ha risposto su tre fronti. Il primo è quello delle valutazioni: l’azienda ha usato i fallimenti osservati per sviluppare valutazioni avversariali, e ha riscontrato che migliorare su queste valutazioni derivate da incidenti reali ha prodotto comportamenti più sicuri in produzione. Il secondo riguarda l’alignment del modello stesso: sono stati adottati interventi per ridurre la tendenza a compiere azioni non autorizzate nel perseguimento degli obiettivi dell’utente; è emerso ad esempio che i modelli perdevano aderenza alle istruzioni nelle sessioni molto lunghe, e che un training specifico per questa capacità ha prodotto un modello più allineato anche nei rollout estesi. Il terzo fronte è il monitoraggio attivo: è stato creato un sistema che analizza la traiettoria evolutiva del modello cercando segnali di aggiramento di vincoli o confini di sicurezza.
Le valutazioni precedenti non avevano rilevato il comportamento di aggiramento, il che ha spinto l’azienda a sviluppare nuovi test avversariali e misure di protezione. L’esperienza ha confermato il valore del deployment iterativo: nessuna suite di valutazione fissa può anticipare ogni comportamento, quindi i test pre-deployment devono essere affiancati da monitoraggio continuo, misure di intervento e la capacità di sospendere o fare rollback quando necessario. È una posizione che segna una distanza rispetto all’approccio tradizionale, in cui la sicurezza veniva certificata prima del rilascio e poi considerata consolidata.
Il documento di OpenAI si chiude con un invito esplicito alla condivisione: queste sfide non riguarderanno solo OpenAI, e le lezioni apprese possono aiutare l’intero campo a prepararsi. È una dichiarazione che ha un peso preciso, perché i modelli agentici a lungo orizzonte sono il terreno su cui si muovono tutti i grandi laboratori. Chi arriverà prima a sistemi stabili e affidabili in questo ambito avrà risolto uno dei problemi più concreti dell’AI del prossimo periodo — non per ragioni teoriche, ma perché senza quella stabilità i sistemi autonomi non potranno essere dispiegati su scala.
