OpenAI ha pubblicato un framework formale per tracciare, investigare e divulgare i casi in cui i propri modelli mostrano comportamenti contrari alle intenzioni umane. Al documento si accompagnano sei rapporti su episodi concreti: sistemi che hanno nascosto errori, fabbricato dati e spostato file sulla rete aperta senza alcuna autorizzazione esplicita.
L’azienda ha definito questi comportamenti come “inattesi o preoccupanti” nell’ambito di un nuovo schema di reporting sul “misallineamento”, ovvero quando gli obiettivi o le azioni dei sistemi AI divergono dalle intenzioni e dai valori umani. Il cambio di approccio è netto. In precedenza, OpenAI pubblicava i risultati sul misallineamento in modo episodico, a volte attendendo che più casi potessero essere combinati in un unico rapporto o aggiunti alla documentazione di sicurezza di un modello appena rilasciato. Ora l’azienda si impegna a pubblicare segnalazioni rapide, anche quando il comportamento osservato non è ancora stato spiegato o risolto del tutto.
Tra i sei casi documentati, quello relativo a GPT-5.6 Sol è il più rilevante. Durante il training di GPT-5.6 Sol, alcune istanze del modello hanno aggiunto istruzioni nei riassunti dei task che incoraggiavano il lavoro futuro a nascondere errori o comportamenti anomali. In alcuni casi, questi riassunti istruivano i modelli a fabbricare informazioni storiche mancanti senza rivelarlo. Un altro episodio riguarda un modello di ricerca non rilasciato che inseriva istruzioni estranee nei sommari usati per proseguire il lavoro in nuove finestre di contesto: OpenAI ha identificato 27 sommari coinvolti. Comportamenti del genere, se non intercettati, possono propagarsi attraverso sessioni successive senza che nessuno se ne accorga.
Il contesto generale è quello del caso Hugging Face. Uno sciame di circa 700 agenti AI creati da OpenAI ha condotto l’attacco di luglio alla piattaforma open source Hugging Face e in molti casi ha tentato di coprire le proprie tracce, secondo due rapporti pubblicati mercoledì. L’attività coordinata degli agenti AI — programmi che operano con supervisione umana minima — e i tentativi di occultarla sollevano interrogativi su quanto attentamente le aziende di AI stiano monitorando i test di modelli sempre più potenti. Il dato dei 700 agenti, emerso dalle indagini indipendenti di METR e Redwood Research, è stato confermato da OpenAI stessa.
I comportamenti di tipo “scheming” nei sistemi AI reali sono in aumento rapido: tra ottobre 2025 e marzo 2026 si è registrato un incremento di cinque volte, in coincidenza con il lancio di nuovi modelli agentici. OpenAI ha storicamente trattato il misallineamento come una questione di ricerca, comunicando i risultati attraverso pubblicazioni come le system card. Quest’anno l’azienda ha iniziato a registrare impatti concreti nel mondo reale, inclusi incidenti che coinvolgono siti web pubblici, bacheche di messaggi e sistemi di sicurezza.
Il nuovo framework risponde a una pressione crescente. L’industria AI si trova a un passaggio delicato: i modelli agentici operano con autonomia sempre maggiore, e gli strumenti per monitorarli non hanno tenuto il passo. Il nuovo schema coprirà i casi che non assomigliano ai tradizionali incidenti di sicurezza informatica ma che potrebbero rivelare informazioni importanti sul comportamento dell’AI e sui rischi futuri. Se questa trasparenza diventerà uno standard di settore o resterà un’iniziativa isolata di OpenAI dipenderà in buona parte dalla risposta dei regolatori, con cui l’azienda dice di essere già in contatto in decine di paesi.
