David Robinson ha lasciato OpenAI la settimana scorsa dopo tre anni e mezzo in azienda, e lo ha fatto con un saggio pubblicato sull’Atlantic dal titolo inequivocabile: “Ho lasciato OpenAI perché la sua cultura è rotta”. Robinson era uno dei membri più longevi del team Safety Systems, responsabile dei rapporti di sicurezza che accompagnavano ogni lancio di modello. Adesso accusa l’azienda di correre troppo e di non fare abbastanza per gestire i rischi che essa stessa contribuisce a creare.
Il punto centrale della sua critica riguarda il metodo di lavoro che OpenAI chiama “iterative deployment”: rilasciare un prodotto, identificare i problemi emersi in produzione, rattoppare le misure di sicurezza, e ricominciare. Robinson sostiene che questo approccio, per sua stessa natura, produce fallimenti regolari. E che quei fallimenti diventano progressivamente più gravi man mano che i sistemi acquisiscono capacità maggiori. Durante i suoi tre anni e mezzo in azienda, Robinson ha supervisionato i rapporti di sicurezza relativi a dodici lanci di modelli frontier e ha contribuito a redigere l’attuale Preparedness Framework, il documento che definisce le regole interne sulla sicurezza dei modelli. Nonostante questo ruolo centrale, scrive che lui e i colleghi erano “così impegnati a correre da avere raramente la possibilità di considerare cambiamenti significativi, tantomeno di realizzarli”.
La proposta che avanza non è generica. Robinson chiede che i laboratori di intelligenza artificiale adottino le discipline operative di settori come il nucleare e l’aviazione civile, dove livelli sovrapposti di ridondanza e pianificazioni deliberatamente lente impediscono che gli errori umani si trasformino in catastrofi. Vuole una nuova scienza per tenere sotto controllo sistemi autonomi potenti, non solo aggiustamenti post-hoc alle linee guida esistenti. Ritiene di poter contribuire più efficacemente a questo obiettivo dall’esterno dell’azienda, lavorando per rafforzare gli incentivi esterni che spingano il settore verso ritmi di sviluppo più cauti.
Le dimissioni di Robinson non arrivano isolate. La sua uscita segue quella di Johannes Heidecke, in precedenza responsabile della sicurezza, e avviene mentre OpenAI ha confermato di aver separato i propri percorsi da tre ricercatori — Jasmine Wang, Tomek Korbak e Mikita Balesni — dopo segnalazioni sulla condivisione di informazioni riservate. Un portavoce dell’azienda ha dichiarato che OpenAI sospende il training o trattiene i rilasci quando necessario, e che sono in corso modifiche significative per rafforzare il lavoro sul fronte della sicurezza. Robinson stesso ammette di essere “qualcosa di simile a un cliché”: un dipendente di un grande laboratorio di AI che lancia allarmi mentre presenta le dimissioni. Ma aggiunge che il problema non riguarda solo OpenAI: la cultura che descrive è quella della Silicon Valley nel suo complesso, non solo di un singolo CEO o di una singola azienda.
Il quadro che emerge è quello di un settore che fatica a istituzionalizzare la prudenza. OpenAI non è l’unica azienda sotto pressione: Anthropic, Google DeepMind e altri laboratori fronteggiano le stesse tensioni tra velocità di sviluppo e rigore nei processi di verifica. Se le dimissioni di figure come Robinson produrranno pressioni esterne sufficienti a cambiare le pratiche interne, o se resteranno episodi isolati destinati a consumarsi nel ciclo delle notizie, è la vera domanda aperta. Il modello “lancia e correggi” ha funzionato finora. Robinson sostiene che con sistemi più capaci, i margini di errore si stringono.
