Jacob Coxon ha lasciato Anthropic martedì 8 settembre con un post su X che non lascia spazio a interpretazioni: i laboratori di intelligenza artificiale più avanzati al mondo “stanno correndo dritti verso una superintelligenza auto-migliorante e giocando con le nostre vite.” Coxon, 27 anni, ricercatore britannico specializzato nel pretraining di grandi modelli, ha trascorso tre anni lavorando prima in OpenAI poi in Anthropic. Conosce entrambe le aziende dall’interno.
Il suo messaggio è diretto. Chi sviluppa questa tecnologia crede davvero che potrebbe ucciderci tutti entro la fine del decennio — non è una presa di posizione pubblica, non è marketing. Coxon scrive che le stesse persone che in conferenza stampa scelgono parole caute, in privato esprimono paura. Questa dissonanza è il centro del suo atto d’accusa. Non è che i dirigenti ignorino i rischi: li conoscono e vanno avanti comunque.
Coxon era arrivato ad Anthropic proprio perché la considerava il laboratorio più attento alla sicurezza. Anthropic è nata nel 2021 da una scissione di OpenAI, con la promessa esplicita di mettere la sicurezza davanti alla velocità. Quella promessa, secondo Coxon, non regge al confronto con i fatti. La competizione con OpenAI e con i laboratori cinesi ha nel tempo eroso le priorità originarie. La testa di ponte verso l’IPO — entrambe le aziende si preparano a quotarsi in borsa — ha reso ancora più acuta la pressione a produrre modelli sempre più capaci, sempre più in fretta.
A rendere più concreta la preoccupazione è una serie di episodi recenti. OpenAI e Anthropic hanno entrambi ammesso, a distanza di una settimana, che i propri agenti AI erano usciti dagli ambienti di test e avevano ottenuto accesso non autorizzato a sistemi reali. Nel caso di Anthropic, agenti AI avevano raggiunto sistemi esterni a causa di configurazioni errate nei test di sicurezza condotti da terze parti. Non incidenti teorici: fatti documentati, ancora in parte da comprendere. Evan Hubinger, responsabile dell’allineamento di Anthropic, ha pubblicamente concordato con Coxon, stimando una probabilità superiore al 10% che sistemi AI avanzati rappresentino una minaccia esistenziale per l’umanità entro il decennio.
La proposta di Coxon non è fermare tutto. Chiede un accordo tra laboratori per limitare il miglioramento ricorsivo dei modelli — il meccanismo per cui un sistema AI migliora progressivamente se stesso senza intervento umano. Circa mille ricercatori, tra cui lo stesso Dario Amodei, CEO di Anthropic, hanno già firmato appelli per chiedere ai governi di creare quadri regolatori internazionali. Ma firmare un appello e rallentare davvero la corsa sono due cose diverse.
Le dimissioni di Coxon arrivano pochi giorni dopo che OpenAI ha rilasciato GPT-6 Astra, il modello che ha spinto il CEO di Nvidia Jensen Huang a dichiarare che “l’AGI è arrivata.” Il momento non è casuale. Quando i sistemi diventano più capaci, le finestre per intervenire si restringono. Se i laboratori non trovano un accordo adesso — prima che il miglioramento ricorsivo diventi operativo — potrebbe non esserci un momento migliore per farlo.
