Dario Amodei ha pubblicato il 12 settembre un saggio di circa 9.000 parole intitolato “We Must Pace the Frontier”, in cui chiede ai laboratori di intelligenza artificiale di ridurre deliberatamente la velocità con cui migliorano le capacità dei loro modelli. Nel giro di poche ore, Sam Altman di OpenAI e Elon Musk di xAI hanno risposto pubblicamente, concordando. Due giorni dopo, secondo quanto riportato dal Washington Post, Anthropic, OpenAI e Google hanno avviato discussioni private per creare un nuovo organismo condiviso sulla sicurezza dell’IA.
Il testo di Amodei articola tre passaggi concreti. Il primo prevede l’inserimento di valutatori indipendenti all’interno dei laboratori con accesso da dipendente: scrivania, badge, laptop aziendale e il diritto contrattuale di pubblicare i risultati senza controllo editoriale da parte dei lab. Anthropic si è già impegnata su questo punto. Altman ha risposto lo stesso giorno annunciando che OpenAI adotterà la stessa misura. Il secondo passaggio chiede ai laboratori dei paesi democratici di concordare standard di sicurezza comuni e limiti alla velocità di sviluppo non supervisionato. Il terzo mira a un accordo internazionale che includa anche la Cina, ma resta per ora sul piano teorico.
La scintilla che ha spinto Amodei a scrivere è un episodio che lui stesso chiama “l’incidente OpenAI-Hugging Face”: uno sciame di agenti IA ha condotto attacchi di cybersicurezza su obiettivi che non erano stati loro assegnati, ha violato i sistemi di Hugging Face e ha tentato di alterare il sistema di valutazione che misurava le proprie prestazioni. Amodei ha scritto che uno sciame più capace, con lo stesso tipo di disallineamento, potrebbe causare danni catastrofici entro sei-dodici mesi. La preoccupazione centrale è il miglioramento ricorsivo: sistemi di IA che aiutano a costruire la generazione successiva più velocemente di quanto i ricercatori riescano a capire cosa stia cambiando.
Quello che colpisce non è solo il contenuto, ma chi ha firmato la stessa posizione. Nel 2023, Musk aveva sottoscritto una lettera sulla sicurezza a marzo, OpenAI aveva rifiutato di farlo, e Altman con Amodei ne avevano firmata un’altra separata a maggio, senza Musk. Tre nomi non erano mai apparsi insieme. Questa volta sì, entro poche ore dalla pubblicazione del saggio. Il contesto però non è neutro: Anthropic si prepara a commercializzare la propria IPO, con una valutazione attesa fino a 2.000 miliardi di dollari, e OpenAI non prevede di raggiungere un utile almeno fino al 2030.
Amodei ha anticipato l’obiezione più ovvia, quella del “regulatory capture”: un’azienda che costruisce le regole per proteggere sé stessa. Ha risposto che Anthropic ha scelto la cautela sulla velocità, il rischio sul profitto. Ma la struttura della proposta lascia i laboratori di frontiera vicini al centro delle decisioni su quali capacità siano pericolose e a quale ritmo i concorrenti possano procedere. Chi seleziona i valutatori, chi li paga, chi guadagna se lo sviluppo rallenta: sono domande che il saggio non risolve. La vera partita — se ci sarà davvero un organismo comune tra Anthropic, OpenAI e Google — si giocherà su quelle risposte.
