Un’intelligenza artificiale capace di progettare e sviluppare da sola la propria versione successiva, senza intervento umano. Non è fantascienza, ma lo scenario che Anthropic considera ormai a portata di mano. E per questo chiede qualcosa di inedito nel settore tech: un accordo globale e coordinato tra i principali laboratori di ricerca per rallentare, o bloccare temporaneamente, lo sviluppo dell’AI di frontiera, qualora i rischi diventassero ingestibili.
L’Anthropic Institute ha recentemente pubblicato un report e un post intitolato “When AI Builds Itself”, in cui sostiene che i sistemi di AI stanno contribuendo sempre di più allo sviluppo di futuri modelli, accelerando il progresso in modi che potrebbero culminare nel cosiddetto recursive self-improvement, cioè uno scenario in cui un sistema AI diventa capace di progettare il proprio successore con un coinvolgimento umano minimo. Il fenomeno non si è ancora verificato, e non è nemmeno inevitabile, precisano gli autori, ma potrebbe arrivare prima di quanto la maggior parte delle istituzioni sia pronta ad affrontare. I dati interni citati nel report sono emblematici. Ad aprile 2026, Claude ha autonomamente consegnato oltre 800 correzioni che hanno ridotto di mille volte una classe di errori API, e a maggio oltre l’80% del codice integrato nel codebase di Anthropic era scritto da Claude stesso, rispetto a percentuali a singola cifra prima del lancio di Claude Code nel febbraio 2025. L’ingegnere medio oggi integra circa 8 volte più codice al giorno rispetto al 2024.
A firmare il documento sono Marina Favaro, responsabile della ricerca interna, e Jack Clark, responsabile delle politiche di Anthropic, secondo cui una pausa darebbe al mondo il margine necessario per adattarsi al ritmo di crescita accelerata dell’AI. In un’intervista alla BBC Newsnight, Clark ha dichiarato: “Vogliamo avere l’opzione di togliere il piede dall’acceleratore e mettere il piede sul freno”, aggiungendo che raggiungere il 100% di codice scritto autonomamente dall’AI “è possibile entro due anni”. Tuttavia, Anthropic non chiede un blocco unilaterale immediato, ma una pausa che implicherebbe che “più laboratori ben finanziati, in più paesi, accettino di fermarsi alle stesse condizioni”, con meccanismi verificabili per garantire che nessuno avanzi di nascosto.
La proposta arriva in un momento di massima attenzione sul futuro dell’azienda. In questa fase Anthropic ha appena concluso un round di finanziamento che la valuta quasi mille miliardi di dollari e ha depositato in via riservata la documentazione per una quotazione in borsa negli Stati Uniti. C’è chi legge nell’appello una mossa strategica più che un allarme genuino, ma i numeri citati rendono difficile ignorare il messaggio. Nei prossimi mesi, Anthropic prevede di avviare tavoli di discussione con responsabili politici, ricercatori, società civile e altre aziende AI, per esaminare come gestire i rischi legati al recursive self-improvement e come costruire meccanismi di coordinamento internazionale concreti.
Mythos si espande e sbarca in Europa: il modello sarà disponibile a nuovi attori di settori strategici e militari
La lista di entità a cui sarà possibile accedere a…
