Anthropic ha mostrato per la prima volta un sistema di intelligenza artificiale capace di condurre autonomamente ricerca sul proprio allineamento, identificando e correggendo i propri difetti di sicurezza senza intervento umano diretto. Lo studio, pubblicato il 28 agosto, è firmato da Chen Yueh-Han, fellow del programma di ricerca di Anthropic, insieme a Jiaxin Wen e Jan Hendrik Kirchner.
Il dato più concreto è quello economico. Il sistema automatizzato ha superato le prestazioni di ricercatori umani esperti in una media di sei ore, a un costo di 4 dollari l’ora contro i 150 di un professionista: circa un trentottesimo del prezzo. Il sistema ha migliorato i risultati su tutti e dieci i benchmark di disallineamento testati, senza degradare le altre capacità del modello.
Il funzionamento rispecchia il metodo classico della ricerca scientifica, ma eseguito da agenti software. Ogni sistema automatizzato esplora la letteratura disponibile, propone un metodo di addestramento e allena il modello per trenta minuti, aumentando gradualmente il punteggio sul benchmark attraverso più iterazioni. I metodi efficaci vengono conservati, quelli inefficaci scartati. Un agente basato su Claude propone le tecniche di addestramento, mentre un monitor di integrità approva il codice prima dell’esecuzione, un passaggio pensato per evitare che il sistema aggiri i controlli.
Perché questo lavoro conta. La ricerca sull’allineamento — cioè sul rendere i modelli di IA coerenti con le intenzioni umane — è storicamente lenta e costosa, affidata a un numero ristretto di specialisti. Se un sistema automatizzato può svolgere parte di questo lavoro in modo affidabile, la velocità con cui i modelli vengono resi più sicuri potrebbe aumentare. Il paper cita “prove preliminari che il post-addestramento automatizzato per l’allineamento potrebbe diventare pratico nel breve termine”. Sono parole misurate, ma il salto implicito è significativo.
Il progetto si colloca nella direzione del recursive self-improvement, la capacità di un modello di migliorare non solo le proprie risposte ma i propri processi di addestramento. Se i modelli imparassero a perfezionare autonomamente le pratiche di training in modo più ampio, il ruolo dei ricercatori umani nel ciclo di sviluppo cambierebbe in modo strutturale. Anthropic non ha ancora annunciato se e come integrerà questo approccio nei propri flussi di lavoro interni, ma il codice del progetto è già pubblico su GitHub, a disposizione di chi vuole replicare o estendere i risultati.
