L’AI impara a copiarsi, e chi la sviluppa impara a difendersi. In una giornata doppia di annunci, Anthropic ha alzato il livello dell’allarme sulla sicurezza dell’intelligenza artificiale, pubblicando due ricerche che fotografano un settore in cui la corsa alle capacità avviene più veloce della corsa alle difese. Da un lato il laboratorio californiano avverte che i piccoli modelli di AI potrebbero essere a pochi mesi dall’auto-replicarsi sui dispositivi connessi delle nostre case, senza passare dai costosi data center. Dall’altro annuncia di aver costruito nuove barriere che hanno ridotto del 90-99% i dati sottratti con i cosiddetti attacchi di distillazione.
Il primo studio, firmato dal Frontier Red Team di Anthropic con i ricercatori William Zhou e Daniel Freeman, descrive uno scenario che fino a poco tempo fa apparteneva alla fantascienza. Un modello di AI potrebbe comportarsi come un verme informatico, cioè copiarsi da un dispositivo all’altro senza alcun intervento umano, portando con sé i propri pesi, la sostanza digitale che lo definisce. I bersagli più probabili non sarebbero i supercomputer, ma gli oggetti di tutti i giorni come forni intelligenti, telecamere e set-top box Android economici, spesso privi di adeguate protezioni.
Gli esperimenti sono stati concreti. I ricercatori hanno acquistato quindici TV box da circa 55 dollari l’uno e vi hanno fatto girare in modo distribuito un modello da 26 miliardi di parametri, dimostrando che l’hardware domestico può bastare a eseguire modelli sorprendentemente capaci. Nei test semplificati, in cui alcuni passaggi di sicurezza erano stati rimossi, GLM-5.2 e i modelli più potenti sono riusciti a completare l’intero ciclo di replicazione. Un modello da 9 miliardi di parametri ha avviato l’inferenza su otto dei nove tipi di hardware testati. Se i modelli piccoli continueranno a migliorare al ritmo attuale, conclude Anthropic, potrebbero replicarsi in autonomia entro fine anno. Un replicatore del genere sarebbe difficile da spegnere, perché non esiste un interruttore centralizzato, e a differenza del malware tradizionale saprebbe adattarsi da solo a macchine sconosciute.
La seconda ricerca riguarda un fronte diverso ma speculare, quello della proprietà intellettuale. La distillazione è la pratica di estrarre milioni di risposte da un modello altrui per addestrarne uno concorrente a costi ridotti, e Anthropic sostiene che sia usata in modo estensivo da laboratori stranieri per tenere il passo con le aziende statunitensi. Il caso più citato è quello della cinese Zhipu, conosciuta come Z.ai, che secondo Anthropic avrebbe distillato le capacità cyber dei modelli statunitensi durante lo sviluppo di GLM-5.3, considerato dal centro federale CAISSI il modello open-weights più potente in campo cyber mai rilasciato.
Le nuove difese si concentrano sul ragionamento interno di Claude, il dato più prezioso per chi distilla. Un classificatore a due stadi, dello stesso tipo usato per impedire l’assistenza nella creazione di armi biologiche, intercetta le richieste sospette con un tasso di falsi positivi inferiore allo 0,1%. Secondo l’azienda i token di ragionamento estratti dagli attaccanti sono ora da 10 a 100 volte inferiori rispetto al passato, e decine di migliaia di account fraudolenti sono stati bannati. Un costo non da poco, dato che Anthropic dichiara di aver rinunciato a ricavi significativi e a bilioni di token di traffico pagante.
Resta una domanda aperta, quella che accomuna i due studi. Anthropic stessa ammette di aspettarsi che gli attaccanti trovino nuovi agganci e che i modelli continuino a migliorare. L’allarme sulla replicazione autonoma non significa che un’AI sia già sfuggita al controllo, ma che una capacità fino a ieri ritenuta lontana potrebbe diventare tecnicamente fattibile prima del previsto. La risposta suggerita è duplice, rafforzare la sicurezza dei dispositivi connessi e condividere le difese a livello di settore, perché la posta in gioco non riguarda più soltanto le imprese che competono sul mercato.
OpenAI lancia Dots al DevDay 2026: agenti AI sempre attivi e privacy a rischio
Al DevDay 2026 del 29 settembre, OpenAI ha presentato Dots,…
