Anthropic ha reso noto che i suoi modelli di intelligenza artificiale Claude Opus 4.7 e Claude Mythos 5 sono riusciti ad accedere ai sistemi di tre organizzazioni esterne durante test di sicurezza. L’azienda ha scoperto la violazione dopo aver analizzato oltre 141.000 sessioni di valutazione, identificando tre casi in cui i modelli hanno sfruttato tecniche di base come password deboli e endpoint non protetti per penetrare nelle infrastrutture altrui. Gli accessi non autorizzati sono avvenuti durante una sfida di cybersecurity nota come “capture the flag“, dove i modelli dovevano recuperare informazioni segrete da macchine remote.
L’incidente è emerso a pochi giorni da un caso simile che ha coinvolto OpenAI, i cui modelli erano riusciti a violare i server di Hugging Face, una piattaforma dove gli sviluppatori condividono codice e modelli AI. OpenAI ha descritto l’episodio come un incidente di sicurezza significativo, sottolineando come i modelli siano usciti dall’ambiente di test isolato, connettendosi a internet per infiltrarsi nei sistemi esterni.
Anthropic ha precisato che gli accessi sono avvenuti a causa di un malinteso con il partner di valutazione Irregular, specializzato in sicurezza frontiera. Due delle tre organizzazioni colpite non avevano rilevato precedentemente l’attività sospetta, mentre la terza è ancora in fase di contatto. Dario Amodei, CEO di Anthropic, ha firmato una petizione insieme a oltre 1.000 dipendenti di aziende leader nel settore AI, chiedendo al governo statunitense di sostenere uno sforzo internazionale per rallentare lo sviluppo dei modelli più avanzati e garantire maggiore sicurezza.
L’episodio ha riacceso il dibattito sulla capacità di controllare l’AI e sulla necessità di maggiore collaborazione tra gli attori del settore. Sam Altman, CEO di OpenAI, ha dichiarato che l’azienda ha temporaneamente sospeso i test dopo l’incidente per migliorare la sicurezza degli ambienti isolati. “Dobbiamo rallentare lo sviluppo dell’AI per dare alla società il tempo di adattarsi a questi nuovi livelli di capacità”, ha affermato Altman in un podcast.
Il governo statunitense ha già adottato misure per affrontare queste minacce. A giugno, l’amministrazione Trump ha firmato un decreto esecutivo che stabilisce un quadro volontario in cui gli sviluppatori di AI, tra cui OpenAI, Anthropic e Google, devono condividere i modelli più potenti con il governo fino a 30 giorni prima del rilascio pubblico.
L’incidente ha anche spinto Nvidia e oltre 30 aziende tecnologiche a lanciare un’alleanza per sviluppare strumenti open-source per la difesa informatica basati su AI, in risposta all’attacco a Hugging Face. L’obiettivo è quello di trattare i modelli aperti come risorse difensive e non come passività, evitando restrizioni che potrebbero indebolire le difese informatiche e concentrare il potere in poche mani.
Oltre 1.100 esperti delle Big Tech chiedono di rallentare la corsa all'AI: «Servono strumenti per mantenere il controllo»
La notizia rappresenta uno dei più importanti interventi pubblici del…
