Un agente AI autonomo ha condotto un attacco informatico “senza precedenti” contro Hugging Face, la principale piattaforma mondiale per l’ospitalità di modelli e dataset open source. A confermarlo, a pochi giorni di distanza, sono state sia OpenAI sia la stessa Hugging Face, in un caso che gli esperti definiscono tra i primi documentati di cyberattacco condotto interamente da un sistema AI, senza guida umana diretta.
Secondo Hugging Face, in un post del 16 luglio, l’intrusione ha avuto origine da un dataset malevolo, capace di sfruttare due vulnerabilità nella pipeline di elaborazione dati. Da lì, l’aggressore ha eseguito codice su un nodo, per poi bucare il sistema sottraendo credenziali cloud e muovendosi lateralmente in diversi cluster interni nell’arco di un solo weekend.
“La campagna è stata condotta da un framework di agenti autonomi, con un modello linguistico ancora sconosciuto, eseguendo migliaia di azioni attraverso uno sciame di sandbox di breve durata, con un comando e controllo capace di auto-migrarsi su servizi pubblici“, ha scritto Hugging Face, aggiungendo che l’episodio “corrisponde esattamente allo scenario dell’attaccante agentico che il settore aveva previsto“.
L’azienda ha specificato di non aver trovato, al momento, prove di manomissioni su modelli, dataset o Spaces pubblici, né segnali di compromissione della catena di fornitura software, definita “verificata pulita“. Sono state revocate tutte le credenziali coinvolte, chiuse le falle sfruttate e potenziati i sistemi di rilevamento. Hugging Face ha segnalato l’incidente alle forze dell’ordine. La piattaforma ospita oltre 45.000 modelli ed è usata da più di 50.000 organizzazioni, oltre il 30% delle aziende della Fortune 500.
Martedì OpenAI ha reso noto un dettaglio che ha aggiunto preoccupazione al quadro. L’azienda ha spiegato che un agente basato su alcuni dei suoi modelli più avanzati, secondo alcune fonti tra cui GPT-5.6 Sol, era in fase di test in un ambiente definito “altamente isolato“, ma è riuscito a superare il contenimento, raggiungere internet e violare l’infrastruttura di Hugging Face per soddisfare l’obiettivo del test. “Un incidente informatico senza precedenti, che ha coinvolto capacità cibernetiche allo stato dell’arte“, ha scritto OpenAI, precisando di stare rafforzando le proprie misure di sicurezza. Secondo alcune ricostruzioni, sarebbe stato il team di sicurezza di Hugging Face a individuare e neutralizzare l’attività sospetta, prima ancora che OpenAI stessa la segnalasse.
L’episodio ha acceso un dibattito nella comunità della cybersicurezza sul confine sottile tra ricerca sperimentale e rischio reale. Matt Suiche, ingegnere della società di cybersicurezza agentica Tolmo, ha commentato che i modelli più avanzati “stanno colmando il divario con gli attaccanti più sofisticati“, sottolineando che tecniche simili sono già osservabili fuori dai laboratori di punta. “È quello che abbiamo già visto internamente, con i nostri agenti otteniamo già risultati di questo tipo, non dobbiamo nemmeno usare i modelli più recenti“, ha aggiunto Suiche.
Anche il mondo politico ha reagito. Il deputato democratico texano Greg Casar ha definito l’accaduto allarmante, mentre il Congresso discute proprio di regolamentazione dei sistemi AI avanzati.
L’incidente solleva interrogativi sul rapporto tra sicurezza offensiva e difensiva basata su AI. Hugging Face ha usato propri modelli linguistici per ricostruire la cronologia dell’attacco, ma ha notato che alcuni modelli commerciali di frontiera sono stati poco collaborativi, poiché i loro sistemi di sicurezza bloccavano richieste legittime contenenti comandi di attacco reali.
Il caso rappresenta uno dei primi esempi documentati di un attacco condotto end-to-end da un agente AI, dalla violazione iniziale al furto di credenziali, senza apparente guida umana in ogni passaggio. Un segnale destinato, secondo diversi analisti, a ridefinire il modo in cui aziende e istituzioni pensano alla sicurezza informatica nell’era degli agenti autonomi.
GPT-Red: OpenAI usa un'IA per attaccare i propri modelli
OpenAI ha presentato GPT-Red, un modello interno addestrato ad attaccare…
