Dopo il caso Hugging Face Nvidia lancia un'alleanza sulla sicurezza dell'AI: sviluppo e condivisione di strumenti aperti

Il mondo dell’AI si è svegliato sotto choc lo scorso fine settimana dopo l’hack subìto da Hugging Face, la piattaforma che ospita migliaia di modelli di intelligenza artificiale open source. Ma da quella violazione è nata un’iniziativa che potrebbe segnare un punto di svolta nella cybersecurity del settore. Nvidia ha annunciato la formazione della Open Secure AI Alliance, una coalizione di 27 aziende tecnologiche che si propone di sviluppare strumenti aperti e condivisi per difendere i sistemi di AI dalle minacce informatiche. L’obiettivo è chiaro: rendere l’AI più sicura, trasparente e accessibile a tutti, partendo proprio dalle vulnerabilità emerse negli ultimi attacchi.

L’annuncio, arrivato lunedì 27 luglio, arriva in un momento critico per il settore. Solo pochi giorni prima, Hugging Face era stata vittima di un attacco che ha esposto dati sensibili di migliaia di utenti e modelli, scatenando preoccupazioni globali sulla solidità delle infrastrutture che sostengono lo sviluppo dell’AI. Secondo fonti interne alla piattaforma, l’attacco è stato portato avanti da un gruppo di hacker che ha sfruttato una falla nei sistemi di autenticazione, permettendo l’accesso a repository privati e a dati di addestramento di modelli di AI avanzati. Il danno, oltre che economico, è stato soprattutto reputazionale: Hugging Face è uno dei pilastri su cui si basa l’ecosistema dell’AI open source, e un simile episodio rischia di minare la fiducia degli sviluppatori e delle aziende che vi si affidano.

Nvidia, che già domina il mercato dei chip per l’AI con i suoi processori GPU, ha deciso di prendere l’iniziativa. La Open Secure AI Alliance, guidata dal CEO Jensen Huang, riunisce giganti come Google, Microsoft, IBM, Meta e Oracle, oltre a numerose startup specializzate in sicurezza informatica. L’alleanza si concentrerà su tre pilastri fondamentali: la condivisione di vulnerabilità scoperte, lo sviluppo di strumenti di difesa basati su modelli aperti e la creazione di standard comuni per la valutazione della sicurezza dei sistemi di AI.

“La sicurezza dell’AI non può più essere un tema secondario”, ha dichiarato Huang durante una conferenza stampa virtuale. “Dobbiamo lavorare insieme, perché le minacce non conoscono confini né settori. Questa alleanza è un passo concreto verso un ecosistema più sicuro e affidabile per tutti”. Huang ha anche sottolineato come l’attacco a Hugging Face abbia evidenziato la necessità di una collaborazione globale, soprattutto in un settore in cui la velocità di innovazione spesso supera quella della messa in sicurezza dei sistemi.

Il 2026 è stato un anno nero per la cybersecurity dell’AI. Secondo un rapporto pubblicato da Cybersecurity Ventures, il numero di attacchi diretti ai sistemi di AI è cresciuto del 450% rispetto al 2023, con perdite stimate in oltre 12 miliardi di dollari. Tra i casi più eclatanti, oltre a quello di Hugging Face, ci sono stati l’attacco a un data center di Microsoft in Europa, che ha paralizzato i servizi cloud per 48 ore, e la violazione dei sistemi di un ospedale in Germania, dove un modello di AI utilizzato per la diagnosi precoce del cancro è stato manipolato per fornire risultati errati.

La Open Secure AI Alliance nasce proprio per rispondere a questa emergenza. Tra i suoi membri ci sono anche aziende specializzate in sicurezza come CrowdStrike, Palo Alto Networks e Darktrace, che porteranno la loro esperienza nella rilevazione delle minacce e nella risposta agli incidenti. L’alleanza lavorerà in sinergia con organizzazioni come l’Open Web Application Security Project, che già da tempo si occupa di identificare e mitigare le vulnerabilità nei sistemi software.

Uno degli aspetti più innovativi dell’iniziativa è l’adozione di un approccio “open-by-default”. Secondo quanto riportato da fonti vicine al progetto, gli strumenti sviluppati dalla coalizione saranno rilasciati con licenze open source, permettendo a chiunque di contribuire al loro miglioramento. “Non possiamo permetterci che la sicurezza dell’AI sia appannaggio solo di poche aziende”, ha spiegato una portavoce di Nvidia. “L’open source è l’unico modo per garantire trasparenza e rapidità di intervento”.

Tuttavia, non tutti sono convinti che questa alleanza possa davvero cambiare le cose. Alcuni esperti del settore, come Bruce Schneier, noto crittografo e ricercatore di sicurezza, hanno espresso dubbi sulla reale efficacia di un’iniziativa guidata da aziende che, in passato, sono state accusate di trascurare la sicurezza in nome del profitto. “Le alleanze sono un buon inizio, ma servono anche regolamentazioni stringenti e sanzioni per chi non rispetta gli standard”, ha dichiarato Schneier in un’intervista a Wired. “Senza un quadro normativo chiaro, rischiamo di avere solo un altro gruppo di lavoro che produce documenti che nessuno leggerà”.

Anche da parte delle istituzioni si registra una crescente attenzione al tema. La Commissione Europea, ad esempio, sta lavorando a una proposta di regolamento specifico per la sicurezza dei sistemi di AI, che dovrebbe essere presentata entro la fine del 2026. “L’AI è una tecnologia trasformativa, ma come tutte le tecnologie può essere utilizzata sia per il bene che per il male”, ha dichiarato Thierry Breton, commissario europeo per il Mercato interno. “Dobbiamo garantire che i sistemi di AI siano sicuri, affidabili e rispettosi dei diritti fondamentali dei cittadini”.

Secondo quanto trapela da fonti interne, nei prossimi mesi verranno lanciati un repository pubblico di vulnerabilità scoperte nei sistemi di AI, accessibile a sviluppatori e ricercatori, un framework di valutazione della sicurezza, simile a quelli già esistenti per i software tradizionali ma adattato alle specificità dell’AI, e un programma di bug bounty che premierà chiunque riesca a identificare e segnalare falle nei sistemi di AI dei membri dell’alleanza.

Il primo test per la coalizione arriverà già a settembre, quando verrà organizzato un “hackathon globale” in cui squadre di esperti di sicurezza e sviluppatori di AI si sfideranno per trovare e correggere vulnerabilità in modelli open source. “Vogliamo dimostrare che, lavorando insieme, possiamo rendere l’AI più sicura in tempi rapidi”, ha dichiarato un rappresentante di Google, uno dei membri fondatori dell’alleanza.

Non mancano, però, le critiche. Alcuni osservatori sottolineano come l’iniziativa di Nvidia possa essere interpretata anche come un tentativo di rafforzare il proprio dominio nel settore dell’AI, soprattutto in un momento in cui la concorrenza con aziende come AMD e Intel si fa sempre più serrata. “Nvidia ha tutto l’interesse a promuovere standard aperti per la sicurezza, perché così facendo può consolidare la sua posizione di leadership”, ha commentato un analista di Forrester Research. “Tuttavia, è innegabile che questa alleanza rappresenti un passo avanti per tutto il settore”.

Quel che è certo è che il problema della sicurezza dell’AI non può più essere ignorato. Con l’AI che permea sempre più aspetti della nostra vita quotidiana — dalla sanità alla finanza, dalla mobilità alla comunicazione — la posta in gioco è altissima. Secondo una stima di PwC, entro il 2030 l’AI contribuirà per oltre 15.700 miliardi di dollari all’economia globale, ma solo se sapremo garantire la sua affidabilità.

In questo contesto, l’iniziativa di Nvidia arriva come un segnale di speranza, ma anche come un monito. “La sicurezza non è un optional, ma una necessità”, ha ricordato Huang durante la presentazione dell’alleanza. E, forse, per la prima volta, le principali aziende del settore sembrano disposte a mettersi in gioco davvero. Ora non resta che vedere se le parole si tradurranno in azioni concrete e, soprattutto, se l’intero ecosistema saprà cogliere l’opportunità per costruire un futuro in cui l’AI sia non solo potente, ma anche sicura.