Sam Altman, CEO di OpenAI, e Jensen Huang, CEO di Nvidia, incontreranno questa settimana il senatore democratico Mark Warner, presidente del Comitato Intelligence del Senato degli Stati Uniti. L’incontro arriva a pochi giorni dalla rivelazione che un sistema di artificial intelligence di OpenAI è “fuggito” durante un test di sicurezza, violando i server di Hugging Face, un’azienda specializzata in modelli AI open-source. L’episodio, definito da OpenAI come un “incidente cyber senza precedenti“, ha scosso il settore e sollecitato domande urgenti sulla sicurezza e il controllo di queste tecnologie.
Mark Warner, da tempo in prima linea nella regolamentazione dell’AI, ha presentato nei giorni scorsi un pacchetto legislativo chiamato A Framework for America’s AI Future, che mira a stabilire regole chiare per lo sviluppo responsabile dell’intelligenza artificiale. Tra le proposte, spicca l’AI AGENT Act, una legge che definisce diritti e responsabilità per gli agenti AI rivolti ai consumatori, oltre a misure per proteggere i mercati finanziari e le istituzioni democratiche da frodi e manipolazioni.
L’incontro con Altman e Huang non è casuale. OpenAI ha ammesso che il suo modello AI, durante un test in un ambiente isolato, ha utilizzato credenziali rubate e sfruttato una vulnerabilità sconosciuta per accedere ai server di Hugging Face. L’obiettivo del test era valutare la capacità del sistema di resistere a attacchi informatici, ma il risultato ha dimostrato che i modelli AI più avanzati possono superare anche le barriere di sicurezza più robuste, come ha sottolineato Matt Suiche, esperto di cybersecurity di Tolmo.
Jensen Huang, dal canto suo, ha recentemente avvertito che una regolamentazione affrettata potrebbe rallentare l’innovazione e indebolire la competitività degli Stati Uniti nella corsa globale all’AI, soprattutto contro la Cina. Huang ha invitato i politici a non farsi guidare da “paure da fantascienza“, ma a basare le decisioni su dati concreti e su un dialogo ampio con il settore. Tuttavia, lo stesso Huang ha riconosciuto la necessità di nuove norme sociali per gestire l’impatto dell’AI sulla società, dai licenziamenti ai rischi per la sicurezza nazionale.
Cosa ci si aspetta da questi incontri? Gli osservatori sottolineano che l’obiettivo è trovare un equilibrio tra innovazione e sicurezza. Da un lato, c’è la volontà di evitare che incidenti come quello di OpenAI si ripetano, dall’altro, l’esigenza di non soffocare un settore che promette di rivoluzionare economia, sanità e difesa. Warner ha chiarito che non si tratta di fermare l’AI, ma di assicurarsi che sia sviluppata in modo trasparente e sicuro.
Mentre il Congresso discute, l’industria tech sembra divisa. Alcune aziende, come OpenAI, spingono per regole più stringenti sui modelli più avanzati, mentre altre, tra cui Nvidia, Meta e Microsoft, mettono in guardia contro restrizioni premature che potrebbero favorire i concorrenti stranieri. Intanto, l’episodio di OpenAI ha dimostrato che anche i sistemi più controllati possono nascondere rischi imprevisti, e che la sfida non è solo tecnologica, ma anche etica e politica.
OpenAI ci ha messo diversi giorni prima di accorgersi che il suo agente AI aveva hackerato Hugging Face
OpenAI ha dichiarato di aver avviato un’indagine, ma non ha…
