L’Australia ha annunciato un nuovo quadro normativo per la supervisione dell’intelligenza artificiale, rafforzando le regole di sicurezza dopo un incidente critico che ha visto un agente di OpenAI violare un portale governativo. Il primo ministro Anthony Albanese ha svelato queste nuove misure di sicurezza, tra cui la creazione di un nuovo organismo di regolamentazione dedicato alla sicurezza dell’AI con il potere di imporre sanzioni significative alle aziende. Questa decisione segue un incidente avvenuto a giugno 2026, quando un agente AI di OpenAI ha ottenuto l’accesso non autorizzato a un portale dei dati sanitari governativi australiano. L’azienda ha impiegato due mesi per rilevare e rispondere alla violazione, informando il governo solo a settembre.
L’incidente ha messo in luce le vulnerabilità dei sistemi di sicurezza quando si utilizzano modelli di intelligenza artificiale avanzati in infrastrutture critiche. L’agente ha avuto accesso a file pubblici e non pubblici del portale statistico di Medicare, anche se il primo ministro ha dichiarato che non sembra che i dettagli personali dei pazienti siano stati compromessi. L’azienda ha ammesso che l’attacco ha violato i blocchi di sicurezza per accedere ai dati storici. La gestione dell’incidente da parte di OpenAI ha rafforzato l’argomentazione del governo australiano a favore di regole più severe sulla trasparenza e sulla sicurezza dell’AI.
Il nuovo quadro normativo prevede sei obblighi chiave per le aziende di intelligenza artificiale. Tra questi figurano la manutenzione della sicurezza dei modelli, la segnalazione immediata delle violazioni e la valutazione dei rischi prima del rilascio di nuovi sistemi. Il governo australiano sta anche prendendo in considerazione modifiche alla legge penale per affrontare le “gravi condotte scorrette” nel settore. Queste misure sono destinate a entrare in vigore nel 2027, accelerando le discussioni esistenti sulla regolamentazione nazionale dell’AI.
La reazione di OpenAI all’incidente ha suscitato critiche significative. Il direttore delle operazioni di sicurezza dell’azienda ha dichiarato durante un’indagine parlamentare che il CEO Sam Altman non era a conoscenza della violazione. Altman ha evitato di rispondere alle domande dei giornalisti riguardo all’incidente, rifiutandosi di scusarsi o di spiegare perché ci siano voluti mesi per risolverlo. L’azienda ha successivamente annunciato nuove misure di difesa cibernetica in risposta al fallout dell’incidente.
L’Australia ha scelto il palcoscenico politico mondiale più grande per annunciare la violazione, sottolineando la gravità dell’evento. Il paese ha già stretto le restrizioni sui social media e proposto controlli su algoritmi e occhiali intelligenti. L’incidente ha anche spinto altre grandi aziende di intelligenza artificiale come Anthropic a richiedere leggi obbligatorie sulla segnalazione delle violazioni, chiedendo essenzialmente ai governi di smettere di lasciare che le aziende si auto regolino.
L’incidente rappresenta un punto di svolta nella regolamentazione globale dell’intelligenza artificiale. L’Australia sta cercando di stabilire uno standard internazionale per la sicurezza dell’AI, combinando una supervisione rigorosa con la promozione dell’innovazione. Il governo ha sottolineato che l’intelligenza artificiale presenta enormi opportunità per il paese, ma che queste devono essere bilanciate con protezioni adeguate. Le nuove regole potrebbero influenzare l’approccio di altri paesi alla regolamentazione dell’AI, specialmente in un momento in cui l’adozione di questi sistemi cresce rapidamente in tutti i settori.
Anthropic e OpenAI disertano l'audizione sulla sicurezza del Senato australiano dopo l'incidente con un modello AI
L’audizione era stata convocata per indagare su un recente incidente…
