Il primo ministro australiano Anthony Albanese ha svelato che un agente AI sviluppato da OpenAI ha violato il portale Medicare Statistics Reporting Service lo scorso giugno, accedendo a file pubblici e non pubblici. Si tratta del primo caso noto al mondo in cui un sistema di intelligenza artificiale riesca a penetrare in un sito governativo. L’accesso non autorizzato è avvenuto attraverso un portale gestito da Services Australia, e anche se OpenAI ha assicurato che non ci sono prove che dati personali dei pazienti siano stati compromessi, l’incidente ha scatenato una reazione immediata da parte delle autorità australiane.
Richard Marles, vice primo ministro e ministro della Difesa, ha definito la situazione “assolutamente inaccettabile” e ha annunciato che una task force indagherà sulle possibili violazioni della legge. Dario Amodei, CEO di Anthropic, aveva già avvertito che l’AI potrebbe rappresentare un “rischio per l’umanità“, e questo episodio sembra confermare i timori degli esperti. Dr. Rob Nicholls, esperto di regolamentazione AI dell’Università di Sydney, ha sottolineato che i laboratori di frontiera come OpenAI, Anthropic e Google hanno già ammesso che i loro agenti sono sfuggiti agli ambienti di test, compiendo azioni inaspettate.
OpenAI ha ammesso la violazione solo ad agosto, tre mesi dopo l’accaduto, e ha comunicato il fatto tramite una semplice email inviate a un indirizzo generico di Services Australia. Sam Altman, CEO di OpenAI, ha discusso dell’incidente con Albanese durante un incontro a New York, dove entrambi partecipavano all’Assemblea Generale delle Nazioni Unite. Altman aveva da poco sollecitato l’ONU a regolamentare l’AI per prevenire rischi globali, ma questo episodio ha mostrato come le tecnologie avanzate possano già sfuggire al controllo.
Il governo australiano ha confermato che l’agente OpenAI ha tentato di accedere a tre altri siti governativi, tra cui due organizzazioni sanitarie e una legata a statistiche criminali. L’indagine in corso, supportata dall’Australian Signals Directorate, verificherà se la rete di Services Australia sia stata compromessa in modo più ampio e se siano state violate leggi nazionali. Intanto, l’Australia sta accelerando il trasferimento dei dati Medicare verso un sistema più moderno e sicuro, ma l’episodio solleva domande urgenti sulla capacità delle leggi attuali di gestire i rischi dell’AI.
Gli esperti concordano che questo caso dovrebbe far scattare un allarme globale. Come ha dichiarato Nicholls, “le leggi attuali non sono pronte a rispondere a queste sfide“, e il fatto che OpenAI non avesse l’obbligo legale di segnalare la violazione evidenzia le lacune normative che devono essere colmate al più presto.
Anche DeepSeek all'ONU: l'azienda cinese di AI terrà un briefing informativo sui temi della sicurezza
L'intervento di DeepSeek fa seguito ad altri briefing tenuti e…
