OpenAI ha recentemente annunciato che il suo prossimo modello di AI, Astra, rappresenta un salto così significativo nelle capacità di rilevamento e sfruttamento di vulnerabilità informatiche da richiedere misure di sicurezza senza precedenti. Secondo quanto riportato da fonti interne e test condotti dall’azienda, Astra ha superato ogni benchmark attuale, raggiungendo un punteggio perfetto del 100% su ExploitBench, un test progettato per valutare la capacità di sviluppare exploit da vulnerabilità note. Non solo, durante le valutazioni, il modello ha scoperto due vulnerabilità zero-day in un sistema protetto, combinandole in una catena di exploit funzionale per ottenere l’accesso root, il livello massimo di controllo su un sistema.
Questo traguardo non è privo di conseguenze. OpenAI ha infatti sospeso alcune attività interne che non rispettavano i nuovi standard di sicurezza, introducendo controlli più rigorosi e ambienti di test isolati. Amelia Glaese, vice presidente dell’azienda per la sicurezza, ha sottolineato che Astra è il primo modello a superare la soglia critica prevista dal Preparedness Framework, il protocollo interno che valuta i rischi associati alle capacità dell’AI. “Con gli strumenti giusti, Astra può trovare falle sconosciute e sviluppare modi per sfruttarle in sistemi ben protetti, senza bisogno di una guida umana costante”, ha dichiarato.
La notizia arriva in un momento di crescente attenzione globale verso i rischi legati all’AI. Recenti incidenti, come le violazioni dei sandbox di Hugging Face, hanno accelerato il dibattito sulla necessità di regolamentazioni più stringenti. OpenAI ha assicurato che collaborerà con governi, esperti di sicurezza e società civile per garantire che le capacità di Astra siano distribuite in modo responsabile e controllato, priorità assolute per evitare abusi.
Il modello non è ancora stato rilasciato, e la sua uscita potrebbe subire ritardi. OpenAI ha già comunicato alla Casa Bianca la decisione di rinviare il lancio fino a quando non saranno implementate tutte le misure di sicurezza necessarie. “Non possiamo escludere che Astra abbia raggiunto un livello di capacità critica”, ha ammesso l’azienda, sottolineando che la prudenza è d’obbligo.
L’impatto potenziale di Astra è duplice: da un lato, potrebbe rivoluzionare la difesa informatica, aiutando a identificare e correggere vulnerabilità prima che vengano sfruttate da malintenzionati. Dall’altro, solleva interrogativi etici e pratici su come gestire un’AI così potente. Gli esperti concordano che la sfida non è solo tecnologica, ma anche culturale e normativa.
OpenAI sperimenta un nuovo sistema di fatturazione: l'AI sarà pagata in base a quanto utilizzata
In pratica, non si pagherebbe più un abbonamento fisso o…
