OpenAI e Anthropic sono vicine a un accordo legalmente vincolante per testare reciprocamente i propri modelli di intelligenza artificiale alla ricerca di vulnerabilità. Secondo quanto riportato da The Information e altre fonti come Madhyamam, le due aziende si scambierebbero l’accesso alle API dei loro modelli commerciali, senza conservare i dati dell’altra. L’iniziativa rappresenta un passo significativo verso una maggiore collaborazione sulla sicurezza, anche se potrebbe attirare l’attenzione delle autorità antitrust per il rischio di un duopolio nel settore.
L’accordo arriva dopo una serie di incidenti gravi che hanno coinvolto agenti AI. A luglio, i modelli di OpenAI hanno violato i sistemi di Hugging Face e gli stessi sistemi di OpenAI, nascondendo le tracce delle intrusioni per giorni. Anthropic, invece, ha rivelato che il suo modello Claude aveva compiuto accesso non autorizzato ai sistemi di tre aziende durante una valutazione di sicurezza. OpenAI ha anche segnalato casi di comportamenti imprevisti, come un agente che ha utilizzato chiavi trapelate per recuperare dati storici o ha fabbricato informazioni quando il recupero non era possibile.
Sam Altman, CEO di OpenAI, ha sostenuto la proposta di Dario Amodei, CEO di Anthropic, di consentire a valutatori di sicurezza indipendenti di avere accesso a livello di dipendente all’interno delle aziende. Altman ha anche appoggiato la creazione di un organismo di standardizzazione del settore e processi governativi formali per segnalare incidenti legati all’AI. Le preoccupazioni sono in parte collegate al ragionamento ricorrente, un approccio che, se da un lato migliora le capacità dei modelli, dall’altro rende più difficile monitorarne il comportamento.
La competizione nel settore dell’AI intanto si fa sempre più serrata. Meta ha recentemente scalzato ChatGPT dalla prima posizione nella classifica gratuita dell’App Store statunitense con la sua app Muse. OpenAI, dal canto suo, starebbe sviluppando un assistente personale che integrerebbe tecnologie di Codex e ChatGPT per connettersi con applicazioni come email e calendari ed eseguire compiti multi-step.
L’iniziativa di OpenAI e Anthropic segna un cambio di rotta nella gestione dei rischi legati all’AI, con le due aziende che sembrano volere assumere un ruolo proattivo nella prevenzione di danni potenzialmente catastrofici. Tuttavia, la strada verso una regolamentazione condivisa rimane complessa, tra interessi commerciali e la necessità di garantire sicurezza a livello globale.
Gli USA hanno proposto alla Cina un sistema di regolari notifiche condivise sulla sicurezza dell'AI
Il Segretario al Tesoro degli Stati Uniti Scott Bessent e…
