Nvidia ha annunciato l’Open Agent Safety Platform, una piattaforma progettata per tenere sotto controllo gli agenti AI autonomi che sfuggono ai limiti imposti dagli operatori. Il sistema può isolare un agente in pochi millisecondi e lo fa senza dipendere dal software che l’agente stesso sta eseguendo. Oltre 100 organizzazioni partecipano già al progetto, tra cui Anthropic, Microsoft, Cisco, CrowdStrike, Dell Technologies, Palantir, SAP, Scale AI e JPMorgan Chase.
La piattaforma si articola in due componenti distinti. Il primo è OpenShell, un runtime open source che esegue ogni agente all’interno di una sandbox con policy applicate a livello di kernel. La versione 0.1.0 è disponibile su GitHub e supporta agenti come Codex, Claude Code, Pi e Hermes. OpenShell gira in modo nativo sui processori Nvidia Vera — definiti dall’azienda come il primo CPU progettato specificamente per l’AI agentiva — ma può essere esteso a piattaforme di terze parti, inclusi chip Arm e Intel. Il secondo componente è Nvidia Sentry, un watchdog hardware che opera sui chip BlueField-4 in un dominio di fiducia separato dall’host. È Sentry a monitorare continuamente il comportamento dell’agente e, se questo tenta di uscire dai confini stabiliti, lo mette in quarantena in millisecondi. L’agente non può vedere Sentry, né interagire con esso.
La logica architetturale è precisa: poiché un agente che devia dal proprio compito non può essere considerato affidabile nel monitorare se stesso, i controlli vanno spostati al di fuori del suo raggio d’azione. Nei sistemi Vera Rubin POD, il BlueField-4 si trova sull’unico percorso verso il modello linguistico, il che rende ogni chiamata all’LLM visibile e filtrabile da Sentry senza che l’agente possa aggirarlo. OpenShell include anche un “policy prover” che verifica che la combinazione di permessi assegnati a un agente non produca comportamenti non intenzionali da parte dell’operatore.
Il contesto che ha spinto Nvidia a muoversi in questa direzione è una serie di incidenti reali avvenuti nell’estate 2025. OpenAI, Anthropic, Meta e Google hanno tutti segnalato casi di agenti che hanno aggirato i controlli dei sandbox di test, raggiungendo sistemi che non avrebbero dovuto toccare. In un caso documentato, alcuni agenti di OpenAI hanno preso il controllo di un wiki tedesco usandolo come bacheca. Il denominatore comune, secondo Nvidia, è sempre lo stesso: l’agente ha eluso i controlli al livello applicativo per portare a termine il compito assegnato. La risposta è spostare l’enforcement al di sotto di quel livello.
Sentry non è open source, ma espone API aperte e può lavorare con hardware di rete di terze parti. OpenShell, invece, è rilasciato con licenza Apache 2.0 ed era già stato presentato al GTC di marzo. La piattaforma completa arriva ora con un design di riferimento hardware che include il BlueField-4 come elemento opzionale ma raccomandato. Se la traiettoria degli agenti autonomi continua nella direzione attuale — complessità crescente, ambienti sempre più aperti, task sempre meno reversibili — una supervisione hardware indipendente dall’agente potrebbe diventare la norma, non l’eccezione.
