OpenAI ha annunciato l’acquisizione di Promptfoo, startup statunitense specializzata nella sicurezza degli agenti di intelligenza artificiale, per un valore non reso noto. Fondata nel 2024 da Ian Webster e Michael D’Angelo, Promptfoo offre strumenti per testare le vulnerabilità dei modelli linguistici, utilizzati già da oltre il 25% delle aziende Fortune 500, ovvero la lista delle 500 maggiori aziende degli Stati Uniti per fatturato secondo la rivista Fortune.
L’obiettivo di OpenAI è integrare la tecnologia offerta da Promptfoo nella piattaforma OpenAI Frontier, dedicata agli “AI coworkers”, per automatizzare le simulazioni di attacchi e monitorare i rischi in tempo reale. Secondo Srinivas Narayanan, CTO di OpenAI, questa mossa permetterà alle aziende di “distribuire applicazioni AI sicure e affidabili su larga scala”.
Mentre gli agenti AI promettono di rivoluzionare la produttività aziendale, crescono al contempo le preoccupazioni per attacchi informatici, fughe di dati sensibili o manipolazioni dei sistemi automatizzati. Promptfoo si distingue per la sua capacità di identificare comportamenti imprevedibili o pericolosi nei modelli AI, testando risposte a prompt ostili o casi limite. La piattaforma, open source e già integrata nei processi di sviluppo di molte aziende, diventerà ora il cuore della strategia di sicurezza di OpenAI.
La responsabile hardware di OpenAI si dimette a causa dell'accordo col Pentagono
Caitlin Kalinowski ha spiegato le ragioni delle sue dimissioni puntualizzando…
