OpenAI ha annunciato il lancio (cauto) di Voice Engine, un nuovo modello AI di clonazione vocale. Il sistema è in grado di riprodurre fedelmente la voce di qualsiasi persona partendo da una registrazione di 15 secondi.
OpenAI consapevole dei potenziali rischi legati a un uso improprio di questa tecnologia – come il furto di identità – ha deciso di limitare l’accesso a Voice Engine, almeno inizialmente, a un bacino molto ristretto di sviluppatori, i quali dovranno rispettare una serie di linee guida.
Le dichiarazioni di OpenAI
“Riconosciamo che generare del parlato che assomigli alle voci delle persone comporta seri rischi, che sono particolarmente importanti in un anno elettorale” dichiarano, infatti, dalla società.
“I partner che testano Voice Engine oggi hanno accettato le nostre politiche di utilizzo, che vietano la rappresentazione di un altro individuo o organizzazione senza consenso o senza averne diritto. Inoltre, i nostri termini con questi partner richiedono il consenso esplicito e informato dell’oratore originale e non consentiamo agli sviluppatori di creare modalità affinché i singoli utenti possano creare la propria voce. I partner devono inoltre comunicare chiaramente al proprio pubblico che le voci che sentono sono generate dall’intelligenza artificiale. Infine, abbiamo implementato una serie di misure di sicurezza, inclusa la filigrana per tracciare l’origine di qualsiasi audio generato da Voice Engine, oltre al monitoraggio proattivo del modo in cui viene utilizzato”.
Ulteriori dettagli sul modello sul sito di OpenAI.
