Voice Engine di OpenAI clonerà una voce in appena 15 secondi!

OpenAI recentemente ha lanciato un nuovo strumento basato sull'intelligenza artificiale, che sicuramente farà discutere. Si tratta di Voice Engine e sarà in grado di clonare le voci analizzando soltanto un campione audio di appena 15 secondi. Il processo di sviluppo del software è stato avviato nel 2022 ed ora sembra funzionare davvero bene. 

Stando a quanto dichiarato da OpenAI, la nuova tecnologia può essere utilizzata in vari ambiti, come ad esempio a supporto alle traduzione linguistiche oppure alle persone che problemi di linguaggio. Inoltre, è in grado anche generare audio in altre lingue riproducendo i modelli sonori del campione originale. Tuttavia, non mancano le preoccupazioni, soprattutto quelle relative all'abuso dello strumento per creare deepfake. 

In tal senso, Voice Engine non verrà ancora rilasciato al pubblico. Dietro a tale scelta, infatti, ci sono dei potenziali problemi di sicurezza, a partire dall'eventualità che la voce di qualcuno possa essere clonata senza il suo consenso.

A questo proposito, durante la presentazione dello strumento, OpenAI si è assicurata che i suoi partner accettassero le sue politiche di utilizzo, che includevano l'uso dell'audio di qualcuno solo dopo il consenso esplicito dell'individuo, specificare chiaramente l'utilizzo di un audio sintetico e la presenza di una filigrana digitale dei contenuti generati dal modello.

Ancora, OpenAI ha suggerito diversi passaggi che potrebbero limitare ulteriormente i rischi, tra cui l'eliminazione graduale dell'autenticazione tramite voce per accedere ai conti bancari, misure ad hoc per proteggere l'uso delle voci delle persone nell'IA, una maggiore educazione sui deepfakes dell'IA e lo sviluppo di sistemi di tracciamento dei contenuti basati sull'intelligenza artificiale. Infine, OpenAI ha chiarito che Voice Engine, per ora, sarà disponibile solo per circa 10 sviluppatori.