Il deepfake che si accolla le videochiamate al posto nostro è un sogno o un incubo che si avvera?

4 months ago 89

Eric Yuan, CEO di Zoom, durante un'intervista a The Verge, ha espresso un'affermazione piuttosto forte: le riunioni da remoto, in futuro, vedranno la partecipazione di cloni digitali basati sull'IA, capaci di interagire e di prendere decisioni. 

L’utilizzo degli LLM ed i loro attuali limiti

In particolare, secondo il CEO di Zoom tutto questo sarà possibile grazie all'utilizzo dei modelli linguistici di grandi dimensioni. Questa tecnologia, però, almeno per ora, presenta ancora dei limiti. Difatti, gli LLM attuali non sono ancora in grado di replicare gli atteggiamenti umani, a partire dal processo di ragionamento. 

Per il futuro, invece, le cose potrebbero cambiare. Secondo Yuan ogni persona potrà addestrare un LLM personalizzato così da imitare se stesso alla perfezione: "Tutti condividono gli stessi LLM, ma è una cosa che non ha alcun senso. Dovrei avere il mio LLM: l'LLM di Eric, l'LLM di Nilay. Tutti noi avremo il nostro LLM. Questa è sostanzialmente la base per un gemello digitale su cui posso contare. Ci saranno momenti in cui desidero partecipare ad una call, e quindi lo faccio. Se non voglio partecipare, posso mandare il mio gemello digitale per unirsi. Questo è il futuro".

I dubbi su questo utilizzo dell’IA

Le dichiarazioni di Eric Yuan hanno suscitato delle reazioni contrastanti. Il giornalista di The Verge, Nilay Patel, ha sottolineato gli errori degli attuali LLM, ovvero quando l'IA generativa propone delle conclusioni senza alcun senso logico. Inoltre, non vanno sottovalutati aspetti come quello della privacy e della sicurezza visto che si parla di creare gemelli digitali deepfake.

A questi dubbi, Yuan ha replicato affermando che crede nel progresso e che come ogni tecnologia anche quella dell'IA supererà ogni criticità. Sulla sicurezza, invece, ha indicato dei sistemi di riconoscimento dei deepfake e l'utilizzo della tecnologia di crittografia end-to-end per proteggere ogni comunicazione.

Read Entire Article