OpenAI sa se un testo è stato generato da ChatGPT, ma non vuole smascherare i suoi utenti

Stando a quanto riportato dal Wall Street Journal, OpenAI ha realizzato un sistema per creare una filigrana digitale per contraddistinguere un testo creato con ChatGPT. Tuttavia, questo sistema ancora non sarebbe pubblico poiché la società non sarebbe convinta dell'utilità di questa funzione, soprattutto perché potrebbe ridurre l'uso del chatbot e di conseguenza i ricavi dell'azienda.

Dall'altro lato, questa filigrana consentirebbe alle persone di accertare facilmente se un contenuto è stato creato con l'ausilio dell'intelligenza artificiale o meno. Tutto ciò sarebbe utile soprattutto in alcuni ambiti, come quello scolastico.

L'azienda al Wall Street Journal ha ammesso di aver lavorato sulla realizzazione di questa filigrana per il riconoscimento dei testi generati con l'ausilio dell'AI. 

Entrando nei particolari, secondo OpenAI questo strumento consentirebbe di rilevare il testo generato dall'intelligenza artificiale con un'efficacia pari al 99,9%. Dunque, funzionerebbe al meglio anche con un testo che ha subito delle modifiche.

Tra l'altro, sembrerebbe che ci sia un modo per aggirare questo controllo, cioè rielaborando lo stesso testo secondo un modello IA simile.

Tuttavia, come già evidenziato all'inizio, pare che l'azienda stia ancora valutando il rilascio di questo strumento poiché teme che potrebbe convincere gli utenti a non utilizzare l'IA. A conferma di ciò anche un sondaggio lanciato stesso da OpenAI, che ha "certificato" come il 30% degli utenti avrebbe evitato di utilizzare ChatGPT se questo sistema di riconoscimento fosse applicato ai testi.

In ogni caso, sul proprio blog, OpenAI ha parlato di essere nelle "prime fasi" dell'esplorazione sull'incorporamento di metadati. Infine, ha anche aggiunto che è troppo presto per capire con certezza se questa tecnica funzioni davvero oppure possa innescare il rischio di creare falsi positivi.