Google Foto: watermark per le foto modificate con l'AI in Magic Editor

Google sta introducendo un importante aggiornamento nel campo della trasparenza digitale, implementando il sistema di filigrane digitali SynthID nelle foto modificate attraverso Magic Editor, la funzionalità di editing basata sull'intelligenza artificiale di Google Foto. Questa novità, come sottolinea l'azienda in un post, è attualmente in fase di distribuzione e sarà presto attiva per tutti gli account.

Il sistema SynthID, sviluppato dal team DeepMind di Google, opera inserendo un tag di metadata direttamente nelle immagini, nei video, nell'audio e nei testi, permettendo di identificare se questi contenuti sono stati creati o modificati utilizzando strumenti di intelligenza artificiale. Questa tecnologia era già stata implementata per contrassegnare le immagini generate interamente dall'AI attraverso il modello Imagen di Google, il sistema text-to-image dell'azienda.

L'iniziativa non è velleitaria e sempre più realtà stanno lavorando per introdurre simili strumenti per l' autenticazione dei contenuti digitali. Adobe, per esempio, ha sviluppato il proprio sistema chiamato Content Credentials, che viene applicato alle opere create o modificate utilizzando le applicazioni della suite Creative Cloud.

Apps 06 Feb

Android 05 Feb

La funzionalità di "reimagine" disponibile sui telefoni Pixel 9 di Google ha dimostrato di essere uno strumento potente per la manipolazione delle immagini, permettendo di modificare le foto semplicemente descrivendo gli elementi che si desidera aggiungere. Sebbene gli strumenti di editing basati sull'AI non siano intrinsecamente dannosi, è emersa la necessità di poter identificare le manipolazioni effettuate. La nuova modifica per i contenuti manipolati con Magic Editor si aggiunge a quella dello scorso ottobre, quando Google ha iniziato a etichettare le immagini modificate con l'AI nelle descrizioni dei file su Google Foto.

C'è anche da dire che il nuovo sistema di filigrane presenta alcune limitazioni. L'azienda ha ammesso che alcune modifiche effettuate utilizzando la funzione reimagine di Magic Editor potrebbero essere "troppo piccole" per essere etichettate e rilevate da SynthID. La buona notizia, per i creator, è che SynthID non altera visibilmente l'immagine a cui viene applicato e può essere identificato solo utilizzando uno strumento di rilevamento dell'IA dedicato, che fa parte della funzionalità "About this image" di Google.

Gli esperti del settore concordano sul fatto che, sebbene la tecnologia di filigrana digitale possa essere utile quando riesce a rilevare le manipolazioni, da sola non sarà sufficientemente efficace per autenticare in modo affidabile i contenuti generati dall'AI su larga scala. Sarà necessario sviluppare un insieme diversificato di approcci che lavorino in sinergia per garantire una maggiore sicurezza e trasparenza nel mondo dei contenuti digitali.

A proposito di intelligenza artificiale Google, lo sapevate che l'azienda sta testando internamente una nuova funzionalità denominata "Modalità AI" per il suo motore di ricerca?