Tempi duri per i "furbetti dell'IA": Google Foto ci dirà se un'immagine è stata modificata

A breve sarà molto più semplice sapere se stiamo guardando un'immagine modificata con l'IA generativa: Google Foto sta per ottenere una sezione informativa dedicata. 

La diffusione degli strumenti per generare e modificare immagini ha cambiato per sempre la nostra percezione della realtà, e per questo anche l'Europa si è messa in moto con l'AI Act. Ma anche le aziende tecnologiche devono fare la loro parte per rendere il più trasparente possibile l'utilizzo dell'IA: vediamo come funziona la soluzione di Google.

Il funzionamento di questo strumento è tanto semplice quanto, in teoria, efficace. Quando si apre un'immagine in Google Foto, scorrendo verso l'alto si arriva a una sezione chiamata Dettagli, che mostra una serie di informazioni come i dati del dispositivo che l'ha scattata, le dimensioni e se è stata sottoposta a backup. 

A partire dalla prossima settimana, verrà aggiunta una nuova voce, chiamata AI Info, che mostrerà due informazioni.

La prima, chiamata Credit (non sappiamo come verrà tradotta in italiano), mostrerà se l'immagine è stata modificata con l'intelligenza artificiale.

Come si vede in questo esempio, fornito da Google, si può vedere la scritta "Modificato con Google AI" o "Realizzato da Google AI", se l'immagine è stata modificata con Pixel Studio e Gemini.

La seconda, chiamata Digital source type, mostrerà Modificato utilizzando l'IA generativa, ovvero con strumenti come Magic Editor, Gomma Magica e Zoom Migliorato. I primi due si possono trovare su tutti i telefoni, mentre l'ultimo è esclusivo per i telefoni Google, ma tutti includono già i metadati nelle immagini per riconoscerle come modificate con l'IA.

In alternativa, è possibile trovare la scritta Composite of captured elements (ancora, non sappiamo come verrà tradotto in italiano), nel caso di modifiche che pur non usando l'IA generativa non catturano un momento reale, come Scatto Migliore e Aggiungimi.

C'è un aspetto importante da tenere presente, ovvero che lo strumento non riconosce solo le modifiche effettuate dall'IA di Google, ma tutte le immagini che seguono lo standard IPTC.

L'IPTC (International Press Telecommunications Council) è l'organismo standard globale dei media, che ha introdotto uno standard per i metadati relativi alle immagini create o modificate con l'IA (appunto Credit e Digital Source Type).

Non solo, ma Google ha già annunciato a settembre una "maggiore trasparenza intorno alle modifiche AI", tanto che si è unita alla Coalition for Content Provenance and Authenticity (C2PA).

Goolge ha annunciato che la novità arriverà la prossima settimana per tutti gli utenti Google Foto. 

C'è però un problema, anzi due. Il primo, come si può vedere dall'immagine sopra, è che i metadati possono essere facilmente modificati. Il secondo è lo strumento IA deve includere i metadati secondo lo standard IPTC.

In pratica, se uno sviluppatore non vuole includerli, non si saprà mai che un'immagine è stata modificata o creata con l'IA. In Europa si sta cercando di superare questo limite con l'AI Act, ma anche se è entrato in vigore ad agosto 2024, la sua applicazione completa richiederà ancora due anni. 

Ecco perché Apple, che con iOS 18.2 introdurrà Visual Intelligence, almeno negli Stati Uniti, ha deciso per il momento di tenersi alla larga da funzioni come l'aggiunta di oggetti nelle foto. Mentre la rimozione di oggetti sarà indicata con un tag nell'app Foto e i metadati corrispondenti. 

La questione insomma è tutt'altro che risolta, ma la mossa di Google è sicuramente un passo nella giusta direzione.