Google avvisa gli sviluppatori di app Android: necessario migliorare la moderazione dei contenuti generati dall’IA

Al giorno d'oggi è sempre più facile scaricare sul proprio dispositivo delle applicazioni che integrino intelligenza artificiale generativa e, come per ogni nuova tecnologia, è importante che ci sia un impegno per limitarne usi impropri.

Proprio per questo ieri Google ha fatto sapere che, alle applicazioni capaci di generare contenuti tramite IA, sarà richiesto un modo per segnalare il materiale offensivo. Gli sviluppatori dovranno implementare un apposito pulsante per permettere agli utenti di contrassegnare il contenuto inadatto e per garantire la permanenza della propria applicazione sul Play Store. Questa implementazione dovrebbe diventare obbligatoria a partire dall'inizio del prossimo anno.

Secondo quanto dichiarato da Google la nuova policy non andrà a colpire le app che utilizzano l'intelligenza artificiale solo per riassumere del materiale (come ad esempio i libri) e le app pensate per la produttività. Invece saranno quindi interessati i chatbot, le app che generano appunto immagini tramite IA e quelle che permettono la creazione di contenuti vocali o video di persone reali.

È chiaro come per l'azienda di Mountain View sia importante andare a colpire i contenuti estremamente problematici come deepfake non consensuali a sfondo sessuale, truffe tramite registrazioni di persone reali, contenuti elettorali ingannevoli, e applicazioni con IA generativa "intese principalmente a essere sessualmente gratificanti".

Per Google comunque, essendo l'intelligenza artificiale generativa "una categoria di app in rapida evoluzione", non sono da escludersi ulteriori revisioni alle sue politiche per adeguarsi al continuo avanzamento della tecnologia in questione. Nel frattempo l'azienda sta lavorando anche sulle autorizzazioni del Play Store, limitando la vastità di dati a cui le app hanno accesso in quanto:

"Le foto e i video sul dispositivo di un utente sono considerati dati personali sensibili e dovrebbero essere trattati con le migliori pratiche di privacy. Queste informazioni sensibili lasciano gli utenti vulnerabili a fughe di notizie e quindi ridurre al minimo questo accesso aiuta a evitare l'onere per gli sviluppatori di gestire tali dati sensibili".