Un nuovo sistema di verifica dell'età alimentato da intelligenza artificiale aiuterà Meta ad impedire che gli adolescenti e i bambini possano aggirare le restrizioni di Instagram. I social network non sono mai stati così sotto scrutinio da parte dell'opinione pubblica e delle autorità: il tema è quello della sicurezza dei minori.
LA SFIDA DI INSTAGRAM PER PROTEGGERE I MINORI
Negli ultimi mesi, Instagram ha introdotto un gran numero di misure di sicurezza pensate per evitare che i minorenni possano ricevere contatti indesiderati da parte degli adulti. Ad esempio, ora di default gli account dei minori di 16 anni sono privati: i post pubblicati possono essere visti esclusivamente dai follower approvati manualmente dal proprietario del profilo. Inoltre, gli adulti non possono più inviare messaggi per primi ai minorenni.
Il problema è che non tutti i ragazzi dichiarano la loro reale età al momento dell'iscrizione. La risposta di Meta? Un sofisticato sistema AI che promette di identificare gli account di minori mascherati da adulti, aggiungendo una barriera extra per chi cerca di aggirare le limitazioni.
Gli account di Instagram associati a minori di 16 anni sono ora contrassegnati automaticamente come “teen account,” una categoria che applica restrizioni di privacy tra le più rigorose del social. In pratica, questi profili vengono blindati, bloccando qualsiasi contatto con potenziali “predatori” o profili sospetti.
COME FUNZIONA L'AI DI INSTAGRAM
L’adult classifier di Meta, sfruttando la potenza dei modelli AI di Amazon Bedrock, analizza vari parametri per capire se l’account appartiene effettivamente a un adulto o a un minore.
Secondo Allison Hartnett, dirigente di Meta a capo della divisione che si occupa di sicurezza dei minori, questo strumento è in grado di analizzare in tempo reale l'attività degli account. L'AI monitora il tipo di contenuti con cui interagiscono gli utenti: ad esempio i reel che visualizzano, gli account che seguono e le persone con cui comunicano. Tra le altre cose, il sistema tiene anche conto di altri possibili indizi che facciano pensare che l'account sia stato creato da un adolescente: ad esempio, è in grado di capire se l'email o il numero di telefono sono già stati stati usati per creare altri account e si accorge anche se l'account è utilizzato su uno smartphone o un tablet che in passato era associato ad un teen account.
Grazie a questa tecnologia, Instagram sarà in grado di riconoscere automaticamente se l'utente ha mentito sulla sua età. Se il profilo viene etichettato come teen, l'utente riceverà in automatico tutte le restrizioni del caso - a beneficio della sua sicurezza. Ovviamente, in caso di errori sarà possibile fare appello.
RICONOSCIMENTO FACCIALE E DOCUMENTI FARANNO IL RESTO
In alcuni casi, Meta potrà chiedere all'utente di accertare la sua età con un secondo metodo, ancora più infallibile. Instagram richiederà infatti un documento d’identità valido o di effettuare un video selfie usando Yoti, una piattaforma per il riconoscimento dell'età che è già usata da numerose app per adulti, come Facebook Dating. Il sistema accerta approssimativamente l'età dell'utente, senza compromettere la sua privacy: i dati usati per la verifica vengono, infatti, immediatamente distrutti.