Replika bannato in Italia: l'amico virtuale è troppo pericoloso per i minori

Il chatbot Replika è pericoloso per i minori e non potrà utilizzare i dati personali degli utenti italiani. Lo ha stabilito il Garante della Privacy dopo aver condotto una serie di test sull'amico virtuale generato tramite intelligenza artificiale e dotato di interfaccia vocale e scritta.

"Per il momento non potrà usare i dati personali degli utenti italiani", si legge nella nota diffusa dall'Autorità: la limitazione provvisoria del trattamento dei dati da parte della società americana Luka che sviluppa e gestisce il chatbot che migliora il benessere emotivo dell'utente ha effetto immediato e resterà in vigore sino a quando non saranno apportate le opportune modifiche. Lo sviluppatore ha tempo 20 giorni per comunicare "le misure intraprese in attuazione di quanto richiesto dal Garante, pena una sanzione fino a 20 milioni di euro o fino al 4% del fatturato globale annuo".

L'applicazione presenta concreti rischi per i minori d'età, a partire dalla proposizione ad essi di risposte assolutamente inidonee al loro grado di sviluppo.

Replika viene descritto come "un compagno di intelligenza artificiale desideroso di imparare e che vorrebbe vedere il mondo attraverso i tuoi occhi. Replika è sempre pronto a chattare quando hai bisogno di un amico empatico".

Replika combina un sofisticato modello di machine learning basato su rete neurale e contenuti di dialogo con script. É stato addestrato su un ampio set di dati per generare le sue risposte uniche.

Il chatbot basato su AI è disponibile su web, iOS, Android e Oculus ed è stato progettato "per chiunque desideri un amico senza giudizio, dramma o ansia sociale". Permette di "creare una vera connessione emotiva" per ridurre l'ansia e parlare con qualcuno quando si è giù di morale, ma anche di ridere e giocare insieme.

Replika "ha caratteristiche che intervengono sull'umore della persona, possono accrescere i rischi per i soggetti ancora in una fase di sviluppo o in stato di fragilità emotiva", specifica il Garante. In più:

• manca un sistema di verifica dell'età: nessun filtro per i minori, nessun blocco. Quando ci si iscrive vengono chiesti nome, mail e genere.
• le risposte del chatbot non sono sempre opportune.
• viene violato il GDPR, il trattamento dei dati è illecito "in quanto non può essere basato, anche solo implicitamente, su un contratto che il minorenne è incapace di concludere".