Attentato a Trump? Mai successo: Meta si scusa per le allucinazioni della sua AI

Nelle scorse ore Meta ha pubblicato un post sul proprio blog ufficiale in cui, tra le altre cose, si scusa per il fatto che il suo assistente basato sull’AI generativa ha detto che il tentato assassinio di Donald Trump di qualche giorno fa non è mai avvenuto. Il post, firmato dal VP of Global Policy Joel Kaplan, parla apertamente di “allucinazioni”, termine che è ormai diventato lo standard per indicare quando un agente AI dice cose inventate, fuorvianti o più in generale non vere.

Il problema delle allucinazioni affligge tutto il settore, come precisa del resto anche Kaplan, ed è vero che i chatbot presenti sul mercato mostrano tutti avvisi in questo senso (anche per questa ragione sono praticamente tutti etichettati come Beta o prodotti sperimentali). Nel caso specifico del tentato assassinio di Trump, Kaplan osserva che Meta è stata rapida nel correggere le inesattezze, e precisa addirittura che inizialmente l’assistente era stato programmato per non rispondere a domande sull’argomento proprio per timore di allucinazioni.

Curiosit 19 Lug

Meta ha anche parlato di un altro problema che è emerso in questo caso specifico, e in un certo senso a sua volta correlato all’intelligenza artificiale. Poco dopo il tentato assassinio, è circolata in Rete una foto modificata di Trump con l’orecchio insanguinato, il pugno in alto e gli agenti dell’FBI sorridenti. Quando i sistemi identificano un contenuto alterato, procedono automaticamente a bloccare anche quelli molto simili; in questo caso, però, siccome le differenze con la foto originale erano molto sottili a livello tecnico (per quanto molto più serie a livello di significato e implicazioni), il filtro è stato applicato anche a essa.

Il problema è che ogni comportamento che sia diverso dal dire la verità, specialmente in un clima politicamente molto teso e polarizzato come negli USA in questo periodo, a distanza di pochi mesi dalle elezioni presidenziali, porta inevitabilmente a critiche e polemiche. Sbagli se non ne parli perché sai che potresti fare degli errori, sbagli se cedi alle critiche e, come avevi previsto, fai degli errori. O, quantomeno: offri un assist fantastico a chi la polemica la vuole alimentare.