Colla sulla pizza, serpenti mammiferi e le altre allucinazioni dell'AI di Google Search

Lo sapevate che i serpenti sono mammiferi? E che se un gatto vi lecca la mano sta valutando se siete buoni da mangiare? E che se vi fate in casa la pizza e il formaggio non aderisce bene alla base potete semplicemente aggiungerci un po’ di colla - a patto che non sia tossica? No? Potete ringraziare la nuova intelligenza artificiale di Google integrata nel suo motore di ricerca per questa infusione di nuova saggezza!

Nel corso della conferenza I/O 2024, Google ha annunciato l’arrivo di AI Overviews, inizialmente solo negli Stati Uniti, come il primo passo dell’integrazione dell’intelligenza artificiale nel suo servizio in assoluto più diffuso e popolare, il motore di ricerca. E non ci è voluto davvero molto perché iniziassero le prime segnalazioni di “allucinazioni” come quelle che vi abbiamo riportato nel primo paragrafo.

Non è certo la prima volta che salta fuori che l’intelligenza artificiale generativa prende delle cantonate colossali, o che si inventa informazioni di sana pianta spacciandole per vere. Perfino durante la dimostrazione di AI Overviews durante l’I/O il software ha restituito una risposta quantomeno discutibile - ha suggerito di aprire lo sportello del rullino per cercare di sistemare una fotocamera inceppata, senza quantomeno menzionare che è un’operazione che andrebbe fatta al buio completo, altrimenti le foto scattate verrebbero irrimediabilmente danneggiate.

Google stessa dice chiaramente che AI Overviews è un prodotto sperimentale (si potrebbe fare di meglio, però: l'indicazione arriva solo quando si espande il risultato, e non viene mai detto espressamente che l'informazione potrebbe essere falsa, imprecisa o fuorviante. Bisogna scavare più a fondo prima di imbattersi in un avviso che "la qualità delle risposte potrebbe variare"); ma al tempo stesso è comprensibile che questa “imprecisione”, se vogliamo chiamarla così, desti sempre più preoccupazione man mano che l’AI si diffonde e si integra in prodotti e servizi mainstream. E non c’è bisogno di tirare in ballo il fatto che la falla logica dell’AI sia il pretesto di base della maggior parte dei film apocalittici sull’argomento, stile Terminator.

Android 22 Mag

Google Search ha raggiunto le dimensioni che ha raggiunto anche per la sua attendibilità, e non è necessariamente detto che applicare un’etichetta che dice sostanzialmente “occhio, potremmo sbagliarci” sia una sufficiente a preservarne la reputazione. Certo, lo stesso vale per ChatGPT e gli altri chatbot analoghi della concorrenza - anche Bard stesso, ma lì i paletti sono più chiari e immediati, perché si tratta di prodotti completamente nuovi interamente basati su una tecnologia sperimentale. È implicito che qualche problema possa saltare fuori, di tanto in tanto. Qui si parla del motore di ricerca più diffuso al mondo, uno strumento di cui le persone hanno imparato a fidarsi, nel corso degli anni.

Parlando con The Verge, un portavoce di Google osserva che le inesattezze emergono solo in caso di richieste molto insolite, e non rappresentano l’esperienza d’uso della maggior parte degli utenti; ma nel mondo vengono fatte 8,5 miliardi di ricerche su Google ogni giorno, quindi è logico assumere che anche “molto insolite” avvenga a livelli assoluti piuttosto spesso. E questi errori fanno notizia per via della definizione stessa di notizia.