Microsoft contro le "allucinazioni" dell'AI: nuovi strumenti per risposte più affidabili

Microsoft combatte le risposte imprecise e fantasiose generate dai suoi modelli di intelligenza artificiale, soprannominate "allucinazioni". In un recente post sul blog Microsoft Source, l'azienda ha dettagliato le sue strategie per migliorare l'affidabilità e l'accuratezza delle risposte fornite dalle sue AI.

Le "allucinazioni" nell'AI derivano da contenuti "infondati" nelle risposte generate. Ciò significa che il modello di intelligenza artificiale, per qualche motivo, modifica o aggiunge dati durante la generazione della risposta, producendo informazioni errate o prive di fondamento. Per contrastare questo problema, Microsoft sta sviluppando diverse soluzioni:

• Potenziamento di Copilot con i dati di ricerca di Bing: i dati di ricerca di Bing vengono integrati nel modello di Copilot attraverso una tecnica chiamata "generazione aumentata dal recupero". Questo processo arricchisce il modello con conoscenze aggiuntive senza necessità di riaddestramento. Le risposte, l'indice e i dati di ranking di Bing aiutano Copilot a fornire risposte più precise e pertinenti, offrendo anche citazioni che permettono agli utenti di verificare le informazioni.
• Strumenti per clienti esterni: Microsoft offre Azure OpenAI Service con una funzione chiamata "On Your Data". Questa consente ad aziende e organizzazioni di integrare i propri dati interni nelle applicazioni di intelligenza artificiale. Inoltre, è disponibile uno strumento in tempo reale per rilevare il grado di "concretezza" delle risposte fornite dai chatbot.
• Blocco e correzione in tempo reale: Microsoft sta sviluppando una nuova funzionalità per mitigare le "allucinazioni" dell'IA: il blocco e la correzione in tempo reale di dati infondati. Quando viene rilevato un errore di ancoraggio, la funzione riscriverà automaticamente le informazioni basandosi su dati concreti. La data di rilascio di questa nuova funzionalità non è ancora stata annunciata.

Android 28 Mag

L'impegno di Microsoft per migliorare l'accuratezza e l'affidabilità delle risposte fornite dalle sue intelligenze artificiali è fondamentale per il futuro di questa tecnologia. Riducendo le "allucinazioni" e garantendo risposte basate su dati concreti, l'AI potrà essere utilizzata in modo più efficace in diversi settori, offrendo benefici tangibili a imprese e utenti.

Oltre alle soluzioni tecniche implementate da Microsoft, è importante sottolineare il ruolo cruciale della qualità dei dati utilizzati per addestrare i modelli di intelligenza artificiale. Solo con dati accurati e affidabili è possibile ottenere modelli di IA in grado di generare risposte concrete e prive di errori.