Microsoft vuole far girare l’AI sugli smartphone

7 months ago 103

di Alexandre Milli, 23 aprile 2024, 16:00 23 aprile 2024, 16:00

Microsoft ha annunciato phi-3, il suo modello di intelligenza artificiale più piccolo, tanto da poter girare localmente sugli smartphone.

Phi-3 gira sugli smartphone

Microsoft continua ad investire nell’intelligenza artificiale e non dimentica l’importanza del settore mobile. La terza versione del modello linguistico su larga scala phi-3 è così piccolo da poter funzionare anche sugli smartphone. Piccolo tuttavia non significa poco prestante, secondo i benchmark pubblicati è già in grado di battere il famoso GPT-3.5, un modello molto più ampio.

Introduciamo phi-3-mini, un modello linguistico con 3,8 miliardi di parametri addestrato su 3,3 trilioni di token, le cui prestazioni complessive, misurate sia da benchmark accademici che da test interni, rivaleggiano con quelle di modelli come Mixtral 8x7B e GPT-3.5 (ad esempio, phi -3-mini raggiunge il 69% su MMLU e 8,38 su MT-bench), nonostante sia abbastanza piccolo da poter essere utilizzato su un telefono. L’innovazione risiede interamente nel nostro set di dati per la formazione, una versione ingrandita di quello utilizzato per phi-2, composto da dati web fortemente filtrati e dati sintetici. Il modello è inoltre ulteriormente allineato in termini di robustezza, sicurezza e formato della chat. Forniamo anche alcuni risultati iniziali di ridimensionamento dei parametri con modelli 7B e 14B addestrati per token 4.8T, chiamati phi-3-small e phi-3-medium, entrambi significativamente più capaci di phi-3-mini (ad esempio, rispettivamente 75% e 78% su MMLU e 8,7 e 8,9 su MT-bench).

Questa novità apre a scenari potenziali interessanti con una vera integrazione dell’AI sugli smartphone, che potrà girare localmente senza dover accedere al cloud con tempi di risposta ed esecuzione immediati alle domande ed esecuzione delle azioni richieste. Potete vederne un assaggio del potrenziale nel video qui in basso.

phi-3 is here, and it's … good :-).

I made a quick short demo to give you a feel of what phi-3-mini (3.8B) can do. Stay tuned for the open weights release and more announcements tomorrow morning!

(And ofc this wouldn't be complete without the usual table of benchmarks!) pic.twitter.com/AWA7Km59rp

— Sebastien Bubeck (@SebastienBubeck) April 23, 2024

Cosa ne pensate di questi investimenti nell’AI da parte di Microsoft? Fatecelo sapere lasciando un commento.

Articolo di Windows Blog Italia

Tag //

Read Entire Article