IA per tutti i computer e le applicazioni: le novità di NVIDIA al Computex

Già forte di un dominio nel campo dell'IA praticamente senza avversari, NVIDIA ha presentato al Computex 2024 una serie di strumenti intesi a rendere l'intelligenza artificiale "a portata di computer" (state cercando una scheda video? Date un'occhiata alla nostra selezione delle migliori sul mercato). 

L'azienda ha infatti annunciato, oltre a Project G-Assist, l'assistente che ci aiuterà nei videogiochi, modelli più piccoli, accelerazione GPU per eseguire modelli di piccole dimensioni e tante soluzioni per la creazione di contenuti. 

Ricordate la tecnologia NVIDIA ACE (Avatar Cloud Engine), usata per dar vita ai personaggi non giocabili tramite l'IA generativa? Ora è in arrivo su PC e workstation RTX Al grazie a NVIDIA NIM, quel set di microservizi di inferenza accelerata che consentono agli sviluppatori di ridurre i tempi di installazione e di eseguire modelli di intelligenza artificiale su GPU NVIDIA ovunque, anche sui PC.

I NIM ACE consentono di eseguire localmente su dispositivi strumenti per la comprensione del linguaggio naturale, la sintesi vocale, l'animazione facciale e altro ancora.

In collaborazione con Inworld AI, NVIDIA, ha presentato una demo di Covert Protocol, che presenta il riconoscimento vocale automatico NVIDIA Audio2Face e NVIDIA Riva in esecuzione localmente sui dispositivi.

Microsoft e NVIDIA hanno collaborato per sviluppare un'API che consente di sfruttare il Windows Copilot Runtime tramite RAG e implementare l'accelerazione su GPU per modelli di linguaggio di piccole dimensioni (SLM).

Ora NVIDIA ha implementato un toolkit che consente non solo di eseguire le app IA sulla GPU, ma aggiunge funzionalità RAG (retrieval-augmented generation) al runtime Copilot. RAG fornisce al modello di intelligenza artificiale l'accesso a informazioni specifiche a livello locale, consentendogli di fornire soluzioni più utili.

Cosa significa? In pratica, visto che gli SLM possono essere usati per la sintesi e la generazione di contenuti, oltre all'automazione delle attività, grazie alle capacità RAG è possibile dare al modello Al l'accesso a informazioni specifiche e ottimizzare il comportamento e le capacità SLM in base alle esigenze dell'applicazione.

Queste funzionalità Al saranno accelerate dalle GPU NVIDIA RTX, così come dagli acceleratori Al di altri fornitori di hardware. L'API sarà rilasciata in anteprima per sviluppatori entro la fine dell'anno, e nel concreto dovrebbe consentire anche di superare i limiti dei computer Copilot+, che richiedono NPU di 40 TOPS, aprendo le porte dell'IA anche ad altri PC altrimenti esclusi.

L'abbiamo detto più volte: il futuro dell'IA sono modelli specifici in grado di soddisfare le esigenze di singole applicazioni. Per aiutare questo sviluppo, NVIDIA ha lanciato il nuovo RTX AI Toolkit, una suite di strumenti e SDK per la personalizzazione, ottimizzazione e implementazione dei modelli su PC con schede RTX.

Il kit, che sarà disponibile a giugno, consente di personalizzare un modello preaddestrato con strumenti LoRa open source e grazie all'ottimizzatore del modello NVIDIA TensorRT possono sviluppare modelli in grado di consumare fino a 3 volte meno RAM.

A questo punto, grazie a NVIDIA TensorRT Cloud possono ottimizzare il modello e ottenere prestazioni di picco attraverso le linee di GPU RTX fino a 4 volte più veloci rispetto al modello preaddestrato.

NVIDIA ha già aperto l'accesso anticipato al kit di sviluppo software (SDK) NVIDIA Al Inference Manager (AIM), che semplifica l'integrazione Al per gli sviluppatori di applicazioni PC preconfigurando inoltre il PC con i modelli, i motori e le dipendenze Al necessari in un formato NIM unificato.

Infine, NVIDIA ha integrato l'accelerazione RTX AI nelle app per i creatori di contenuti. NVIDIA RTX Remix è una piattaforma di modding per rimasterizzare i classici giochi DirectX 8 e DirectX 9 con ray tracing e NVIDIA DLSS 3.5, e da questo mese l'RTX Remix Toolkit  diventerà open source. 

Inoltre, NVIDIA sta rendendo accessibili le funzionalità di RTX Remix Toolkit tramite un'API REST, consentendo ai modder di collegare in diretta RTX Remix a strumenti di creazione di contenuti digitali come Blender, strumenti di modding come Hammer e app Al generative come ComfyUl.

NVIDIA sta anche fornendo un SDK per RTX Remix Runtime per consentire ai modder di distribuire il renderer di RTX Remix in altre applicazioni e giochi.

NVIDIA RTX Video, la popolare funzione di super-risoluzione alimentata da Al supportata nei browser Google Chrome, Microsoft Edge e Mozilla Firefox, è ora disponibile come SDK per tutti gli sviluppatori.

RTX Video è in arrivo anche su DaVinci Resolve e Wondershare Filmora, e anche VLC sta per implementare RTX Video HDR.