HPE realizzerà i server per l'intelligenza artificiale di Elon Musk

HPE si è portata a casa una bella vittoria, soprattutto dal punto di vista commerciale, aggiudicandosi un contratto del valore di oltre 1 miliardo di dollari per la costruzione dei server che alimenteranno i nuovi progetti di xAI, l'azienda di Elon Musk che sviluppa Grok, il chabtot di recente staccato da X sotto forma di app indipendente per iOS e Android.

L'accordo, chiuso alla fine del 2024, pone HPE davanti a concorrenti potenti come Dell e Supermicro. Per l'azienda, questo significa un salto fondamentale rispetto al passato, quando tradizionalmente non era leader nel mercato dei server AI. Sottolinea bene l'importanza per le piattaforme social di affidarsi ad aziende esperte che possano potenziare le loro strategie di intelligenza artificiale.

L'accordo, finalizzato alla fine del 2024, non fornisce dettagli tecnici sulla partnership ma è altamente probabile che i server di HPE possano poggiare sulle GPU NVIDIA H200, basate sulla nuova architettura Blackwell. Considerando il costo unitario di queste GPU, stimato intorno ai 50.000 dollari, e ipotizzando un cluster di almeno 10.000 unità per raggiungere le prestazioni desiderate (fino a 90 FP4 ExaFLOPS), il costo delle sole GPU potrebbe aggirarsi intorno al mezzo miliardo di dollari.

Vale la pena ricordare che prima di diventare X, il social Twitter si affidava per le proprie infrastrutture a MiTAC, Supermicro e Wiwynn. Dall'avvento di Elon Musk, il gruppo ha rinnovato i contratti solo a Supermicro.

Oltre a Grok, xAI ha diversi progetti in cantiere, alimentati da un flusso costante di investimenti attratti dalla presentazione del supercomputer Colossus. È interessante notare che, nonostante Dell abbia costruito Colossus, xAI ha preferito HPE per la realizzazione dei server dedicati alla sua AI. Un cambio di rotta significativo, con possibili conseguenze economiche non da poco per la stessa HPE.

Colossus è stato progettato specificamente per l'addestramento di modelli di intelligenza artificiale di grandi dimensioni, come quello che alimenta Grok. In pratica, Colossus "impara" analizzando enormi quantità di dati e individuando schemi e relazioni tra di essi. Questo processo richiede una potenza di calcolo ingente, fornita dalle 100.000 GPU NVIDIA H100 di cui è dotato.