Super Micro Computer ha recentemente annunciato il lancio dei server NVIDIA GB200 NVL72 e HGX B200, progettati per affrontare le crescenti esigenze delle applicazioni di intelligenza artificiale (AI) e dei modelli di linguaggio di grandi dimensioni (LLM). Questi server rappresentano una significativa evoluzione nella potenza di calcolo e nell’efficienza energetica, grazie all’integrazione della nuova architettura Blackwell di NVIDIA.
Caratteristiche principali del NVIDIA GB200 NVL72
- Prestazioni elevate: Il sistema GB200 NVL72 offre un incremento delle prestazioni fino a 30 volte rispetto ai precedenti modelli H100 di NVIDIA per l’inferenza LLM, riducendo al contempo i costi totali di proprietà (TCO) e il consumo energetico fino al 25%.
- Architettura avanzata: Basato sulla nuova architettura Blackwell, il sistema è dotato di 36 CPU Grace e 72 GPU Blackwell, collegate tramite il quinto generazione NVLink, garantendo una comunicazione GPU-to-GPU ad alta velocità.
- Efficienza energetica: Il design del GB200 NVL72 è ottimizzato per l’efficienza energetica, utilizzando soluzioni di raffreddamento a liquido che consentono operazioni ad alte prestazioni senza compromettere i consumi.
Dettagli tecnici
| Caratteristica | GB200 NVL72 |
|---|---|
| Numero di CPU | 36 Grace CPUs |
| Numero di GPU | 72 Blackwell GPUs |
| Interconnessione | NVLink a 1.8 TB/s |
| Capacità di memoria | Fino a 30 TB di memoria veloce |
| Consumo energetico | ~120 kW per rack |
Applicazioni e impatti
I nuovi server sono progettati per supportare carichi di lavoro AI estremamente complessi, inclusi la formazione e l’inferenza di modelli LLM. Super Micro Computer prevede che questi sistemi saranno adottati in modo crescente nei data center ad alta potenza, contribuendo a un’era di calcolo exascale più sostenibile ed efficiente. Con l’integrazione delle tecnologie più recenti, come i processori BlueField-3 e le soluzioni di rete avanzate, i server GB200 NVL72 e HGX B200 si pongono come strumenti fondamentali per le aziende che cercano di ottimizzare le loro infrastrutture AI.
L’introduzione dei server NVIDIA GB200 NVL72 e HGX B200 rappresenta un passo significativo verso il futuro del calcolo AI, promettendo prestazioni elevate con un’attenzione particolare all’efficienza energetica.