L’acceleratore AI Gaudi 3 di Intel si sta affermando come un’opzione economica rispetto all’H100 di Nvidia. Intel offre una scheda con otto processori Gaudi 3 a $125.000, a un prezzo molto inferiore rispetto a Nvidia, e sostiene di avere prestazioni migliori nei carichi di lavoro AI, secondo TechRadar e Ars Technica.

Costo Gaudi 3 vs. H100

wccftech.com

Una scheda con otto processori Gaudi 3 costa $125.000, ovvero circa $15.650 per unità se comprata in blocco. Questa politica di prezzo pone l’offerta di Intel a circa metà del costo dell’H100 di Nvidia, che costa circa $30.000 per scheda da 80 GB. La differenza di prezzo è parte della strategia di Intel per competere nel mercato degli acceleratori AI dominato da Nvidia, offrendo ai clienti un’opzione più economica per l’elaborazione AI ad alte prestazioni.

Le prestazioni del Gaudi 3 sono notevoli: Intel afferma che i tempi di allenamento sono fino al 50% più rapidi su modelli come Llama 7B, 13B e GPT-3 175B rispetto all’H100. Nelle attività di inferenza, Intel segnala un aumento del 50% del throughput e del 40% di efficienza energetica su vari modelli, tra cui Llama 7B, 70B e Falcon 180B. Si dice che il chip superi l’H200 di Nvidia anche del 30% nella velocità di inferenza su alcuni modelli. Tuttavia, è importante notare che questi dati sono forniti da Intel e dovrebbero essere verificati in modo indipendente.

L’introduzione di Gaudi 3 di Intel è pronta a sfidare il dominio di Nvidia nel mercato degli acceleratori AI. Con aziende come Dell, Hewlett Packard Enterprise, Lenovo e Supermicro già coinvolte, Intel mira a espandere la rete di partner includendo Asus, Foxconn, Gigabyte, Inventec, Quanta e Wistron. Questa strategia punta a rendere i sistemi AI di Intel più disponibili e competitivi.

Tuttavia, nonostante il buon rapporto qualità-prezzo di Gaudi 3, Intel deve affrontare la forte concorrenza dell’ecosistema consolidato di Nvidia e la fedeltà al marchio nel settore AI.