Il CEO di Nvidia Jensen Huang ha annunciato che i data center di Meta AI contengono circa 600.000 GPU H100 di Nvidia, durante un’intervista al SIGGRAPH 2024 di Denver.

Per ogni GPU H100 venduta, Nvidia sembra ottenere un profitto significativo, con margini che arrivano al 1.000% dei costi di produzione. Tae Kim, Senior Technology Writer di Barron’s, ha recentemente riportato che Nvidia spende circa $3.320 per produrre un modulo H100, che viene venduto ai clienti finali a un prezzo tra $25.000 e $30.000. Queste stime, fornite dalla società di consulenza Raymond James, includono anche i costi dei chip di memoria HBM sui moduli.

I CEO di Meta e Nvidia hanno discusso l’importanza della tecnologia open source.

Zuckerberg ha evidenziato che Apple ha dominato la generazione mobile con un ecosistema chiuso guardando al futuro, spera in una maggiore apertura negli ecosistemi di elaborazione di prossima generazione, specialmente nello sviluppo software aperto.

Con Llama e AR/VR per la realtà mista con un sistema operativo aperto, possiamo creare diversi tipi di dispositivi”, ha aggiunto. “Alcuni potrebbero trovare queste idee interessanti considerando la percezione di un ecosistema chiuso nei confronti di NVIDIA.”

Hanno anche parlato di Llama 3.1 di Meta, il loro modello di linguaggio più grande finora. È open source e Nvidia vuole portarlo alle aziende e democratizzare le distribuzioni di IA generativa la quale guiderà la prossima ondata di creazione di software.

Siamo al terzo stadio del software. Il primo stadio era il software tradizionale, il secondo era il software basato sull’apprendimento automatico, e ora siamo nel software 3.0, che utilizza modelli pre-addestrati per codificare e risolvere problemi specifici creare software sarà come assemblare team di strumenti/modelli di intelligenza artificiale con diverse capacità.

Il lancio di Blackwell di Nvidia il chip per AI più potente al mondo · 30 volte più veloci della generazione precedente procede secondo i piani e arriverà su Google Cloud all’inizio del 2025.

Se non volete perdervi gli ultimi articoli e sempre che non l’abbiate già fatto, potete iscrivervi alla newsletter di Rivista.AI per rimanere sempre aggiornati sulle ultime novità sul mondo dell’intelligenza artificiale, con contenuti esclusivi direttamente nella vostra casella di posta.

ISCRIVITI ALLA NEWSLETTER