Meta Llama 3.1 405B

Meta Platforms ha recentemente lanciato la versione più avanzata del suo modello linguistico, Llama 3.1 405B, in un contesto di crescente competizione con aziende come Microsoft, OpenAI e Google.

Il CEO Mark Zuckerberg ha descritto Llama 3.1 405B come “il primo modello AI open source di frontiera”.

Ha evidenziato che questo modello offre un rapporto costo/prestazioni significativamente migliore rispetto ai modelli proprietari. Inoltre, la natura open source del 405B lo rende particolarmente vantaggioso per la messa a punto e la distillazione di versioni più piccole.

Meta ha anche presentato nuove versioni dei suoi modelli Llama 3.1, inclusi quelli da 70B e 8B. Il nuovo Llama 3.1 405B supporta otto lingue, tra cui francese, tedesco e italiano, e offre finestre di contesto più ampie. I termini di licenza aggiornati permetteranno ora agli output di Llama di alimentare altri modelli.

Zuckerberg ha spiegato le ragioni per cui l’approccio open source rappresenta la scelta migliore per Meta, sottolineando l’accesso a tecnologie avanzate e l’indipendenza da ecosistemi chiusi a lungo termine.

Ha affermato che gli sviluppatori possono eseguire inferenze su Llama 3.1 405B sulla propria infrastruttura, a un costo circa del 50% inferiore rispetto a modelli chiusi come GPT-4o, sia per applicazioni rivolte all’utente che per operazioni offline.

Con riferimento alla crescente competitività nel campo dell’intelligenza artificiale, Zuckerberg ha previsto che il panorama rimarrà “molto competitivo” per un lungo periodo, affermando che rendere open source un modello non garantirà necessariamente un vantaggio decisivo rispetto ai modelli futuri.

Inoltre, ha chiarito che Meta non subisce perdite di entrate vendendo l’accesso ai modelli di intelligenza artificiale, il che significa che la pubblicazione di Llama non compromette la sostenibilità economica o la capacità di investire nella ricerca, contrariamente a quanto avviene per i fornitori di modelli chiusi.

Infine, Meta ha già ottenuto successi significativi con progetti open source, risparmiando “miliardi di dollari” grazie al rilascio di progetti legati a server, reti e data center attraverso l’Open Compute Project, contribuendo così alla standardizzazione della catena di fornitura.

Leggi il post di Mark Open Source AI Is the Path Forward, interessante il passaggio :

Nei primi giorni dell’elaborazione ad alte prestazioni, le principali aziende tecnologiche dell’epoca investirono massicciamente nello sviluppo delle proprie versioni closed source di Unix. All’epoca era difficile immaginare che un altro approccio potesse sviluppare un software così avanzato. Alla fine, però, Linux open source guadagnò popolarità, inizialmente perché consentiva agli sviluppatori di modificare il suo codice come volevano ed era più conveniente, e nel tempo perché divenne più avanzato, più sicuro e aveva un ecosistema più ampio che supportava più capacità di qualsiasi Unix chiuso. Oggi, Linux è la base standard del settore sia per il cloud computing che per i sistemi operativi che eseguono la maggior parte dei dispositivi mobili, e tutti noi beneficiamo di prodotti superiori per questo motivo.

Ma omette una lezione cruciale per Meta. Chi ha realmente tratto vantaggio dall’open-source di Linux? Mentre Linux è diventato lo standard industriale, le versioni proprietarie di Unix si sono trasformate in MacOS e iOS, piattaforme non solo più redditizie, ma che rappresentano anche innovazione ed eccellenza nell’esperienza utente.

I nuovi modelli sono già disponibili per essere testati attraverso WhatsApp e Meta.ai.