La startup francese di intelligenza artificiale Mistral ha lanciato i suoi primi modelli di AI generativa, chiamati Les Ministraux, progettati specificamente per dispositivi edge come laptop e smartphone. Questa iniziativa mira a soddisfare la crescente domanda di applicazioni AI locali e orientate alla privacy, capaci di eseguire compiti senza fare affidamento su infrastrutture cloud.

Panoramica dei Modelli Les Ministraux

Mistral ha introdotto due modelli in questa famiglia:

  • Ministral 3B
  • Ministral 8B

Entrambi i modelli presentano una notevole finestra di contesto di 128.000 token, consentendo loro di elaborare testi equivalenti a circa 50 pagine di un libro. Questa capacità li rende adatti a varie applicazioni, tra cui:

  • Traduzione su dispositivo
  • Assistenti intelligenti senza connessione a Internet
  • Analisi locali
  • Robotica autonoma

Mistral sottolinea che questi modelli sono progettati per fornire una soluzione efficienti in termini di calcolo e a bassa latenza per applicazioni critiche in cui la privacy e l’elaborazione locale sono fondamentali.

A partire da oggi, il modello Ministral 8B è disponibile per il download, ma esclusivamente per scopi di ricerca. Gli sviluppatori e le aziende interessate a implementare uno dei due modelli commercialmente devono contattare Mistral per accordi di licenza. In alternativa, entrambi i modelli possono essere accessibili tramite la piattaforma cloud di Mistral, Le Platforme, e altre nuvole partner nelle prossime settimane.

La struttura dei prezzi per l’uso è la seguente:

  • Ministral 8B: 10 centesimi per milione di token in input/output (circa 750.000 parole)
  • Ministral 3B: 4 centesimi per milione di token in input/output

Questa struttura dei prezzi riflette la tendenza verso modelli AI più piccoli, che non solo sono più economici da gestire, ma anche più rapidi da addestrare e ottimizzare rispetto ai modelli più grandi.

Il rilascio di Les Ministraux si allinea con una tendenza più ampia nel settore che favorisce modelli AI più piccoli. Questi modelli stanno diventando sempre più popolari grazie alla loro efficienza e ai costi operativi inferiori, rendendo le capacità avanzate dell’AI più accessibili a un numero maggiore di organizzazioni. Concorrenti come Google e Microsoft stanno anche sviluppando famiglie di modelli piccoli destinate a mercati simili, evidenziando il cambiamento verso soluzioni AI efficienti in termini di risorse.

In sintesi, i Les Ministraux di Mistral rappresentano un significativo avanzamento nell’accessibilità della tecnologia AI generativa per dispositivi edge, rispondendo alle esigenze degli sviluppatori che cercano soluzioni efficienti e focalizzate sulla privacy.