Meta ha recentemente annunciato i large concept models (lcm), introducendo un nuovo paradigma nella modellazione del linguaggio naturale che supera le limitazioni degli attuali large language models (llm).
Mentre i llm tradizionali operano a livello di token, prevedendo parola per parola, gli lcm si focalizzano su concetti più astratti, rappresentati da intere frasi in spazi semantici multidimensionali.
Questa innovazione consente agli lcm di comprendere e generare contenuti con una coerenza e profondità semantica superiori, avvicinandosi al modo in cui gli esseri umani elaborano le informazioni. utilizzando lo spazio di embedding sonar, che supporta fino a 200 lingue sia in formato testuale che vocale,