Affrontare GenAI e LLM potrebbe essere travolgente.

Gestire letteralmente tonnellate di informazioni, framework, guide, video e qualsiasi altro tipo di cosa disponibile GRATUITAMENTE per iniziare con GenAI e LLM potrebbe essere impegnativo.

Ho provato quella sensazione di sentirmi perso nella giungla delle informazioni poiché ho trovato ciò che mi ha aiutato a mettere le cose in ordine e capire da dove cominciare.

La cosa potrebbe essere più difficile se sei uno sviluppatore Node.js. La maggior parte delle fonti di esempi e contenuti preziosi sono destinati agli sviluppatori Python.

Non è affatto male; imparare Python potrebbe rivelarsi una scelta vincente oggigiorno.

Ma cosa succede se desideri utilizzare node.js e sfruttare le tue conoscenze? Bene, questo potrebbe fare al caso tuo.

Passaggio 1: familiarizzare con l’SDK Langchain Typescript

Considerando le centinaia di cose che si dovrebbero considerare per un’app GenAI, Langchain per TypeScript è una miniera d’oro.

Come primo passo, esplora la documentazione di Langchain . Una volta lì, esamina i tutorial e rivedi le applicazioni tutorial ; questo ti aiuterà a capire quale tipo di applicazione potrebbe essere adatta a te.

Costruire un’applicazione RAG conversazionale potrebbe essere un punto di partenza completo.

Passaggio 2: crea un’app di esempio utilizzando uno starter

La realizzazione di un’app, persino come esempio, può richiedere un notevole investimento di tempo.

Esistono molti starters e template anche per Langchain per evitare l’onere di creare tutto da zero. Questo potrebbe essere un buon esempio. Suggerirei di guardare i campioni di Langchain , che è un’altra miniera d’oro.

Avere un antipasto è solo l’inizio.

Passaggio n. 3: lavorare con un LLM locale

Molti degli esempi disponibili utilizzano OpenAI, il che è eccellente, ma cosa accade se desideri sperimentare con qualcosa di più privato o evitare il vincolo del fornitore?

Devi fare due cose. Innanzitutto, installa e gioca con Ollama , il miglior software che ti consente di eseguire un LLM locale indipendentemente dal tuo sistema operativo (puoi anche eseguirlo tramite Docker).

Quindi, ancora una volta, usa Langchain con Ollama utilizzando il modello che preferisci. Questo esempio mostra quanto sia facile eseguire Ollama utilizzando la stessa struttura offerta da Langchain.

Passaggio n. 4: guarda un’applicazione di riferimento

Fare tutto da soli è fantastico e dà una soddisfazione immensa.

E se volessi accelerare il processo e individuare con precisione la soluzione? Osservare, apprendere e trarre spunti da un’applicazione “di riferimento” può ridurre significativamente i tempi. Un’ottima scelta potrebbe essere ChatFiles . Questo utilizza Langchain e altri componenti essenziali per un’applicazione RAG. Inoltre, questo articolo potrebbe rivelarsi una vera miniera d’oro se desideri approfondire le applicazioni RAG .

Passaggio n. 5: imparare dall’Open Source

Ecco uno dei consigli più preziosi che si possano ricevere.

Per imparare a scrivere soluzioni e buon codice è necessario imparare il codice, scrivere codice e ripetere. Se vai su Github e guardi l’argomento langchain-typescript , vedrai soluzioni incredibili basate sui migliori langchain e typescript. Quale guardare in particolare? Questo è l’argomento per un post futuro; per ora, vai lì e impara.