Ako spustiť LLMCains v LangChain?

LangChain je rámec, ktorý umožňuje vývojárom vytvárať veľké jazykové modely alebo chatovacie modely, ktoré môžu ľudia použiť na získavanie informácií. Tieto modely možno použiť na interakciu v prirodzených jazykoch po pochopení príkazov na generovanie zodpovedajúcich textov. LLM alebo chatboty používajú reťazce na interakciu s ľuďmi tak, že ukladajú predchádzajúce správy ako pozorovania, aby získali kontext rozhovoru.

Táto príručka bude ilustrovať proces spustenia LLMChains v LangChain.

Ako spustiť LLMCains v LangChain?

LangChain poskytuje funkcie alebo závislosti na budovanie LLMChain pomocou LLM/Chatbots a šablón promptov. Ak sa chcete dozvedieť o procese budovania a prevádzkovania LLMCains v LangChain, jednoducho postupujte podľa nasledujúceho podrobného sprievodcu:

Krok 1: Nainštalujte balíky

Najprv začnite s procesom inštaláciou modulu LangChain, aby ste získali jeho závislosti na budovanie a spúšťanie LLMChains:

pip install langchain

Nainštalujte rámec OpenAI pomocou príkazu pip, aby knižnice používali funkciu OpenAI() na vytváranie LLM:

pip install openai

Po inštalácii modulov jednoducho nastaviť prostredie premenné pomocou kľúča API z účtu OpenAI:

importovať vy

importovať getpass

vy . približne [ 'OPENAI_API_KEY' ] = getpass . getpass ( 'OpenAI API Key:' )

Krok 2: Importujte knižnice

Po dokončení nastavenia a nainštalovaní všetkých požadovaných balíkov importujte potrebné knižnice na vytvorenie šablóny výzvy. Potom jednoducho vytvorte LLM pomocou metódy OpenAI() a nakonfigurujte LLMChain pomocou LLM a šablóny výzvy:

od langchain importovať PromptTemplate

od langchain importovať OpenAI

od langchain importovať LLMChain

prompt_template = 'dajte mi dobrý názov pre firmu, ktorá vytvára {produkt}?'

llm = OpenAI ( teplota = 0 )

llm_chain = LLMChain (

llm = llm ,

výzva = PromptTemplate. from_template ( prompt_template )

)

llm_chain ( 'farebné oblečenie' )

Krok 3: Bežecké reťaze

Získajte vstupný zoznam obsahujúci rôzne produkty vyrábané podnikom a spustite reťazec, aby sa zoznam zobrazil na obrazovke:

zoznam_vstupov = [
{ 'produkt' : 'ponožky' } ,
{ 'produkt' : 'počítač' } ,
{ 'produkt' : 'topánky' }
]

llm_chain. uplatniť ( zoznam_vstupov )

Spustite metódu create() pomocou príkazu zoznam_vstupov pomocou LLMChains získate výstup súvisiaci s konverzáciou generovanou modelom:

llm_chain. generovať ( zoznam_vstupov )

Krok 4: Použitie jedného vstupu

Pridajte ďalší produkt na spustenie LLMCains pomocou iba jedného vstupu a potom predpovedajte LLMCain na generovanie výstupu:

llm_chain. predpovedať ( produktu = 'farebné ponožky' )

Krok 5: Používanie viacerých vstupov

Teraz vytvorte šablónu na použitie viacerých vstupov na poskytnutie príkazu modelu pred spustením reťazca:

šablóna = '''Povedz mi vtip s {prídavným menom} o {predmete}.'''
výzva = PromptTemplate ( šablóna = šablóna , vstupné_premenné = [ 'prídavné meno' , 'predmet' ] )
llm_chain = LLMChain ( výzva = výzva , llm = OpenAI ( teplota = 0 ) )

llm_chain. predpovedať ( prídavné meno = 'smutny' , predmet = 'kačice' )

Krok 6: Použitie výstupného analyzátora

Tento krok používa metódu výstupného analyzátora na spustenie LLMChain na získanie výstupu na základe výzvy:

od langchain. výstupné_analyzátory importovať CommaSeparatedListOutputParser

output_parser = CommaSeparatedListOutputParser ( )

šablóna = '''Uveďte všetky farby dúhy'''

výzva = PromptTemplate ( šablóna = šablóna , vstupné_premenné = [ ] , output_parser = output_parser )

llm_chain = LLMChain ( výzva = výzva , llm = llm )

llm_chain. predpovedať ( )

Použitím metódy parse() na získanie výstupu sa vygeneruje zoznam všetkých farieb dúhy oddelených čiarkami:

llm_chain. predpovedať a analyzovať ( )

Krok 7: Inicializácia z reťazcov

Tento krok vysvetľuje proces použitia reťazca ako výzvy na spustenie LLMChain pomocou modelu a šablóny LLM:

šablóna = '''Povedz mi vtip s {prídavným menom} o {predmete}'''

llm_chain = LLMChain. z_reťazca ( llm = llm , šablóna = šablóna )

Zadajte hodnoty premenných vo výzve reťazca na získanie výstupu z modelu spustením LLMChain:

llm_chain. predpovedať ( prídavné meno = 'smutny' , predmet = 'kačice' )

To je všetko o prevádzke LLMCains pomocou rámca LangChain.

Záver

Ak chcete zostaviť a spustiť LLMCains v LangChain, nainštalujte si predpoklady, ako sú balíky, a nastavte prostredie pomocou kľúča API OpenAI. Potom naimportujte potrebné knižnice na konfiguráciu šablóny výzvy a modelu na spustenie LLMCain pomocou závislostí LangChain. Používateľ môže použiť výstupné syntaktické analyzátory a reťazcové príkazy na spustenie LLMCains, ako je uvedené v príručke. Táto príručka rozpracovala celý proces prevádzky LLMChains v LangChain.

Ako spustiť LLMCains v LangChain?