Ako pridať stav pamäte v reťazci pomocou LangChain?

Ako Pridat Stav Pamate V Retazci Pomocou Langchain



LangChain umožňuje vývojárom vytvárať chatovacie modely, ktoré môžu viesť rozhovor s ľuďmi pomocou prirodzených jazykov. Aby bol rozhovor efektívny, model potrebuje mať pamäť, kde je uložený kontext rozhovoru. Modely LangChain môžu ukladať chatové správy ako pozorovania, takže výstup môže byť neustále v kontexte konverzácie

Táto príručka bude ilustrovať proces načítania reťazí z LangChain Hub.

Ako pridať stav pamäte v reťazci pomocou LangChain?

Stav pamäte možno použiť na inicializáciu reťazcov, pretože môže odkazovať na aktuálnu hodnotu uloženú v reťazcoch, ktorá sa použije pri vrátení výstupu. Ak sa chcete naučiť proces pridávania stavu pamäte v reťazcoch pomocou rámca LangChain, jednoducho si prejdite tohto jednoduchého sprievodcu:







Krok 1: Nainštalujte moduly

Najprv vstúpte do procesu inštaláciou rámca LangChain s jeho závislosťami pomocou príkazu pip:



pip install langchain



Nainštalujte si aj modul OpenAI, aby ste získali jeho knižnice, ktoré možno použiť na pridanie stavu pamäte v reťazci:





pip install openai

Získajte kľúč API z účtu OpenAI a nastaviť prostredie pomocou neho, aby k nemu reťazce mali prístup:



importovať vy

importovať getpass

vy . približne [ 'OPENAI_API_KEY' ] = getpass . getpass ( 'OpenAI API Key:' )

Tento krok je dôležitý pre správne fungovanie kódu.

Krok 2: Importujte knižnice

Po nastavení prostredia jednoducho importujte knižnice na pridanie stavu pamäte, ako sú LLMCain, ConversationBufferMemory a mnohé ďalšie:

od langchain. reťaze importovať ConversationChain

od langchain. Pamäť importovať ConversationBufferMemory

od langchain. chat_models importovať ChatOpenAI

od langchain. reťaze . llm importovať LLMChain

od langchain. výzvy importovať PromptTemplate

Krok 3: Budovanie reťazí

Teraz jednoducho vytvorte reťazce pre LLM pomocou metódy OpenAI() a šablóny výzvy pomocou dotazu na zavolanie reťazca:

chatovať = ChatOpenAI ( teplota = 0 )

prompt_template = 'Napíš {style} vtip'

llm_chain = LLMChain ( llm = chatovať , výzva = PromptTemplate. from_template ( prompt_template ) )

llm_chain ( vstupy = { 'štýl' : 'banálny' } )

Model zobrazil výstup pomocou modelu LLM, ako je znázornené na obrázku nižšie:

Krok 4: Pridanie stavu pamäte

Tu sa chystáme pridať stav pamäte v reťazci pomocou metódy ConversationBufferMemory() a spustiť reťaz, aby sme získali 3 farby z dúhy:

rozhovor = ConversationChain (

llm = chatovať ,

Pamäť = ConversationBufferMemory ( )

)

rozhovor. behať ( 'stručne dajte 3 farby dúhy' )

Model zobrazuje iba tri farby dúhy a kontext je uložený v pamäti reťaze:

Tu spúšťame reťaz s nejednoznačným príkazom ako „ ďalšie 4? ” takže samotný model získa kontext z pamäte a zobrazí zostávajúce farby dúhy:

rozhovor. behať ( 'ďalšie 4?' )

Model urobil presne to, pretože pochopil kontext a vrátil zostávajúce štyri farby zo sady dúhy:

To je všetko o načítaní reťazí z LangChain Hub.

Záver

Ak chcete pridať pamäť do reťazcov pomocou rámca LangChain, jednoducho nainštalujte moduly na nastavenie prostredia na budovanie LLM. Potom importujte knižnice potrebné na vytvorenie reťazcov v LLM a potom do nich pridajte stav pamäte. Po pridaní stavu pamäte do reťazca jednoducho zadajte príkaz reťazcu na získanie výstupu a potom zadajte ďalší príkaz v kontexte predchádzajúceho, aby ste dostali správnu odpoveď. Tento príspevok rozpracoval proces pridávania stavu pamäte do reťazcov pomocou rámca LangChain.