Ako používať okno vyrovnávacej pamäte konverzácie v LangChain?
Okno vyrovnávacej pamäte konverzácie sa používa na uchovávanie najnovších správ konverzácie v pamäti, aby ste získali najnovší kontext. Používa hodnotu K na ukladanie správ alebo reťazcov do pamäte pomocou rámca LangChain.
Ak sa chcete naučiť proces používania okna vyrovnávacej pamäte konverzácie v LangChain, jednoducho si prejdite nasledujúcu príručku:
Krok 1: Nainštalujte moduly
Začnite proces používania okna vyrovnávacej pamäte konverzácie inštaláciou modulu LangChain s požadovanými závislosťami na vytváranie modelov konverzácie:
pip install langchain
Potom nainštalujte modul OpenAI, ktorý možno použiť na zostavenie veľkých jazykových modelov v LangChain:
pip install openai
teraz nastaviť prostredie OpenAI na vytvorenie reťazcov LLM pomocou kľúča API z účtu OpenAI:
importovať vy
importovať getpass
vy . približne [ 'OPENAI_API_KEY' ] = getpass . getpass ( 'OpenAI API Key:' )
Krok 2: Používanie pamäte okna vyrovnávacej pamäte konverzácie
Ak chcete použiť pamäť okna vyrovnávacej pamäte konverzácie v LangChain, importujte súbor ConversationBufferWindowMemory knižnica:
od langchain. Pamäť importovať ConversationBufferWindowMemoryNakonfigurujte pamäť pomocou ConversationBufferWindowMemory () metóda s hodnotou k ako jej argumentom. Hodnota k sa použije na uchovanie najnovších správ z konverzácie a na konfiguráciu tréningových údajov pomocou vstupných a výstupných premenných:
Pamäť = ConversationBufferWindowMemory ( k = 1 )Pamäť. save_context ( { 'vstup' : 'Ahoj' } , { 'výkon' : 'Ako sa máš' } )
Pamäť. save_context ( { 'vstup' : 'Som dobrý a čo ty' } , { 'výkon' : 'nie veľa' } )
Otestujte pamäť zavolaním na load_memory_variables () metóda na začatie konverzácie:
Pamäť. load_memory_variables ( { } ) 
Ak chcete získať históriu konverzácie, nakonfigurujte funkciu ConversationBufferWindowMemory() pomocou návratové_správy argument:
Pamäť = ConversationBufferWindowMemory ( k = 1 , návratové_správy = Pravda )Pamäť. save_context ( { 'vstup' : 'Ahoj' } , { 'výkon' : 'čo sa deje' } )
Pamäť. save_context ( { 'vstup' : 'nie moc ty' } , { 'výkon' : 'nie veľa' } )
Teraz zavolajte pamäť pomocou load_memory_variables () metóda na získanie odpovede s históriou konverzácie:
Pamäť. load_memory_variables ( { } ) 
Krok 3: Použitie vyrovnávacieho okna v reťazci
Zostavte reťaz pomocou OpenAI a ConversationChain knižnice a potom nakonfigurujte vyrovnávaciu pamäť na ukladanie najnovších správ v konverzácii:
od langchain. reťaze importovať ConversationChainod langchain. llms importovať OpenAI
#building zhrnutie konverzácie pomocou viacerých parametrov
rozhovor_so_zhrnutím = ConversationChain (
llm = OpenAI ( teplota = 0 ) ,
#building buffer pomocou svojej funkcie s hodnotou k na ukladanie posledných správ
Pamäť = ConversationBufferWindowMemory ( k = 2 ) ,
#configure podrobná premenná na získanie čitateľnejšieho výstupu
podrobný = Pravda
)
rozhovor_so_zhrnutím. predpovedať ( vstup = 'Ahoj, ako' )
Teraz pokračujte v konverzácii položením otázky súvisiacej s výstupom poskytovaným modelom:
rozhovor_so_zhrnutím. predpovedať ( vstup = 'Aké majú problémy' ) 
Model je nakonfigurovaný tak, aby uložil iba jednu predchádzajúcu správu, ktorú možno použiť ako kontext:
rozhovor_so_zhrnutím. predpovedať ( vstup = 'Ide to dobre' ) 
Požiadajte o riešenie problémov a výstupná štruktúra bude naďalej posúvať okno vyrovnávacej pamäte odstránením predchádzajúcich správ:
rozhovor_so_zhrnutím. predpovedať ( vstup = 'Aké je riešenie' ) 
To je všetko o procese používania okien LangChain vyrovnávacej pamäte konverzácie.
Záver
Ak chcete použiť pamäť okna vyrovnávacej pamäte konverzácie v LangChain, jednoducho nainštalujte moduly a nastavte prostredie pomocou kľúča API OpenAI. Potom vytvorte vyrovnávaciu pamäť pomocou hodnoty k, aby sa zachovali najnovšie správy v konverzácii, aby sa zachoval kontext. Vyrovnávaciu pamäť možno použiť aj s reťazami na podnietenie konverzácie s LLM alebo reťazcom. Táto príručka rozpracovala proces používania okna vyrovnávacej pamäte konverzácie v LangChain.