LangChain je rámec, ktorý možno použiť na import knižníc a závislostí na vytváranie veľkých jazykových modelov alebo LLM. Jazykové modely používajú pamäť na ukladanie údajov alebo histórie do databázy ako pozorovanie na získanie kontextu konverzácie. Pamäť je nakonfigurovaná na ukladanie najnovších správ, takže model môže pochopiť nejednoznačné výzvy používateľa.
Tento blog vysvetľuje proces používania pamäte v LLMChain cez LangChain.
Ako používať pamäť v LLMCain cez LangChain?
Na pridanie pamäte a jej použitie v LLMCain cez LangChain je možné použiť knižnicu ConversationBufferMemory jej importovaním z LangChain.
Ak sa chcete naučiť proces používania pamäte v LLMCain cez LangChain, prejdite si nasledujúcu príručku:
Krok 1: Nainštalujte moduly
Najprv spustite proces používania pamäte inštaláciou LangChain pomocou príkazu pip:
pip install langchain
Nainštalujte moduly OpenAI, aby ste získali jeho závislosti alebo knižnice na vytváranie LLM alebo chatovacích modelov:
pip install openai
Nastavte prostredie pre OpenAI pomocou kľúča API importovaním knižníc OS a getpass:
importujte násimportovať getpass
os.environ['OPENAI_API_KEY'] = getpass.getpass('Kľúč OpenAI API:')
Krok 2: Importovanie knižníc
Po nastavení prostredia jednoducho importujte knižnice ako ConversationBufferMemory z LangChain:
z langchain.chains importujte LLMCainz langchain.llms importujte OpenAI
z langchain.memory importujte ConversationBufferMemory
from langchain.prompts import PromptTemplate
Nakonfigurujte šablónu pre výzvu pomocou premenných ako „vstup“ na získanie dopytu od používateľa a „hist“ na uloženie údajov do vyrovnávacej pamäte:
template = '''Ste modelka a rozprávate sa s človekom{hist}
Človek: {input}
Chatbot:'''
prompt = PromptTemplate(
input_variables=['hist', 'input'], template=template
)
pamäť = ConversationBufferMemory(memory_key='hist')
Krok 3: Konfigurácia LLM
Po vytvorení šablóny pre dotaz nakonfigurujte metódu LLMChain() pomocou viacerých parametrov:
llm = OpenAI()llm_chain = LLMCain(
llm=llm,
výzva = výzva,
verbose=Pravda,
pamäť = pamäť,
)
Krok 4: Testovanie LLMChain
Potom otestujte LLMCain pomocou vstupnej premennej, aby ste dostali výzvu od používateľa v textovej forme:
llm_chain.predict(input='Ahoj, priateľu') 
Použite iný vstup na získanie údajov uložených v pamäti na extrahovanie výstupu pomocou kontextu:
llm_chain.predict(input='Dobre! Som dobrý - ako sa máš') 
Krok 5: Pridanie pamäte do modelu chatu
Pamäť je možné pridať do chatovacieho modelu LLMCain importovaním knižníc:
z langchain.chat_models importujte ChatOpenAIz langchain.schema import SystemMessage
from langchain.prompts import ChatPromptTemplate, HumanMessagePromptTemplate, MessagesPlaceholder
Nakonfigurujte šablónu výzvy pomocou ConversationBufferMemory() pomocou rôznych premenných na nastavenie vstupu od používateľa:
prompt = ChatPromptTemplate.from_messages([SystemMessage(content='Ste modelka, ktorá sa rozpráva s človekom'),
MessagesPlaceholder(variable_),
HumanMessagePromptTemplate.from_template('{input}'),
])
pamäť = ConversationBufferMemory(memory_key='hist', return_messages=True)
Krok 6: Konfigurácia LLMChain
Nastavte metódu LLMChain() na konfiguráciu modelu pomocou rôznych argumentov a parametrov:
llm = ChatOpenAI()chat_llm_chain = LLMCain(
llm=llm,
výzva = výzva,
verbose=Pravda,
pamäť = pamäť,
)
Krok 7: Testovanie LLMChain
Na konci jednoducho otestujte LLMCain pomocou vstupu, aby model mohol vygenerovať text podľa výzvy:
chat_llm_chain.predict(input='Ahoj môj priateľ') 
Model uložil predchádzajúcu konverzáciu do pamäte a zobrazí ju pred skutočným výstupom dotazu:
llm_chain.predict(input='Dobre! Som dobrý - ako sa máš') 
To je všetko o používaní pamäte v LLMCain pomocou LangChain.
Záver
Ak chcete použiť pamäť v LLMCain prostredníctvom rámca LangChain, jednoducho nainštalujte moduly a nastavte prostredie na získanie závislostí z modulov. Potom jednoducho importujte knižnice z LangChain, aby ste použili vyrovnávaciu pamäť na uloženie predchádzajúcej konverzácie. Používateľ môže tiež pridať pamäť do modelu chatu vytvorením LLMChain a následným testovaním reťazca poskytnutím vstupu. Táto príručka rozpracovala proces používania pamäte v LLMCain cez LangChain.