Ako vybudovať LLM a LLMCain v LangChain?

LangChain je rámec s aplikáciou v oblasti spracovania prirodzeného jazyka alebo NLP na vytváranie modelov v jazykoch podobných ľuďom. Tieto modely môžu ľudia použiť na získanie odpovedí od modelu alebo na konverzáciu ako ktorýkoľvek iný človek. LangChain sa používa na vytváranie reťazcov ukladaním každej vety v konverzácii a jej ďalšou interakciou ako kontextu.

Tento príspevok bude ilustrovať proces budovania LLM a LLMChain v LangChain.

Ako vybudovať LLM a LLMCain v LangChain?

Ak chcete vybudovať LLM a LLMChain v LangChain, jednoducho prejdite uvedenými krokmi:

Krok 1: Nainštalujte moduly

Najprv si nainštalujte modul LangChain, aby ste mohli používať jeho knižnice na budovanie LLM a LLMChain:

pip install langchain

Ďalším modulom, ktorý je potrebný na zostavenie LLM, je OpenAI a možno ho nainštalovať pomocou príkazu pip:

pip install openai

Krok 2: Nastavte prostredie

Nastavte prostredie pomocou kľúča OpenAI API z jeho prostredia:

importujte nás
import getpassos.environ['OPENAI_API_KEY'] = getpass.getpass('Kľúč OpenAI API:')

Príklad 1: Zostavte LLM pomocou LangChain

Prvým príkladom je vytvorenie veľkých jazykových modelov pomocou LangChain importovaním knižníc OpenAI a ChatOpenAI a pomocou funkcie use llm():

Krok 1: Použitie modelu chatu LLM

Importujte moduly OpenAI a ChatOpenAI na vytvorenie jednoduchého LLM pomocou prostredia OpenAI z LangChain:

z langchain.chat_models importujte ChatOpenAI

z langchain.llms importujte OpenAI

llm = OpenAI()
chat_model = ChatOpenAI()
llm.predict('ahoj!')

Model odpovedal odpoveďou „ahoj“, ako je zobrazené na nasledujúcej snímke obrazovky nižšie:

Funkcia predikcie () z chat_model sa používa na získanie odpovede alebo odpovede z modelu:

chat_model.predict('ahoj!')

Výstup zobrazuje, že model je k dispozícii používateľovi, ktorý kladie otázky:

Krok 2: Použitie textového dotazu

Používateľ môže tiež získať odpovede z modelu zadaním celej vety do textovej premennej:

text = 'Aký by bol dobrý názov spoločnosti pre spoločnosť, ktorá vyrába farebné ponožky?'

llm.predict(text)

Model zobrazuje viaceré farebné kombinácie pre farebné ponožky:

Získajte podrobnú odpoveď od modelu pomocou funkcie Predikcia () s farebnými kombináciami ponožiek:

chat_model.predict(text)

Krok 3: Používanie textu s obsahom

Používateľ môže dostať odpoveď s malým vysvetlením odpovede:

z langchain.schema import HumanMessage

text = 'Aký názov by bol dobrý pre spoločnosť vyrábajúcu farebné oblečenie'
správy = [HumanMessage(content=text)]

llm.predict_messages(správy)

Model vytvoril názov pre spoločnosť, ktorý je „Creative Clothing Co“:

Predpovedajte správu, aby ste dostali odpoveď na názov spoločnosti aj s jej vysvetlením:

chat_model.predict_messages(správy)

Príklad 2: Zostavte LLMCain pomocou LangChain

Druhý príklad nášho sprievodcu vytvára LLMChain, aby model dostal vo formáte ľudskej interakcie, aby sa spojili všetky kroky z predchádzajúceho príkladu:

z langchain.chat_models importujte ChatOpenAI
z langchain.prompts.chat importovať šablónu ChatPromptTemplate
z langchain.prompts.chat importovať šablónu ChatPromptTemplate
from langchain.prompts.chat import SystemMessagePromptTemplatefrom langchain.prompts.chat import HumanMessagePromptTemplate
z langchain.chains importujte LLMCain
from langchain.schema import BaseOutputParserclass CommaSeparatedListOutputParser(BaseOutputParser):

def parse(self, text: str):
return text.strip().split(', ')

Vytvorte šablónu pre model chatu podrobným vysvetlením jeho fungovania a potom vytvorte funkciu LLMChain() obsahujúcu knižnice LLM, výstupný analyzátor a chat_prompt:

template = '''Musíte pomôcť pri vytváraní zoznamov oddelených čiarkami
Získajte kategóriu od používateľa a vytvorte zoznam oddelený čiarkami s piatimi objektmi
Jediná vec by mala byť objekt z kategórie'''
system_message_prompt = SystemMessagePromptTemplate.from_template(šablóna)
human_template = '{text}'
human_message_prompt = HumanMessagePromptTemplate.from_template(human_template)
#Nakonfigurujte LLMChain so štruktúrou dotazu
chat_prompt = ChatPromptTemplate.from_messages([system_message_prompt, human_message_prompt])
reťaz = LLMChain(
llm=ChatOpenAI(),
prompt=chat_prompt,
output_parser=CommaSeparatedListOutputParser()
)
chain.run('farby')

Model poskytol odpoveď so zoznamom farieb, pretože kategória by mala obsahovať iba 5 objektov uvedených vo výzve:

To je všetko o budovaní LLM a LLMChain v LangChain.

Záver

Ak chcete vybudovať LLM a LLMCain pomocou LangChain, jednoducho nainštalujte moduly LangChain a OpenAI a nastavte prostredie pomocou jeho kľúča API. Potom vytvorte model LLM pomocou chat_model po vytvorení šablóny výzvy pre jeden dotaz na úplný rozhovor. LLMChain sa používajú na vytvorenie reťazcov všetkých pozorovaní v konverzácii a ich použitie ako kontextu interakcie. Tento príspevok ilustruje proces budovania LLM a LLMChain pomocou rámca LangChain.

Ako vybudovať LLM a LLMCain v LangChain?