Tento príspevok ilustruje metódu použitia funkcií a tried výstupného analyzátora prostredníctvom rámca LangChain.
Ako používať výstupný analyzátor cez LangChain?
Výstupné analyzátory sú výstupy a triedy, ktoré môžu pomôcť získať štruktúrovaný výstup z modelu. Ak sa chcete naučiť proces používania výstupných analyzátorov v LangChain, jednoducho prejdite uvedenými krokmi:
Krok 1: Nainštalujte moduly
Najprv začnite proces používania výstupných analyzátorov inštaláciou modulu LangChain s jeho závislosťami, aby ste prešli procesom:
pip Inštalácia langchain
Potom nainštalujte modul OpenAI, aby ste mohli používať jeho knižnice ako OpenAI a ChatOpenAI:
pip Inštalácia openai
Teraz nastavte prostredie pre OpenAI pomocou kľúča API z účtu OpenAI:
importujte nás
importovať getpass
os.environ [ 'OPENAI_API_KEY' ] = getpass.getpass ( 'OpenAI API Key:' )
Krok 2: Importujte knižnice
Ďalším krokom je import knižníc z LangChain na použitie výstupných analyzátorov v rámci:
from langchain.prompts import HumanMessagePromptTemplate
z pydantického importu Field
z langchain.prompts importovať ChatPromptTemplate
z langchain.output_parsers importujte PydanticOutputParser
z pydantického importu BaseModel
z pydantického importéra
z langchain.chat_models importujte ChatOpenAI
z langchain.llms importujte OpenAI
zadaním importovať zoznam
Krok 3: Vytvorenie dátovej štruktúry
Vytvorenie štruktúry výstupu je životne dôležitá aplikácia výstupných analyzátorov vo veľkých jazykových modeloch. Predtým, ako sa dostaneme k dátovej štruktúre modelov, je potrebné definovať názov modelu, ktorý používame na získanie štruktúrovaného výstupu z výstupných syntaktických analyzátorov:
teplota = 0,0
model = OpenAI ( meno modela =názov_modelu, teplota = teplota )
Teraz použite triedu Joke obsahujúcu BaseModel na konfiguráciu štruktúry výstupu, aby ste dostali vtip z modelu. Potom môže používateľ ľahko pridať vlastnú logiku overenia pomocou triedy pydantic, ktorá môže požiadať používateľa, aby vložil lepšie vytvorený dotaz/výzvu:
triedny vtip ( BaseModel ) :nastavenie: str = Pole ( popis = 'dotaz na zobrazenie vtipu' )
punchline: str = Pole ( popis = 'odpovedať na otázku vtipom' )
#Logická validácia pre dotaz, pretože model mu musí správne porozumieť
@ validátor ( 'nastaviť' )
def question_ends_with_question_mark ( cls, pole ) :
ak lúka [ - 1 ] ! = '?' :
zvýšiť hodnotu ValueError ( 'Zle postavená otázka!' )
vrátiť lúka
Krok 4: Nastavenie šablóny výzvy
Nakonfigurujte premennú syntaktického analyzátora obsahujúcu metódu PydaticOutputParser() obsahujúcu jej parametre:
Po konfigurácii syntaktického analyzátora jednoducho definujte premennú výzvy pomocou metódy PromptTemplate() so štruktúrou dotazu/výzvy:
prompt = PromptTemplate (šablóna = 'Odpovedzte na otázku používateľa. \n {format_instructions} \n {dopyt} \n ' ,
vstupné_premenné = [ 'dopyt' ] ,
čiastočné_premenné = { 'format_instructions' : parser.get_format_instructions ( ) }
)
Krok 5: Otestujte výstupný analyzátor
Po nakonfigurovaní všetkých požiadaviek vytvorte premennú, ktorá je priradená pomocou dotazu, a potom zavolajte metódu format_prompt():
_input = prompt.format_prompt ( dopyt =dotaz_vtipu )
Teraz zavolajte funkciu model() na definovanie výstupnej premennej:
výstup = model ( _input.to_string ( ) )Dokončite proces testovania volaním metódy parser() s výstupnou premennou ako jej parametrom:
parser.parse ( výkon ) 
To je všetko o procese používania výstupného analyzátora v LangChain.
Záver
Ak chcete použiť výstupný analyzátor v LangChain, nainštalujte moduly a nastavte prostredie OpenAI pomocou jeho kľúča API. Potom definujte model a potom nakonfigurujte dátovú štruktúru výstupu s logickým overením dotazu poskytnutého používateľom. Keď je dátová štruktúra nakonfigurovaná, jednoducho nastavte šablónu výzvy a potom otestujte výstupný analyzátor, aby ste získali výsledok z modelu. Táto príručka ilustruje proces používania výstupného analyzátora v rámci LangChain.