Ako komunikovať s LLM pomocou LangChain?

Ako Komunikovat S Llm Pomocou Langchain



Veľké jazykové modely alebo LLM sú výkonným druhom algoritmu neurónovej siete na vytváranie chatbotov, ktoré získavajú údaje pomocou príkazov v prirodzených jazykoch. LLM umožňujú strojom/počítačom lepšie porozumieť prirodzenému jazyku a vytvárať jazyk ako ľudia. Modul LangChain funguje aj na vytváranie modelov NLP. Nemá však svoje LLM, ale umožňuje interakciu s mnohými rôznymi LLM.

Táto príručka vysvetlí proces interakcie s veľkými jazykovými modelmi pomocou LangChain.







Ako komunikovať s LLM pomocou LangChain?

Ak chcete komunikovať s LLM pomocou LangChain, jednoducho postupujte podľa tohto jednoduchého sprievodcu krok za krokom s príkladmi:



Nainštalujte moduly na interakciu s LLM



Pred začatím procesu interakcie s LLM pomocou LangChain nainštalujte „ langchain ” pomocou nasledujúceho kódu:





pip Inštalácia langchain



Ak chcete nainštalovať rámec OpenAI, použite jeho kľúč API na interakciu s LLM prostredníctvom nasledujúceho kódu:

pip Inštalácia openai



Teraz importujte „ vy “ a „ getpass ” na použitie kľúča OpenAI API po vykonaní kódu:



importujte nás
importovať getpass

os.environ [ 'OPENAI_API_KEY' ] = getpass.getpass ( 'OpenAI API Key:' )



Volám LLM

Importujte knižnicu OpenAI z modulu LangChain a priraďte jej funkciu „ llm ” premenná:

z langchain.llms importujte OpenAI

llm = OpenAI ( )


Potom jednoducho zavolajte na „ llm ” funkcia a výzva na dotaz ako jej parameter:

llm ( 'Povedz mi vtip' )



Generovanie viacerých textov pomocou LLM

Pomocou metódy create() s viacerými výzvami v prirodzenom jazyku vygenerujte text z LLM a uložte ho do „ llm_result ” premenná:

llm_result = llm.generate ( [ 'Chcem počuť vtip' , 'Napíš báseň' ] * pätnásť )


Získajte dĺžku objektov uložených v „ llm_result ” premenná pomocou funkcie create():

len ( llm_result.generations )


Jednoducho zavolajte premennú s indexovým číslom objektov:

llm_result.generations [ 0 ]


Nasledujúca snímka obrazovky zobrazuje text uložený v „ llm_result ” premenná na svojom 0-indexe generujúcom vtip:


Pomocou metódy generations() s parametrom index -1 vygenerujte báseň umiestnenú v premennej llm_result:

llm_result.generations [ - 1 ]


Jednoducho zobrazte vygenerovaný výstup vo výslednej premennej, aby ste získali informácie špecifické pre poskytovateľa, ktoré sú vygenerované v predchádzajúcom LLM pomocou vygenerovanej funkcie:

llm_result.llm_output



To je všetko o interakcii s LLM pomocou rámca LangChain na generovanie prirodzeného jazyka.

Záver

Ak chcete komunikovať s veľkými jazykovými modelmi pomocou LangChain, jednoducho si nainštalujte rámce ako LangChain a OpenAI na import knižníc pre LLM. Potom poskytnite kľúč OpenAI API na použitie ako LLM na pochopenie alebo generovanie prirodzeného jazyka. Použite LLM pre výzvu na zadanie v prirodzenom jazyku a potom ho zavolajte na vygenerovanie textu na základe príkazu. Táto príručka vysvetľuje proces interakcie s veľkými jazykovými modelmi pomocou modulov LangChain.