Syntax:
Keďže poznáme ChatGPT, vieme, že túto platformu vlastní komunita Open AI a poskytuje nástroje, architektúry, API a niekoľko rámcov, ktoré môžeme využiť pri nasadzovaní našich aplikácií a modelov spracovania prirodzeného jazyka. Otvorená AI ponúka rozhrania API, prostredníctvom ktorých môžeme použiť akékoľvek vopred trénované modely AI a NLP z platformy Open AI a zabezpečiť ich fungovanie pre naše aplikácie, ako je napríklad poskytovanie predpovedí o údajoch v reálnom čase. GPT4All tiež svojim používateľom poskytuje možnosť integrovať svoje vopred vyškolené modely AI s rôznymi aplikáciami.
Model GPT4All je trénovaný na obmedzených údajoch v porovnaní s ChatGPT. Má tiež niektoré z obmedzení výkonu v porovnaní s ChatGPT, ale umožňuje používateľovi používať svoj súkromný GPT na svojom lokálnom hardvéri a nevyžaduje žiadne sieťové pripojenia. Pomocou tohto článku sa dozvieme, ako môžeme používať modely GPT4All v skripte Python, pretože GPT4All má oficiálne väzby s Pythonom, čo znamená, že modely GPT4All môžeme používať a integrovať aj prostredníctvom skriptu Python.
Na inštaláciu GPT4All pre Python IDE je potrebný online príkaz. Potom môžeme integrovať toľko modelov AI, koľko je našich aplikácií. Príkaz na inštaláciu tohto GPT4All v Pythone je znázornený na nasledujúcom obrázku:
$ pip nainštalovať gpt4all
Príklad 1:
Aby sme mohli začať s týmto príkladom, musíme si stiahnuť a nainštalovať Python do našich systémov. Odporúčané verzie Pythonu sú „verzia 3.7“ alebo verzie, ktoré prišli po tejto verzii. Ďalším spôsobom, ako pracovať s Pythonom, aby ste sa vyhli dlhému procesu inštalácie „nastavenia Pythonu“ do našich systémov, je použitie „Google Colab“, čo je cloudové prostredie pre Python. Toto prostredie môžeme spustiť na akomkoľvek webovom prehliadači a môžeme vytvoriť modely AI a strojového učenia. Príklady, ktoré tu implementujeme, sú spustené v Google Colab.
Tento príklad popisuje spôsob inštalácie GPT4All v Pythone a ako používať jeho predtrénované modely. Začneme najprv inštaláciou GPT4All. Na tento účel sa vykoná príkaz, ktorý sme už spomenuli. Po vykonaní príkazu sa stiahne a nainštaluje GPT4All spolu s jeho balíkmi a rámcami.
Teraz sa pohneme vpred. Z GPT4All importujeme „GPT4All“. Tým sa do projektu pridajú všetky predtrénované modely z GPT4All. Teraz môžeme použiť akýkoľvek jeden model a urobiť z neho predpovede pre našu aplikáciu. Po importovaní balíka GPT4All je teraz čas zavolať túto funkciu a použiť model GPT4All, ktorý poskytuje výstup pre „dokončenie chatu“.
Inými slovami, ak sa opýtame niečo z tohto modelu na vstupe, vráti to na výstupe. Model, ktorý tu používame, je „ggml-gpt4all-j-v1.3-groovy“. Tieto modely sú už uložené vo vyrovnávacej pamäti GPT4All. Tieto modely môžeme získať z tohto odkazu “ https://github.com/nomic-ai/gpt4all/tree/main/gpt4all-chat “ pre manuálne sťahovanie. Ak je model už prítomný vo vyrovnávacej pamäti GPT4All, jednoducho zavoláme názov modelu a špecifikujeme ho ako vstupné parametre pre funkciu „GPT4All()“. Ak sme ho úspešne stiahli ručne, odovzdávame cestu k priečinku, kde sa model nachádza. Keďže tento model slúži na dokončenie správ, syntax tohto modelu je daná takto:
$ Chat_completion (správy)Správy sú zoznamom slovníkov a každý slovník by mal obsahovať kľúč „role“ s hodnotou používateľa, systému alebo asistenta a obsah „kľúča“, ktorý má hodnotu ako reťazec. V tomto príklade špecifikujeme obsah ako „pomenujte tri farby“ a kľúč roly ako „používateľ“.
$model= GPT4All('ggml-gpt4all-j-v1.3-groovy')$messages = [{'role': 'user', 'content': 'Pomenujte 3 kvety'}]
Po tejto špecifikácii zavoláme s modelom funkciu „chat_completion()“. Kód na to sa zobrazí v nasledujúcom výstupe:
$ !pip nainštalovať gpt4allz gpt4all importujte GPT4All
model = GPT4All('ggml-gpt4all-j-v1.3-groovy')
správy = [{'role': 'user', 'content': 'Pomenujte tri farby'}]
model.chat_completion(správy)
Po vykonaní tohto príkladu model vráti tri farby ako odpoveď na vstup.
Príklad 2:
Uvádzame ďalší príklad, kde objavujeme inú metódu použitia GPT4All v Pythone. Dá sa to urobiť pomocou oficiálnych väzieb pre Python, ktoré poskytuje „Nomic“, čo je komunita AI s otvoreným zdrojom a prevádzkuje GPT4All. Pomocou nasledujúceho príkazu integrujeme „nomic“ do našej konzoly Python:
$ pip install nomicPo nainštalovaní importujeme GPT4All z „nomic.gpt4all“. Po importovaní GPT4All inicializujeme GPT4All pomocou funkcie „open()“. Potom zavoláme funkciu „prompt()“ a odošleme výzvu tejto funkcii. Potom sa vygeneruje rýchla odpoveď na základe výzvy, ktorú sme zadali ako vstup do modelu výzvy.
!pip install nomicz nomic.gpt4all import GPT4All
# Inicializujte model GPT4All
iniciovať = GPT4All()
initial.open()
# Generovanie odpovede na základe výzvy
model_response = initial.prompt('napíš krátky príbeh o počítači)
# zobrazenie vygenerovanej odpovede
print(model_response)
Výstup zobrazuje rýchlu odpoveď z modelu, ktorý sme vygenerovali pomocou vopred natrénovaného modelu GPT4All v Pythone. Ak sa chceme dozvedieť viac o modeloch a o tom, ako môžeme tieto modely použiť na generovanie odpovedí, alebo jednoducho povedané, ak chceme získať vedomosti o syntaxi na generovanie odpovedí z týchto modelov, môžeme využiť ďalšiu pomoc od GPT4Všetky podrobnosti technickej dokumentácie.
Záver
GPT4All sa stále snaží dosiahnuť presnosť výkonu. Prevádzkuje ho nomická platforma AI, ktorá sa zameriava na poskytovanie umelo inteligentných chatbotov svojim používateľom na spotrebiteľských CPU, pretože GPT4All funguje bez sieťového pripojenia a GPU. Tento článok nám vysvetľuje, ako efektívne používať PyGPT4All v prostredí Pythonu a vytvárať interakciu medzi našimi aplikáciami a predtrénovanými modelmi AI GPT4All. V tejto príručke sme sa venovali dvom rôznym metódam inštalácie GPT4All v Pythone.