Sintaksa:
Budući da smo upoznati s ChatGPT-om, znamo da je ova platforma u vlasništvu Open AI zajednice i da pruža alate, arhitekture, API-je i nekoliko okvira koje možemo koristiti u implementaciji naših aplikacija i modela obrade prirodnog jezika. Open AI nudi API-je putem kojih možemo koristiti bilo koje prethodno obučene AI i NLP modele s Open AI platforme i možemo ih natjerati da rade za naše aplikacije kao što je, na primjer, davanje predviđanja podataka u stvarnom vremenu. Isto tako, GPT4All također svojim korisnicima omogućuje integraciju svojih unaprijed obučenih AI modela s različitim aplikacijama.
Model GPT4All trenira se na ograničenim podacima u usporedbi s ChatGPT-om. Također ima neka od svojih ograničenja izvedbe u usporedbi s ChatGPT-om, ali korisniku omogućuje korištenje svog privatnog GPT-a na lokalnom hardveru i ne zahtijeva nikakve mrežne veze. Uz pomoć ovog članka, saznat ćemo kako možemo koristiti GPT4All modele u Python skripti budući da GPT4All ima službena povezivanja s Pythonom što znači da možemo koristiti i integrirati GPT4All modele i kroz Python skriptu.
Za sve je potrebna mrežna naredba za instaliranje GPT4All za Python IDE. Tada možemo integrirati onoliko AI modela koliko i naših aplikacija. Naredba za instaliranje ovog GPT4All u Python je prikazana u nastavku:
$ pip instaliraj gpt4all
Primjer 1:
Da bismo započeli s ovim primjerom, moramo preuzeti i instalirati Python u naše sustave. Preporučene verzije Pythona su 'verzija 3.7' ili one koje dolaze nakon ove verzije. Još jedan način rada s Pythonom kako bismo izbjegli dugi postupak instaliranja 'Python postavki' na našim sustavima je korištenje 'Google Colab' koji je okruženje za Python koje se temelji na oblaku. Možemo pokrenuti ovo okruženje na bilo kojem web pregledniku i možemo izgraditi AI i modele strojnog učenja. Primjeri koje ćemo ovdje implementirati izvode se u Google Colabu.
Ovaj primjer pokriva metodu instaliranja GPT4All u Python i kako koristiti njegove unaprijed obučene modele. Počinjemo tako da prvo instaliramo GPT4All. Za to se izvršava naredba koju smo prethodno spomenuli. Izvođenjem naredbe preuzima se i instalira GPT4All zajedno sa svojim paketima i okvirima.
Sada idemo naprijed. Iz GPT4All uvozimo 'GPT4All'. Time se u projekt dodaju svi prethodno obučeni modeli iz GPT4All. Sada možemo upotrijebiti bilo koji pojedinačni model i učiniti ga predviđanjima za našu aplikaciju. Nakon što uvezemo paket GPT4All, vrijeme je da pozovemo ovu funkciju i upotrijebimo model GPT4All koji daje izlaz za 'završetak razgovora'.
Drugim riječima, ako nešto tražimo od tog modela na ulazu, on to vraća na izlazu. Model koji ovdje koristimo je 'ggml-gpt4all-j-v1.3-groovy'. Ovi su modeli već pohranjeni u predmemoriju GPT4All. Ove modele možemo nabaviti na ovoj poveznici ' https://github.com/nomic-ai/gpt4all/tree/main/gpt4all-chat ” za ručno preuzimanje. Ako je model već prisutan u predmemoriji GPT4All, jednostavno pozivamo naziv modela i specificiramo ga kao ulazne parametre za funkciju 'GPT4All()'. Ako smo ga ručno uspješno preuzeli, prosljeđujemo put do mape u kojoj se model nalazi. Budući da je ovaj model za dovršetak poruke, sintaksa za ovaj model dana je kako slijedi:
$ Chat_completion (poruke)Poruke su popis rječnika i svaki rječnik treba sadržavati ključ 'uloge' s vrijednošću korisnika, sustava ili pomoćnika i sadržaj 'ključa' koji ima vrijednost kao niz. U ovom primjeru navodimo sadržaj kao 'imenuj tri boje', a ključ uloge kao 'korisnik'.
$model= GPT4All('ggml-gpt4all-j-v1.3-groovy')$messages = [{'role': 'user', 'content': 'Nazovi 3 cvijeta'}]
Nakon ove specifikacije, pozivamo funkciju 'chat_completion()' s modelom. Kôd za ovo prikazan je u sljedećem izlazu:
$ !pip instalirajte gpt4alliz gpt4all import GPT4All
model = GPT4All('ggml-gpt4all-j-v1.3-groovy')
poruke = [{'role': 'user', 'content': 'Imenuj tri boje'}]
model.chat_completion(messages)
Nakon izvođenja ovog primjera, model vraća tri boje kao odgovor na unos.
Primjer 2:
Obrađujemo još jedan primjer gdje otkrivamo drugu metodu za korištenje GPT4All u Pythonu. To se može učiniti korištenjem službenih veza za Python koje osigurava “Nomic” koja je AI zajednica otvorenog koda, a pokreće GPT4All. Pomoću sljedeće naredbe integriramo 'nomic' u našu Python konzolu:
$ pip instalirajte nominalnoNakon što je ovo instalirano, uvozimo GPT4All iz 'nomic.gpt4all'. Nakon uvoza GPT4All, inicijaliziramo GPT4All s funkcijom 'open()'. Zatim pozivamo funkciju 'prompt()' i prosljeđujemo joj prompt. Zatim se generira promptni odgovor na temelju prompta koji smo dali kao ulaz u model prompta.
!pip instalirati nomiciz nomic.gpt4all import GPT4All
# Inicijalizirajte model GPT4All
pokrenuti = GPT4All()
pokrenuti.open()
# Generiranje odgovora na temelju upita
model_response = initiate.prompt('napišite kratku priču o računalu)
# prikazivanje generiranog odgovora
ispis(model_odgovor)
Izlaz prikazuje brzi odgovor iz modela koji smo generirali korištenjem unaprijed obučenog modela GPT4All u Pythonu. Ako želimo znati više o modelima i kako možemo koristiti te modele za generiranje odgovora, ili jednostavnim riječima, ako želimo steći znanje o sintaksi za generiranje odgovora iz ovih modela, možda ćemo tražiti dodatnu pomoć od GPT4Svi detalji tehničke dokumentacije.
Zaključak
GPT4All još uvijek nastoji postići točnost performansi. Pokreće ga nomic AI platforma koja ima za cilj pružiti umjetno inteligentne chatbotove svojim korisnicima na CPU-ima potrošačke razine jer GPT4All radi bez mrežne veze i GPU-a. Ovaj članak nas prosvjetljuje u vještoj upotrebi PyGPT4All u Python okruženju i stvaranju interakcije između naših aplikacija i unaprijed obučenih GPT4All AI modela. U ovom smo vodiču pokrili dvije različite metode kako instalirati GPT4All u Python.