Kako koristiti Grafikon znanja razgovora u LangChainu?

Kako Koristiti Grafikon Znanja Razgovora U Langchainu



LangChain je modul za stvaranje jezičnih modela koji mogu oponašati format razgovora kao što ljudi komuniciraju jedni s drugima. Korisnik može postavljati pitanja u obliku nizova ili teksta na prirodnim jezicima, a model će izvući ili generirati informacije za korisnika. Ovi modeli imaju priključenu memoriju tako da mogu pohraniti prethodne poruke kako bi dobili kontekst razgovora.

Ovaj će vodič ilustrirati postupak korištenja grafikona znanja razgovora u LangChainu.

Kako koristiti Grafikon znanja razgovora u LangChainu?

The RazgovorKGMemory biblioteka se može koristiti za ponovno stvaranje memorije koja se može koristiti za dobivanje konteksta interakcije. Da biste naučili postupak korištenja grafikona znanja razgovora u LangChainu, jednostavno prođite kroz navedene korake:







Korak 1: Instalirajte module

Najprije započnite s postupkom korištenja grafikona znanja o razgovorima instaliranjem modula LangChain:



pip instalirati langchain



Instalirajte OpenAI modul koji se može instalirati pomoću naredbe pip da biste dobili njegove biblioteke za izgradnju modela velikih jezika:





pip instaliraj openai

Sada, postaviti okruženje koristeći OpenAI API ključ koji se može generirati iz njegovog računa:



uvoz vas

uvoz getpass

vas . približno [ 'OPENAI_API_KEY' ] = getpass . getpass ( 'OpenAI API ključ:' )

Korak 2: Korištenje memorije s LLM-om

Nakon što su moduli instalirani, počnite koristiti memoriju s LLM-om uvozom potrebnih biblioteka iz LangChain modula:

iz langchain. memorija uvoz RazgovorKGMemory

iz langchain. llms uvoz OpenAI

Izgradite LLM pomoću metode OpenAI() i konfigurirajte memoriju pomoću RazgovorKGMemory () metoda. Nakon toga, spremite predloške upita koristeći višestruke unose s odgovarajućim odgovorom za obuku modela na ovim podacima:

llm = OpenAI ( temperatura = 0 )

memorija = RazgovorKGMemory ( llm = llm )

memorija. spremi_kontekst ( { 'ulazni' : 'reci zdravo johnu' } , { 'izlaz' : 'john! tko' } )

memorija. spremi_kontekst ( { 'ulazni' : 'on je prijatelj' } , { 'izlaz' : 'Naravno' } )

Testirajte memoriju učitavanjem memorijske_varijable () metoda pomoću upita koji se odnosi na gornje podatke:

memorija. load_memory_variables ( { 'ulazni' : 'tko je john' } )

Konfigurirajte memoriju pomoću metode ConversationKGMemory() s povratne_poruke argument za dobivanje povijesti unosa također:

memorija = RazgovorKGMemory ( llm = llm , povratne_poruke = Pravi )

memorija. spremi_kontekst ( { 'ulazni' : 'reci zdravo johnu' } , { 'izlaz' : 'john! tko' } )

memorija. spremi_kontekst ( { 'ulazni' : 'on je prijatelj' } , { 'izlaz' : 'Naravno' } )

Jednostavno testirajte memoriju davanjem ulaznog argumenta s njegovom vrijednošću u obliku upita:

memorija. load_memory_variables ( { 'ulazni' : 'tko je john' } )

Sada testirajte pamćenje postavljanjem pitanja koje nije spomenuto u podacima o treningu, a model nema pojma o odgovoru:

memorija. get_current_entities ( 'koja je Johnova omiljena boja' )

Koristiti dobiti_trojke_znanja () metodom odgovorom na prethodno postavljen upit:

memorija. dobiti_trojke_znanja ( 'njegova omiljena boja je crvena' )

Korak 3: Korištenje memorije u lancu

Sljedeći korak koristi memoriju razgovora s lancima za izgradnju LLM modela pomoću metode OpenAI(). Nakon toga konfigurirajte predložak upita koristeći strukturu razgovora i tekst će se prikazati dok model dobiva izlaz:

llm = OpenAI ( temperatura = 0 )
iz langchain. upita . potaknuti uvoz PromptTemplate
iz langchain. lanci uvoz Lanac razgovora

šablona = '''Ovo je predložak za interakciju između čovjeka i stroja
Sustav je AI model koji može govoriti ili izvlačiti informacije o više aspekata
Ako ne razumije pitanje ili nema odgovor, jednostavno to kaže
Sustav izdvaja podatke pohranjene u odjeljku 'Specific' i ne halucinira

Specifično:

{povijest}

Razgovor:
Čovjek: {input}
AI:'''

#Konfigurirajte predložak ili strukturu za pružanje upita i dobivanje odgovora od AI sustava
potaknuti = PromptTemplate ( ulazne_varijable = [ 'povijest' , 'ulazni' ] , šablona = šablona )
razgovor_sa_kg = Lanac razgovora (
llm = llm , opširno = Pravi , potaknuti = potaknuti , memorija = RazgovorKGMemory ( llm = llm )
)

Nakon što je model kreiran, jednostavno pozovite razgovor_sa_kg model pomoću metode predict() s upitom koji je postavio korisnik:

razgovor_sa_kg. predvidjeti ( ulazni = 'Hej što ima?' )

Sada uvježbajte model koristeći memoriju razgovora dajući informacije kao ulazni argument za metodu:

razgovor_sa_kg. predvidjeti (

ulazni = 'Zovem se James i pomažem Willu, on je inženjer'

)

Ovdje je vrijeme da testirate model tražeći od upita da izvuku informacije iz podataka:

razgovor_sa_kg. predvidjeti ( ulazni = 'Tko je Will' )

To je sve o korištenju grafikona znanja razgovora u LangChainu.

Zaključak

Za korištenje grafikona znanja razgovora u LangChainu, instalirajte module ili okvire za uvoz biblioteka za korištenje metode ConversationKGMemory(). Nakon toga izradite model pomoću memorije za izgradnju lanaca i izvlačenje informacija iz podataka o obuci danih u konfiguraciji. Ovaj vodič razradio je postupak korištenja grafikona znanja razgovora u LangChainu.