Ovaj će vodič ilustrirati postupak korištenja grafikona znanja razgovora u LangChainu.
Kako koristiti Grafikon znanja razgovora u LangChainu?
The RazgovorKGMemory biblioteka se može koristiti za ponovno stvaranje memorije koja se može koristiti za dobivanje konteksta interakcije. Da biste naučili postupak korištenja grafikona znanja razgovora u LangChainu, jednostavno prođite kroz navedene korake:
Korak 1: Instalirajte module
Najprije započnite s postupkom korištenja grafikona znanja o razgovorima instaliranjem modula LangChain:
pip instalirati langchain
Instalirajte OpenAI modul koji se može instalirati pomoću naredbe pip da biste dobili njegove biblioteke za izgradnju modela velikih jezika:
pip instaliraj openai
Sada, postaviti okruženje koristeći OpenAI API ključ koji se može generirati iz njegovog računa:
uvoz vas
uvoz getpass
vas . približno [ 'OPENAI_API_KEY' ] = getpass . getpass ( 'OpenAI API ključ:' )
Korak 2: Korištenje memorije s LLM-om
Nakon što su moduli instalirani, počnite koristiti memoriju s LLM-om uvozom potrebnih biblioteka iz LangChain modula:
iz langchain. memorija uvoz RazgovorKGMemoryiz langchain. llms uvoz OpenAI
Izgradite LLM pomoću metode OpenAI() i konfigurirajte memoriju pomoću RazgovorKGMemory () metoda. Nakon toga, spremite predloške upita koristeći višestruke unose s odgovarajućim odgovorom za obuku modela na ovim podacima:
llm = OpenAI ( temperatura = 0 )memorija = RazgovorKGMemory ( llm = llm )
memorija. spremi_kontekst ( { 'ulazni' : 'reci zdravo johnu' } , { 'izlaz' : 'john! tko' } )
memorija. spremi_kontekst ( { 'ulazni' : 'on je prijatelj' } , { 'izlaz' : 'Naravno' } )
Testirajte memoriju učitavanjem memorijske_varijable () metoda pomoću upita koji se odnosi na gornje podatke:
memorija. load_memory_variables ( { 'ulazni' : 'tko je john' } )
Konfigurirajte memoriju pomoću metode ConversationKGMemory() s povratne_poruke argument za dobivanje povijesti unosa također:
memorija = RazgovorKGMemory ( llm = llm , povratne_poruke = Pravi )memorija. spremi_kontekst ( { 'ulazni' : 'reci zdravo johnu' } , { 'izlaz' : 'john! tko' } )
memorija. spremi_kontekst ( { 'ulazni' : 'on je prijatelj' } , { 'izlaz' : 'Naravno' } )
Jednostavno testirajte memoriju davanjem ulaznog argumenta s njegovom vrijednošću u obliku upita:
memorija. load_memory_variables ( { 'ulazni' : 'tko je john' } )
Sada testirajte pamćenje postavljanjem pitanja koje nije spomenuto u podacima o treningu, a model nema pojma o odgovoru:
memorija. get_current_entities ( 'koja je Johnova omiljena boja' )Koristiti dobiti_trojke_znanja () metodom odgovorom na prethodno postavljen upit:
memorija. dobiti_trojke_znanja ( 'njegova omiljena boja je crvena' )
Korak 3: Korištenje memorije u lancu
Sljedeći korak koristi memoriju razgovora s lancima za izgradnju LLM modela pomoću metode OpenAI(). Nakon toga konfigurirajte predložak upita koristeći strukturu razgovora i tekst će se prikazati dok model dobiva izlaz:
llm = OpenAI ( temperatura = 0 )iz langchain. upita . potaknuti uvoz PromptTemplate
iz langchain. lanci uvoz Lanac razgovora
šablona = '''Ovo je predložak za interakciju između čovjeka i stroja
Sustav je AI model koji može govoriti ili izvlačiti informacije o više aspekata
Ako ne razumije pitanje ili nema odgovor, jednostavno to kaže
Sustav izdvaja podatke pohranjene u odjeljku 'Specific' i ne halucinira
Specifično:
{povijest}
Razgovor:
Čovjek: {input}
AI:'''
#Konfigurirajte predložak ili strukturu za pružanje upita i dobivanje odgovora od AI sustava
potaknuti = PromptTemplate ( ulazne_varijable = [ 'povijest' , 'ulazni' ] , šablona = šablona )
razgovor_sa_kg = Lanac razgovora (
llm = llm , opširno = Pravi , potaknuti = potaknuti , memorija = RazgovorKGMemory ( llm = llm )
)
Nakon što je model kreiran, jednostavno pozovite razgovor_sa_kg model pomoću metode predict() s upitom koji je postavio korisnik:
razgovor_sa_kg. predvidjeti ( ulazni = 'Hej što ima?' )
Sada uvježbajte model koristeći memoriju razgovora dajući informacije kao ulazni argument za metodu:
razgovor_sa_kg. predvidjeti (ulazni = 'Zovem se James i pomažem Willu, on je inženjer'
)
Ovdje je vrijeme da testirate model tražeći od upita da izvuku informacije iz podataka:
razgovor_sa_kg. predvidjeti ( ulazni = 'Tko je Will' )
To je sve o korištenju grafikona znanja razgovora u LangChainu.
Zaključak
Za korištenje grafikona znanja razgovora u LangChainu, instalirajte module ili okvire za uvoz biblioteka za korištenje metode ConversationKGMemory(). Nakon toga izradite model pomoću memorije za izgradnju lanaca i izvlačenje informacija iz podataka o obuci danih u konfiguraciji. Ovaj vodič razradio je postupak korištenja grafikona znanja razgovora u LangChainu.