Kako pokrenuti LLMChains u LangChainu?

LangChain je okvir koji programerima omogućuje izradu velikih jezičnih modela ili modela chata koje ljudi mogu koristiti za izvlačenje informacija. Ovi se modeli mogu koristiti za interakciju na prirodnim jezicima, nakon razumijevanja naredbi za generiranje tekstova u skladu s tim. LLM ili chatbotovi koriste lance za interakciju s ljudima pohranjujući prethodne poruke kao zapažanja kako bi dobili kontekst chata.

Ovaj će vodič ilustrirati proces pokretanja LLMChaina u LangChainu.

Kako pokrenuti LLMChains u LangChainu?

LangChain pruža značajke ili ovisnosti za izgradnju LLMChaina pomoću LLM-a/Chatbota i predložaka upita. Da biste naučili proces izgradnje i pokretanja LLMChaina u LangChainu, jednostavno slijedite sljedeći vodič korak po korak:

Korak 1: Instalirajte pakete

Prvo započnite s procesom instaliranjem modula LangChain da biste dobili njegove ovisnosti za izgradnju i pokretanje LLMChaina:

pip instalirati langchain

Instalirajte okvir OpenAI pomoću naredbe pip da bi biblioteke koristile funkciju OpenAI() za izgradnju LLM-a:

pip instaliraj openai

Nakon instalacije modula, jednostavno postaviti okruženje varijable pomoću API ključa s OpenAI računa:

uvoz vas

uvoz getpass

vas . približno [ 'OPENAI_API_KEY' ] = getpass . getpass ( 'OpenAI API ključ:' )

Korak 2: Uvezite biblioteke

Nakon što je postavljanje dovršeno i svi potrebni paketi instalirani, uvezite potrebne biblioteke za izradu predloška upita. Nakon toga jednostavno izgradite LLM pomoću OpenAI() metode i konfigurirajte LLMChain pomoću LLM-a i predloška upita:

iz langchain uvoz PromptTemplate

iz langchain uvoz OpenAI

iz langchain uvoz LLMClanac

prompt_template = 'dajte mi dobar naziv za tvrtku koja proizvodi {product}?'

llm = OpenAI ( temperatura = 0 )

llm_lanac = LLMClanac (

llm = llm ,

potaknuti = PromptTemplate. iz_predloška ( prompt_template )

)

llm_lanac ( 'šarena odjeća' )

Korak 3: Pokretanje lanaca

Nabavite ulazni popis koji sadrži razne proizvode koje proizvodi tvrtka i pokrenite lanac za prikaz popisa na zaslonu:

popis_unosa = [
{ 'proizvod' : 'čarape' } ,
{ 'proizvod' : 'Računalo' } ,
{ 'proizvod' : 'cipele' }
]

llm_lanac. primijeniti ( popis_unosa )

Pokrenite metodu generate() pomoću popis_unosa s LLMChains da biste dobili izlaz koji se odnosi na razgovor koji je generirao model:

llm_lanac. generirati ( popis_unosa )

Korak 4: Korištenje jednog ulaza

Dodajte još jedan proizvod za pokretanje LLMChaina koristeći samo jedan ulaz, a zatim predvidite da će LLMChain generirati izlaz:

llm_lanac. predvidjeti ( proizvod = 'šarene čarape' )

Korak 5: Korištenje višestrukih ulaza

Sada izradite predložak za korištenje višestrukih ulaza za pružanje naredbe modelu prije pokretanja lanca:

šablona = '''Reci mi {pridjev} vic o {temi}.'''
potaknuti = PromptTemplate ( šablona = šablona , ulazne_varijable = [ 'pridjev' , 'predmet' ] )
llm_lanac = LLMClanac ( potaknuti = potaknuti , llm = OpenAI ( temperatura = 0 ) )

llm_lanac. predvidjeti ( pridjev = 'tužan' , subjekt = 'patke' )

Korak 6: Korištenje izlaznog parsera

Ovaj korak koristi metodu izlaznog parsera za pokretanje LLMChaina da bi se dobio izlaz na temelju upita:

iz langchain. izlazni_parseri uvoz CommaSeparatedListOutputParser

izlazni_parser = CommaSeparatedListOutputParser ( )

šablona = '''Nabroj sve dugine boje'''

potaknuti = PromptTemplate ( šablona = šablona , ulazne_varijable = [ ] , izlazni_parser = izlazni_parser )

llm_lanac = LLMClanac ( potaknuti = potaknuti , llm = llm )

llm_lanac. predvidjeti ( )

Korištenje metode parse() za dobivanje rezultata generirat će popis svih duginih boja odvojenih zarezima:

llm_lanac. predvidjeti_i_raščlaniti ( )

Korak 7: Inicijalizacija iz nizova

Ovaj korak objašnjava postupak korištenja niza kao odzivnika za pokretanje LLMChaina pomoću LLM modela i predloška:

šablona = '''Reci mi {pridjev} vic o {temi}'''

llm_lanac = LLMClanac. iz_niza ( llm = llm , šablona = šablona )

Navedite vrijednosti varijabli u upitu niza kako biste dobili izlaz iz modela pokretanjem LLMChaina:

llm_lanac. predvidjeti ( pridjev = 'tužan' , subjekt = 'patke' )

To je sve o pokretanju LLMChainsa pomoću okvira LangChain.

Zaključak

Da biste izgradili i pokrenuli LLMChains u LangChainu, instalirajte preduvjete poput paketa i postavite okruženje pomoću API ključa OpenAI-ja. Nakon toga uvezite potrebne biblioteke za konfiguriranje predloška upita i modela za pokretanje LLMChaina pomoću ovisnosti LangChaina. Korisnik može koristiti izlazne parsere i string naredbe za pokretanje LLMChainsa kao što je prikazano u vodiču. Ovaj vodič razradio je cijeli proces pokretanja LLMChaina u LangChainu.

Kako pokrenuti LLMChains u LangChainu?