Ovaj post ilustrira metodu korištenja izlaznih funkcija parsera i klasa kroz okvir LangChain.
Kako koristiti izlazni parser kroz LangChain?
Izlazni parseri su izlazi i klase koje mogu pomoći da se dobije strukturirani izlaz iz modela. Da biste naučili postupak korištenja izlaznih parsera u LangChainu, jednostavno prođite kroz navedene korake:
Korak 1: Instalirajte module
Prvo, pokrenite postupak korištenja izlaznih parsera instaliranjem modula LangChain s njegovim ovisnostima kako biste prošli kroz postupak:
pip instalirati langchain
Nakon toga instalirajte OpenAI modul da biste koristili njegove biblioteke kao što su OpenAI i ChatOpenAI:
pip instalirati openai
Sada postavite okruženje za OpenAI pomoću API ključa s OpenAI računa:
uvezi nas
import getpass
os.okolina [ 'OPENAI_API_KEY' ] = getpass.getpass ( 'OpenAI API ključ:' )
Korak 2: Uvezite biblioteke
Sljedeći korak je uvoz biblioteka iz LangChaina za korištenje izlaznih analizatora u okviru:
from langchain.prompts import HumanMessagePromptTemplate
iz pydantic import Field
from langchain.prompts import ChatPromptTemplate
iz langchain.output_parsers uvozi PydanticOutputParser
iz pydantic import BaseModel
iz pydantic validatora uvoza
iz langchain.chat_models uvesti ChatOpenAI
iz langchain.llms uvozi OpenAI
od upisivanja import List
Korak 3: Izgradnja strukture podataka
Izgradnja strukture izlaza vitalna je primjena parsera izlaza u modelima velikih jezika. Prije nego što dođemo do strukture podataka modela, potrebno je definirati naziv modela koji koristimo za dobivanje strukturiranog izlaza iz izlaznih parsera:
temperatura = 0,0
model = OpenAI ( Ime modela =naziv_modela, temperatura =temperatura )
Sada upotrijebite klasu Joke koja sadrži BaseModel da konfigurirate strukturu izlaza kako biste dobili šalu iz modela. Nakon toga, korisnik može jednostavno dodati prilagođenu logiku provjere valjanosti s klasom pydantic koja može tražiti od korisnika da postavi bolje oblikovan upit/upit:
razreda Šala ( Osnovni model ) :postava: str = Polje ( opis = 'upit za prikaz šale' )
punchline: str = Polje ( opis = 'odgovori šalom na upit' )
#Logička provjera valjanosti za upit jer ga model treba ispravno razumjeti
@ validator ( 'postaviti' )
def pitanje_završava_upitnikom ( cls, polje ) :
ako polje [ - 1 ] ! = '?' :
podići ValueError ( 'Loše postavljeno pitanje!' )
povratak polje
Korak 4: Postavljanje predloška upita
Konfigurirajte varijablu parsera koja sadrži metodu PydanticOutputParser() koja sadrži njezine parametre:
Nakon konfiguracije parsera, jednostavno definirajte varijablu upita pomoću metode PromptTemplate() sa strukturom upita/prompta:
prompt = Predložak upita (predložak = 'Odgovorite na upit korisnika. \n {format_instructions} \n {upit} \n ' ,
ulazne_varijable = [ 'upit' ] ,
djelomične_varijable = { 'format_instructions' : parser.get_format_instructions ( ) }
)
Korak 5: Testirajte izlazni parser
Nakon konfiguriranja svih zahtjeva, stvorite varijablu koja se dodjeljuje pomoću upita, a zatim pozovite metodu format_prompt():
_input = prompt.format_prompt ( upit =šala_upit )
Sada pozovite funkciju model() da definirate izlaznu varijablu:
izlaz = model ( _input.to_string ( ) )Dovršite postupak testiranja pozivanjem metode parser() s izlaznom varijablom kao parametrom:
parser.raščlaniti ( izlaz ) 
To je sve o procesu korištenja izlaznog parsera u LangChainu.
Zaključak
Da biste koristili izlazni parser u LangChainu, instalirajte module i postavite OpenAI okruženje koristeći njegov API ključ. Nakon toga definirajte model, a zatim konfigurirajte podatkovnu strukturu izlaza s logičkom provjerom valjanosti upita koje je dao korisnik. Nakon što je struktura podataka konfigurirana, jednostavno postavite predložak upita, a zatim testirajte izlazni parser da dobijete rezultat iz modela. Ovaj vodič je ilustrirao proces korištenja izlaznog parsera u okviru LangChain.