Sintaksa:
Postoji niz usluga koje Hugging Face pruža, ali jedna od široko korištenih usluga je 'API'. API omogućuje interakciju unaprijed obučene AI i velikih jezičnih modela s različitim aplikacijama. Hugging Face pruža API-je za različite modele kako je navedeno u nastavku:
- Modeli generiranja teksta
- Modeli prijevoda
- Modeli za analizu sentimenta
- Modeli za razvoj virtualnih agenata (inteligentnih chatbota)
- Klasifikacija i regresijski modeli
Otkrijmo sada metodu za dobivanje našeg personaliziranog API-ja za zaključivanje od Hugging Face. Da bismo to učinili, prvo se moramo registrirati na službenoj web stranici Hugging Face. Pridružite se zajednici Hugging Face prijavom na ovu web stranicu sa svojim vjerodajnicama.
Nakon što dobijemo račun na Hugging Faceu, sada moramo zatražiti API za zaključivanje. Da biste zatražili API, idite na postavke računa i odaberite 'Pristupni token'. Otvorit će se novi prozor. Odaberite opciju 'Novi token', a zatim generirajte token tako da prvo navedete naziv tokena i njegovu ulogu kao 'WRITE'. Generira se novi token. Sada, moramo spasiti ovaj žeton. Do ove točke imamo svoj žeton od Lica zagrljaja. U sljedećem primjeru vidjet ćemo kako možemo koristiti ovaj token da dobijemo API za zaključivanje.
Primjer 1: Kako izraditi prototip pomoću Hugging Face Inference API-ja
Do sada smo razgovarali o metodi kako započeti s Hugging Face i inicijalizirali smo token iz Hugging Face. Ovaj primjer pokazuje kako možemo koristiti ovaj novogenerirani token za dobivanje API-ja za zaključivanje za određeni model (strojno učenje) i stvaranje predviđanja putem njega. Na početnoj stranici Hugging Face odaberite bilo koji model s kojim želite raditi, a koji je relevantan za vaš problem. Recimo da želimo raditi s klasifikacijom teksta ili modelom analize osjećaja kao što je prikazano u sljedećem isječku popisa ovih modela:
Iz ovog modela biramo model analize sentimenta.
Nakon odabira modela pojavit će se njegova kartica modela. Ova kartica modela sadrži informacije o detaljima obuke modela i karakteristikama modela. Naš model je roBERTa-baza koja je obučena na 58M tweetova za analizu sentimenta. Ovaj model ima tri glavne oznake klase i svaki ulaz kategorizira u odgovarajuće oznake klase.
Nakon odabira modela, ako odaberemo gumb za implementaciju koji se nalazi u gornjem desnom kutu prozora, otvara se padajući izbornik. Iz ovog izbornika moramo odabrati opciju 'Inference API'.
API za zaključivanje zatim pruža cijelo objašnjenje kako koristiti ovaj specifični model s ovim zaključcima i omogućuje nam da brzo izradimo prototip za AI model. Prozor API za zaključivanje prikazuje kod koji je napisan u Pythonovoj skripti.
Kopiramo ovaj kod i izvršavamo ga u bilo kojem Python IDE-u. Za to koristimo Google Colab. Nakon izvršavanja ovog koda u Python ljusci, vraća izlaz koji dolazi s rezultatom i predviđanjem oznake. Ova oznaka i rezultat daju se prema našim unosima budući da smo odabrali model 'analize osjećaja teksta'. Zatim, input koji dajemo modelu je pozitivna rečenica, a model je prethodno obučen na tri klase oznaka: oznaka 0 implicira negativno, oznaka1 implicira neutralno, a oznaka 2 je postavljena na pozitivno. Budući da je naš unos pozitivna rečenica, rezultat predviđanja iz modela veći je od druge dvije oznake, što znači da je model predvidio rečenicu kao 'pozitivnu'.
uvoz zahtjeviAPI_URL = 'https://api-inference.huggingface.co/models/cardiffnlp/twitter-roberta-base-sentiment'
zaglavlja = { 'Autorizacija' : 'Nositelj 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' }
def upit ( nosivost ) :
odgovor = zahtjevi. objaviti ( API_URL , zaglavlja = zaglavlja , json = nosivost )
povratak odgovor. json ( )
izlaz = upit ( {
'unosi' : 'Osjećam se dobro kad si sa mnom' ,
} )
Izlaz:
Primjer 2: Model sažimanja putem zaključivanja
Slijedimo iste korake koji su prikazani u prethodnom primjeru i prototip sabirnice modela sažimanja koristeći njen API za zaključivanje iz Hugging Face. Model sažimanja je unaprijed uvježban model koji sažima cijeli tekst koji mu dajemo kao ulaz. Idite na račun Hugging Face, kliknite na model na gornjoj traci izbornika, a zatim odaberite model koji je relevantan za sažetak, odaberite ga i pažljivo pročitajte karticu modela.
Model koji smo odabrali unaprijed je obučen BART model i fino je podešen na skup podataka CNN-ove dnevne pošte. BART je model koji je najsličniji modelu BERT koji ima enkoder i dekoder. Ovaj je model učinkovit kada je fino podešen za zadatke razumijevanja, sažimanja, prevođenja i generiranja teksta.
Zatim odaberite gumb 'deployment' u gornjem desnom kutu i odaberite API za zaključivanje s padajućeg izbornika. API zaključivanja otvara drugi prozor koji sadrži kod i upute za korištenje ovog modela s ovim zaključivanjem.
Kopirajte ovaj kod i izvršite ga u Python ljusci.
Model vraća izlaz koji je sažetak ulaza koji smo mu dostavili.
Zaključak
Radili smo na API-ju Hugging Face Inference i naučili kako možemo koristiti programabilno sučelje ove aplikacije za rad s unaprijed obučenim jezičnim modelima. Dva primjera koja smo napravili u članku uglavnom su se temeljila na NLP modelima. Hugging Face API može činiti čuda ako želimo razviti brzi prototip pružajući brzu integraciju AI modela u naše aplikacije. Ukratko, Hugging Face ima rješenja za sve vaše probleme od učenja za potkrepljenje do računalnog vida.