Iskustvo je ključno za razvoj vještina potrebnih za primjenu dubokog učenja na nova pitanja. Brz GPU znači brzo stjecanje praktičnog iskustva putem trenutne povratne informacije. GPU -i sadrže više jezgri za bavljenje paralelnim proračunima. Oni također uključuju opsežnu propusnost memorije za jednostavno upravljanje tim podacima.
| Naš najbolji izbor za najbolju grafičku karticu za duboko učenje je Nvidia Geforce RTX 2080 Founders Edition. Kupite ga sada za $ 1,940 USD na Amazonu |
 |
Imajući to na umu, nastojimo odgovoriti na pitanje: Koja je najbolja grafička kartica za AI, strojno učenje i duboko učenje? pregledom nekoliko grafičkih kartica koje su trenutno dostupne 2021. Revidirane kartice:
Ispod su rezultati:
AMD RX Vega 64
Radeon RX Vega 64
Značajke
- Datum izlaska: 14. kolovoza 2017
- Vega arhitektura
- PCI Express sučelje
- Takt: 1247 MHz
- Stream procesori: 4096
- VRAM: 8 GB
- Propusnost memorije: 484 GB/s
Pregled
Ako vam se ne sviđaju NVIDIA GPU -i ili vam proračun ne dopušta da potrošite više od 500 USD na grafičku karticu, onda AMD ima pametnu alternativu. Imajući pristojnu količinu RAM -a, brzu propusnost memorije i više nego dovoljno stream procesora, AMD -ovu RS Vega 64 teško je zanemariti.
Arhitektura Vega nadogradnja je prethodnih RX kartica. Što se tiče performansi, ovaj model je blizu GeForce RTX 1080 Ti, jer oba ova modela imaju sličan VRAM. Štoviše, Vega podržava izvornu polupreciznost (FP16). ROCm i TensorFlow rade, ali softver nije toliko zreo kao na NVIDIA grafičkim karticama.
Sve u svemu, Vega 64 je pristojan GPU za duboko učenje i AI. Ovaj model košta znatno ispod 500 USD i završava posao za početnike. Međutim, za profesionalne aplikacije preporučujemo odabir NVIDIA kartice.
AMD RX Vega 64 Detalji: Amazon
NVIDIA Tesla V100
Tesla V100
Značajke:
- Datum izlaska: 7. prosinca 2017
- NVIDIA Volta arhitektura
- PCI-E sučelje
- 112 Performanse tenzora TFLOPS -a
- 640 Boje tenzora
- 5120 NVIDIA CUDA® Boje
- VRAM: 16 GB
- Propusnost memorije: 900 GB/s
- Računarski API -ji: CUDA, DirectCompute, OpenCL ™, OpenACC®
Pregled:
NVIDIA Tesla V100 veliki je i jedna od najboljih grafičkih kartica za AI, strojno učenje i duboko učenje. Ova je kartica potpuno optimizirana i isporučuje se sa svim dobrotama koje bi vam mogle zatrebati u tu svrhu.
Tesla V100 dolazi u memorijskim konfiguracijama od 16 GB i 32 GB. Uz puno VRAM -a, AI ubrzanja, velike propusnosti memorije i specijaliziranih tenzorskih jezgri za duboko učenje, možete biti sigurni da će svaki vaš model treninga raditi glatko - i za manje vremena. Točnije, Tesla V100 može isporučiti 125TFLOPS performansi dubokog učenja za obuku i zaključivanje [3], što je omogućeno NVIDIA -inom Voltinom arhitekturom.
Detalji NVIDIA Tesla V100: Amazon , (( 1 )
Nvidia Quadro RTX 8000
Nvidia Quadro Rtx 8000
Značajke:
- Datum izlaska: kolovoz 2018
- Turingova arhitektura
- 576 Boje tenzora
- CUDA Boje: 4.608
- VRAM: 48 GB
- Propusnost memorije: 672 GB/s
- 16.3 TFLOPS
- Sučelje sustava: PCI-Express
Pregled:
Posebno izrađen za aritmetiku matrice i računanje matrice za duboko učenje, Quadro RTX 8000 vrhunska je grafička kartica. Budući da ova kartica dolazi s velikim VRAM kapacitetom (48 GB), ovaj se model preporučuje za istraživanje iznimno velikih računalnih modela. Kad se koristi u paru s NVLinkom, kapacitet se može povećati do 96 GB VRAM -a. Što je mnogo!
Kombinacija 72 RT i 576 tenzorskih jezgri za poboljšane tijekove rada rezultira s preko 130 TFLOPS performansi. U usporedbi s najskupljom grafičkom karticom na našem popisu - Teslom V100 - ovaj model potencijalno nudi 50 posto više memorije i još uvijek uspijeva koštati manje. Čak i na instaliranoj memoriji, ovaj model ima izuzetne performanse dok radi s većim paketnim veličinama na jednom GPU -u.
Opet, poput Tesle V100, ovaj je model ograničen samo vašim krovom cijena. Međutim, ako želite ulagati u budućnost i u visokokvalitetno računalstvo, nabavite RTX 8000. Tko zna, možda ćete voditi istraživanje o umjetnoj inteligenciji. Tesla V100 temelji se na Turingovoj arhitekturi, gdje se V100 temelji na Voltinoj arhitekturi, pa se Nvidia Quadro RTX 8000 može smatrati nešto modernijom i nešto moćnijom od V100.
Nvidia Quadro RTX 8000 Detalji: Amazon
GeForce RTX 2080 Ti
Geforce RTX 2080 Founders Edition
Značajke:
- Datum izlaska: 20. rujna 2018
- Turingova GPU arhitektura i RTX platforma
- Takt: 1350 MHz
- CUDA Boje: 4352
- 11 GB ultra-brze GDDR6 memorije nove generacije
- Propusnost memorije: 616 GB/s
- Snaga: 260W
Pregled:
GeForce RTX 2080 Ti je proračunska opcija idealna za mala opterećenja modeliranja, a ne za razvoj velikih obuka. To je zato što ima manje GPU memorije po kartici (samo 11 GB). Ograničenja ovog modela postaju očiglednija kada se obučavaju neki moderni NLP modeli. Međutim, to ne znači da se ova kartica ne može natjecati. Dizajn ventilatora na RTX 2080 omogućuje daleko gušće konfiguracije sustava - do četiri GPU -a unutar jedne radne stanice. Osim toga, ovaj model vježba neuronske mreže 80 posto brzinama Tesle V100. Prema LambdaLabsovim mjerilima za dubinsko učenje, u usporedbi s Teslom V100, RTX 2080 je 73% brzine FP2 i 55% brzine FP16.
U međuvremenu, ovaj model košta gotovo 7 puta manje od Tesle V100. S gledišta cijene i performansi, GeForce RTX 2080 Ti izvrstan je GPU za duboko učenje i razvoj umjetne inteligencije.
Detalji o GeForce RTX 2080 Ti: Amazon
NVIDIA Titan RTX
NVIDIA Titan RTX grafika
Značajke:
- Datum izlaska: 18. prosinca 2018
- Pokreće ga NVIDIA Turing ™ arhitektura dizajnirana za AI
- 576 Tenzorska jezgra za AI ubrzanje
- 130 teraFLOPS (TFLOPS) za duboko učenje
- CUDA Boje: 4608
- VRAM: 24 GB
- Propusnost memorije: 672 GB/s
- Preporučeno napajanje 650 vata
Pregled:
NVIDIA Titan RTX još je jedan GPU srednjeg ranga koji se koristi za složene operacije dubokog učenja. 24 GB VRAM -a ovog modela dovoljno je za rad s većinom serija. Ako pak želite trenirati veće modele, uparite ovu karticu s NVLink mostom kako biste učinkovito imali 48 GB VRAM -a. Taj bi iznos bio dovoljan čak i za modele velikih transformatora NLP. Štoviše, Titan RTX omogućuje potpunu obuku mješovite preciznosti za modele (tj. FP 16 zajedno s akumulacijom FP32). Kao rezultat toga, ovaj model radi otprilike 15 do 20 posto brže u operacijama u kojima se koriste tenzorska jezgra.
Jedno ograničenje NVIDIA Titan RTX -a je dizajn dvostrukog ventilatora. To otežava složenije konfiguracije sustava jer se ne može pakirati na radnu stanicu bez značajnih izmjena u rashladnom mehanizmu, što se ne preporučuje.
Sve u svemu, Titan je izvrstan, višenamjenski GPU za gotovo sve zadatke dubokog učenja. U usporedbi s drugim grafičkim karticama opće namjene, zasigurno je skupa. Zato se ovaj model ne preporučuje igračima. Unatoč tome, dodatni VRAM i povećanje performansi vjerojatno bi bili zahvalni istraživačima koji koriste složene modele dubokog učenja. Cijena Titan RTX -a značajno je manja od V100 prikazanog gore i bio bi dobar izbor ako vaš proračun ne dopušta da cijene V100 omogućuju duboko učenje ili za vaše radno opterećenje nije potrebno više od Titan RTX -a ( vidjeti zanimljive mjerila )
Detalji o NVIDIA Titan RTX -u: Amazon
Odabir najbolje grafičke kartice za AI, strojno učenje i duboko učenje
Zadaci umjetne inteligencije, strojnog učenja i dubokog učenja obrađuju hrpu podataka. Ovi zadaci mogu biti vrlo zahtjevni za vaš hardver. Ispod su značajke koje morate imati na umu prije kupnje GPU -a.
Boje
Općenito rečeno, što je veći broj jezgri, to će performanse vašeg sustava biti veće. Broj jezgri također treba uzeti u obzir, osobito ako imate posla s velikom količinom podataka. NVIDIA je svoje jezgre nazvala CUDA, dok AMD njihove jezgre naziva procesorima. Idite na najveći broj jezgri za obradu koji vam proračun dopušta.
Procesna snaga
Procesna snaga GPU -a ovisi o broju jezgri unutar sustava pomnoženim sa brzinama takta na kojima radite jezgre. Što je veća brzina i veći broj jezgri, to će biti veća procesorska snaga pri kojoj vaš GPU može izračunati podatke. To također određuje koliko će brzo vaš sustav izvesti zadatak.
VRAM
Video RAM ili VRAM mjerenje je količine podataka koje vaš sustav može obraditi odjednom. Veći VRAM od vitalne je važnosti ako radite s različitim modelima Computer Vision -a ili izvodite bilo koja CV Kaggle natjecanja. VRAM nije toliko važan za NLP ili za rad s drugim kategorijskim podacima.
Propusnost memorije
Propusnost memorije je brzina kojom se podaci čitaju ili pohranjuju u memoriju. Jednostavno rečeno, to je brzina VRAM -a. Mjereno u GB/s, veća propusnost memorije znači da kartica može izvući više podataka u manje vremena, što znači i brži rad.
Hlađenje
Temperatura grafičkog procesora može biti značajno usko grlo što se tiče performansi. Suvremeni grafički procesori povećavaju svoju brzinu do maksimuma tijekom izvođenja algoritma. No čim se dosegne određeni temperaturni prag, GPU smanjuje brzinu obrade radi zaštite od pregrijavanja.
Dizajn ventilatora za hladnjake zraka izbacuje zrak izvan sustava, dok ventilatori bez puhala usisavaju zrak. U arhitekturi gdje je više grafičkih procesora postavljeno jedan do drugog, ventilatori bez puhala će se dodatno zagrijati. Ako koristite zračno hlađenje u postavkama s 3 do 4 grafička procesora, izbjegavajte ventilatore bez puhanja.
Druga mogućnost je hlađenje vodom. Iako je skupa, ova je metoda mnogo tiša i osigurava da čak i najfinije postavke GPU -a ostanu hladne tijekom rada.
Zaključak
Za većinu korisnika koji traže duboko učenje, RTX 2080 Ti ili Titan RTX pružit će vam najveći udarac. Jedini nedostatak RTX 2080 Ti je ograničena veličina RAM -a od 11 GB. Obuka s većim veličinama serije omogućuje modelima da treniraju brže i mnogo točnije, štedeći puno vremena korisnika. To je moguće samo ako imate Quadro GPU -e ili TITAN RTX. Korištenje polupreciznosti (FP16) omogućuje modelima da se uklope u grafičke procesore s nedovoljnom veličinom VRAM-a [2]. Za naprednije korisnike, međutim, Tesla V100 je mjesto gdje trebate uložiti. To je naš najbolji izbor za najbolju grafičku karticu za AI, strojno učenje i duboko učenje. To je sve za ovaj članak. Nadamo se da vam se svidjelo. Do sljedećeg puta!