I ett tidigare inlägg, Build a Pro Deep Learning Workstation… for Half the Price, delade jag med mig av alla detaljer för att köpa delar och bygga en professionell kvalitetsrigg för djupinlärning för nästan hälften av kostnaden för färdigbyggda riggar från företag som Lambda och Bizon. Inlägget blev viralt på Reddit och under veckorna som följde sänkte Lambda priset på sin 4-GPU-arbetsstation till cirka 1200 dollar.
Detta är en bra början för att göra djupinlärning mer lättillgängligt, men om du hellre vill spendera 7000 dollar i stället för 11 250 dollar eller mer, så här går det till.
I det tidigare inlägget konstaterade jag att ”det finns inget perfekt bygge”, men om det fanns ett perfekt bygge till lägsta möjliga kostnad, vad skulle det då vara? Det är vad jag visar här. Kolla in det tidigare inlägget för komponentförklaringar, benchmarking och ytterligare alternativ för denna 4-GPU deep learning-rigg.
Målet med det här inlägget är att lista exakt vilka delar man ska köpa för att bygga en toppmodern 4-GPU deep learning-rigg till lägsta möjliga kostnad. Baserat på feedback om att det fanns för många alternativ i det tidigare inlägget listar jag bara ett bästa alternativ för varje komponent. Jag byggde tre varianter av multi-GPU-riggar och den jag presenterar här ger den bästa prestandan och tillförlitligheten, utan termisk throttling, till den billigaste kostnaden.
Jag har inkluderat mitt kvitto, som visar inköpet av alla delar för att bygga två av dessa riggar för 14 000 dollar (7 000 dollar vardera).
- Exakt vilka delar som ska köpas
- 4 RTX 2080 Ti GPU:er (snabbaste GPU under 2000 dollar, troligen under några år)
- Rosewill Hercules 1600W PSU (billigaste 1600W nätaggregatet)
- 1TB m.2 SSD (för ultrasnabb dataladdning vid djupinlärning)
- 20-thread CPU (välj Intel framför AMD för snabb hastighet på en enda tråd)
- X299 Moderkort (detta moderkort har fullt stöd för 4 GPU:er)
- Hölje (högt luftflöde håller GPU:erna svala)
- 3TB hårddisk (för data och modeller som du inte kommer åt regelbundet)
- 128GB RAM (mer RAM minskar flaskhalsen mellan GPU och disk)
- CPU-kylare (den här kylaren blockerar inte fallets luftflöde)
- Sammanställning med Lambdas 4-GPU-arbetsstation
- Befattningssystem och prestanda
Exakt vilka delar som ska köpas
Jag beställde allt online via NeweggBusiness, men vilken leverantör som helst (t.ex. Amazon) fungerar. Om du har en lokal MicroCenter-butik i närheten har de ofta billiga CPU-priser om du köper i en fysisk butik. Betala inte skatt om du inte behöver det (t.ex. ideella organisationer eller utbildningsinstitutioner). Både NeweggBusiness och Amazon accepterar dokument för skattebefrielse. Visa mitt kvitto för två av dessa 4-GPU-riggar.
Här är varje komponent:
4 RTX 2080 Ti GPU:er (snabbaste GPU under 2000 dollar, troligen under några år)
Gigabyte RTX 2080 Ti Turbo 11GB, 1280 dollar (2019-04-16)
Dessa RTX 2080 TI GPU:er med 2 PCI-slots och blåsmaskiner fungerar också:
1. ASUS GeForce RTX 2080 Ti 11G Turbo Edition GD, $1209 (2019-03-21)
2. ZOTAC Gaming GeForce RTX 2080 Ti Blower 11GB, $1299 (2019-03-21)
Rosewill Hercules 1600W PSU (billigaste 1600W nätaggregatet)
Rosewill HERCULES 1600W Gold PSU, $209 (2019-03-21)
1TB m.2 SSD (för ultrasnabb dataladdning vid djupinlärning)
HP EX920 M.2 1TB PCIe NVMe NAND SSD, $150 (2019-04-16)
20-thread CPU (välj Intel framför AMD för snabb hastighet på en enda tråd)
Intel Core i9-9820X Skylake X 10-Core 3.3Ghz, $850 (03/21/19)
X299 Moderkort (detta moderkort har fullt stöd för 4 GPU:er)
ASUS WS X299 SAGE LGA 2066 Intel X299, $492.26 (03/21/19)
Hölje (högt luftflöde håller GPU:erna svala)
Corsair Carbide Series Air 540 ATX-hölje, $115 (2019-04-16)
3TB hårddisk (för data och modeller som du inte kommer åt regelbundet)
Seagate BarraCuda ST3000DM008 3TB 7200 RPM, $75 (2019-04-16)
128GB RAM (mer RAM minskar flaskhalsen mellan GPU och disk)
8 pinnar CORSAIR Vengeance 16GB DRAM, $640 (2019-04-16)
CPU-kylare (den här kylaren blockerar inte fallets luftflöde)
Corsair Hydro Series H100i PRO Low Noise, $130 (2019-04-16)
Sammanställning med Lambdas 4-GPU-arbetsstation
Denna 4-GPU-rigg för 7000 dollar liknar Lambdas 4-GPU-arbetsstation för 11 250 dollar som Lambdas 4-GPU-arbetsstation har. De enda skillnaderna är (1) att de använder en 12-kärnig CPU i stället för en 10-kärnig CPU och (2) att de inkluderar en hot swap-enhetsfack (50 dollar).
Befattningssystem och prestanda
Det operativsystem jag använder är Ubuntu Server 18.04 LTS. Jag använder Cuda 10.1 med TensorFlow (installerad med conda) och PyTorch (installerad med conda). Jag har tränat flera av dessa maskiner med 100 % GPU-utnyttjande på alla fyra GPU:er i över en månad utan några problem eller termisk strypning.
- Relativ positionering av GPU:er för optimal hastighet:
- Hur man bygger en djupinlärningsmaskin med flera GPU:er:
- Benchmarking av RTX 20-seriens GPU:er för djupinlärning: