Egy korábbi bejegyzésben, a Build a Pro Deep Learning Workstation… for Half the Price (Építs egy profi mélytanulási munkaállomást… féláron), minden részletet megosztottam az alkatrészek beszerzéséhez és egy professzionális minőségű mélytanulási rig építéséhez az olyan cégek előre elkészített rigjeinek közel feléért, mint a Lambda és a Bizon. A poszt vírusként terjedt a Redditen, és az azt követő hetekben a Lambda 1200 dollár körülire csökkentette a 4 GPU-s munkaállomásuk árát.
Ez egy jó kezdet a mélytanulás elérhetőbbé tételéhez, de ha a 11.250+ dollár helyett inkább 7000 dollárt szeretnél költeni, itt van, hogyan.
A korábbi posztban azt állítottam, hogy “nincs tökéletes build”, de ha lenne egy tökéletes build a legalacsonyabb költséggel, mi lenne az? Ezt mutatom meg itt. Nézze meg az előző bejegyzést az alkatrészek magyarázatáért, a benchmarkingért és további lehetőségekért ehhez a 4 GPU-s mélytanulási righez.
Ez a bejegyzés célja, hogy pontosan felsorolja, milyen alkatrészeket kell megvásárolnia ahhoz, hogy a lehető legolcsóbban építsen egy korszerű 4 GPU-s mélytanulási riget. A visszajelzések alapján, miszerint az előző bejegyzésben túl sok lehetőség volt, csak a legjobb opciót sorolom fel minden egyes alkatrészhez. A több GPU-s rigek három változatát építettem, és az itt bemutatott a legjobb teljesítményt és megbízhatóságot nyújtja, termikus throttling nélkül, a legolcsóbb költséggel.
Mellékeltem a blokkomat, amely mutatja az összes alkatrész megvásárlását, hogy két ilyen riget építsek 14000 $-ért (7000 $ fejenként).
- Pontosabban milyen alkatrészeket kell venni
- 4 RTX 2080 Ti GPU (leggyorsabb GPU 2000 dollár alatt, valószínűleg néhány évig)
- Rosewill Hercules 1600W PSU (legolcsóbb 1600W-os tápegység)
- 1TB m.2. SSD (az ultrarövid adatbetöltéshez a mélytanulásban)
- 20 szálas CPU (a gyors egyszálas sebességhez válassza az Intelt az AMD helyett)
- X299 alaplap (ez az alaplap teljes mértékben támogatja a 4 GPU-t)
- Case (a nagy légáramlás hűvösen tartja a GPU-kat)
- 3TB merevlemez (a nem rendszeresen elérhető adatok és modellek számára)
- 128GB RAM (több RAM csökkenti a GPU és a lemez közötti szűk keresztmetszetet)
- CPU-hűtő (ez a hűtő nem akadályozza a ház légáramlását)
- Összehasonlítás a Lambda 4-GPU-s munkaállomásával
- Működő rendszer és teljesítmény
Pontosabban milyen alkatrészeket kell venni
Mindent online rendeltem a NeweggBusiness-en keresztül, de bármelyik kereskedő (pl. Amazon) megfelel. Ha van a közelben helyi MicroCenter bolt, akkor gyakran van olcsó CPU áraik, ha fizikai boltban vásárolsz. Ne fizess adót, ha nem kell (pl. nonprofit vagy oktatási intézmények). A NeweggBusiness és az Amazon is elfogadja az adómentességi dokumentumokat. Tekintse meg a két ilyen 4 GPU-s rigre vonatkozó nyugtámat.
Itt vannak az egyes összetevők:
4 RTX 2080 Ti GPU (leggyorsabb GPU 2000 dollár alatt, valószínűleg néhány évig)
Gigabyte RTX 2080 Ti Turbo 11GB, 1280 dollár (04/16/2019)
Ezek a 2-PCI slotos blower-style RTX 2080 TI GPU-k is működnek:
1. ASUS GeForce RTX 2080 Ti 11G Turbo Edition GD, 1209 dollár (03/21/2019)
2. ZOTAC Gaming GeForce RTX 2080 Ti Blower 11GB, 1299 dollár (03/21/2019)
Rosewill Hercules 1600W PSU (legolcsóbb 1600W-os tápegység)
Rosewill HERCULES 1600W Gold PSU, 209 dollár (03/21/19)
1TB m.2. SSD (az ultrarövid adatbetöltéshez a mélytanulásban)
HP EX920 M.2 1TB PCIe NVMe NAND SSD, $150 (04/16/2019)
20 szálas CPU (a gyors egyszálas sebességhez válassza az Intelt az AMD helyett)
Intel Core i9-9820X Skylake X 10-Core 3.3Ghz, $850 (03/21/19)
X299 alaplap (ez az alaplap teljes mértékben támogatja a 4 GPU-t)
ASUS WS X299 SAGE LGA 2066 Intel X299, $492.26 (03/21/19)
Case (a nagy légáramlás hűvösen tartja a GPU-kat)
Corsair Carbide Series Air 540 ATX Case, $115 (04/16/2019)
3TB merevlemez (a nem rendszeresen elérhető adatok és modellek számára)
Seagate BarraCuda ST3000DM008 3TB 7200 RPM, $75 (04/16/2019)
128GB RAM (több RAM csökkenti a GPU és a lemez közötti szűk keresztmetszetet)
8 stick CORSAIR Vengeance 16GB DRAM, $640 (04/16/2019)
CPU-hűtő (ez a hűtő nem akadályozza a ház légáramlását)
Corsair Hydro Series H100i PRO Low Noise, $130 (04/16/2019)
Összehasonlítás a Lambda 4-GPU-s munkaállomásával
Ez a 7000 dolláros 4-GPU-s rig hasonló a Lambda 11 250 dolláros Lambda 4-GPU-s munkaállomásához. Az egyetlen különbség, hogy (1) 10 magos CPU helyett 12 magos CPU-t használnak, és (2) tartalmaznak egy hot swap meghajtórekeszt (50 $).
Működő rendszer és teljesítmény
Az általam használt operációs rendszer az Ubuntu Server 18.04 LTS. Cuda 10.1-et használok TensorFlow-val (conda segítségével telepítve) és PyTorch-csal (conda segítségével telepítve). Több ilyen gépet képeztem ki 100%-os GPU-kihasználtsággal mind a négy GPU-n több mint egy hónapig mindenféle probléma vagy termikus throttling nélkül.
- A GPU-k relatív elhelyezése az optimális sebesség érdekében:
- Hogyan építsünk több GPU-s mélytanuló gépet:
- Benchmarking RTX 20-as sorozatú GPU-k mélytanuláshoz: