Edellisessä postauksessa Build a Pro Deep Learning Workstation… for Half the Price (Rakenna ammattilaisen Deep Learning -työasema… puoleen hintaan) kerroin kaikki yksityiskohdat, joiden avulla voit ostaa osia ja rakentaa ammattilaistasoisen syväoppimisrigin lähes puolet halvemmalla kuin Lambdan ja Bizonin kaltaisten yritysten valmiiksi rakennetut rigit. Postaus levisi Redditissä, ja sitä seuranneiden viikkojen aikana Lambda alensi 4 GPU:n työasemansa hintaa noin 1200 dollariin.
Tämä on hyvä alku kohti syväoppimisen saatavuuden parantamista, mutta jos haluat mieluummin kuluttaa 7000 dollaria yli 11 250 dollarin sijaan, tässä on keino.
Edellisessä postauksessani totesin, että ”täydellistä rakennelmaa ei ole olemassakaan”, mutta jos olisikin olemassa täydellinen rakennelma edullisimmalla hinnalla, mikä se olisi? Sen minä tässä näytän. Katso edellisestä postauksesta komponenttien selitykset, benchmarking ja lisävaihtoehdot tähän 4-GPU:n syväoppimislaitteistoon.
Tämän postauksen tavoitteena on luetella tarkalleen, mitkä osat kannattaa ostaa, jotta voit rakentaa huippuluokan 4-GPU:n syväoppimislaitteiston halvimmalla mahdollisella hinnalla. Perustuen palautteeseen, jonka mukaan edellisessä postauksessa oli liikaa vaihtoehtoja, listaan vain parhaan vaihtoehdon jokaisesta komponentista. Rakensin kolme variaatiota usean GPU:n rigistä, ja tässä esittelemäni tarjoaa parhaan suorituskyvyn ja luotettavuuden ilman termistä throttlingia halvimmalla hinnalla.
Olen liittänyt mukaan kuittini, josta käy ilmi kaikkien osien osto kahden tällaisen rigin rakentamiseen 14000 dollarilla (7000 dollaria kumpikin).
- Tarkasti mitkä osat kannattaa ostaa
- 4 RTX 2080 Ti GPU:ta (nopein GPU alle 2000 dollarin, todennäköisesti muutamaan vuoteen)
- Rosewill Hercules 1600W PSU (halvin 1600W virtalähde)
- 1TB m.2. SSD (tiedon ultranopeaan lataamiseen syväoppimisessa)
- 20-säikeinen prosessori (valitse Intel AMD:n sijasta, jos haluat nopean yksittäisen säikeen nopeuden)
- X299-emolevy (tämä emolevy tukee täysin 4 näytönohjainta)
- Kotelo (suuri ilmavirta pitää näytönohjaimet viileinä)
- 3TB:n kiintolevy (tiedoille ja malleille, joita et käytä säännöllisesti)
- 128 Gt RAM-muistia (enemmän RAM-muistia vähentää GPU:n ja levyn välistä pullonkaulaa)
- CPU-jäähdytin (tämä jäähdytin ei estä kotelon ilmavirtaa)
- Vertailu Lambdan 4-GPU-työasemaan
- Käyttöjärjestelmä ja suorituskyky
Tarkasti mitkä osat kannattaa ostaa
Tilasin kaiken netistä NeweggBusinessin kautta, mutta mikä tahansa myyjä (esim. Amazon) toimii. Jos lähelläsi on paikallinen MicroCenter-myymälä, heillä on usein halvat CPU-hinnat, jos ostat fyysisestä myymälästä. Älä maksa veroa, jos sinun ei tarvitse (esim. voittoa tavoittelemattomat tai oppilaitokset). Sekä NeweggBusiness että Amazon hyväksyvät verovapautusasiakirjat. Katso kuittini kahdesta tällaisesta 4 GPU:n rigistä.
Tässä on jokainen komponentti:
4 RTX 2080 Ti GPU:ta (nopein GPU alle 2000 dollarin, todennäköisesti muutamaan vuoteen)
Gigabyte RTX 2080 Ti Turbo 11GB, 1280 dollaria (16.04.2019)
Näillä 2-PCI-paikkaisella blower-tyylillä varustetuilla RTX 2080 TI -grafiikkapiirroksilla pärjäävät myös:
1. ASUS GeForce RTX 2080 Ti 11G Turbo Edition GD, 1209 dollaria (21.03.2019)
2. ZOTAC Gaming GeForce RTX 2080 Ti Blower 11GB, 1299 dollaria (21.03.2019)
Rosewill Hercules 1600W PSU (halvin 1600W virtalähde)
Rosewill HERCULES 1600W Gold PSU, 209 dollaria (21.03.19)
1TB m.2. SSD (tiedon ultranopeaan lataamiseen syväoppimisessa)
HP EX920 M.2 1TB PCIe NVMe NAND SSD, 150 dollaria (16.04.2019)
20-säikeinen prosessori (valitse Intel AMD:n sijasta, jos haluat nopean yksittäisen säikeen nopeuden)
Intel Core i9-9820X Skylake X 10-Core 3.3Ghz, $850 (03/21/19)
X299-emolevy (tämä emolevy tukee täysin 4 näytönohjainta)
ASUS WS X299 SAGE LGA 2066 Intel X299, $492.26 (21.03.19)
Kotelo (suuri ilmavirta pitää näytönohjaimet viileinä)
Corsair Carbide Series Air 540 ATX Case, 115 € (16.04.2019)
3TB:n kiintolevy (tiedoille ja malleille, joita et käytä säännöllisesti)
Seagate BarraCuda ST3000DM008 3TB 7200 RPM, 75 dollaria (16.04.2019)
128 Gt RAM-muistia (enemmän RAM-muistia vähentää GPU:n ja levyn välistä pullonkaulaa)
8 tikkua CORSAIR Vengeance 16 Gt DRAMia, 640 dollaria (16.04.2019)
CPU-jäähdytin (tämä jäähdytin ei estä kotelon ilmavirtaa)
Corsair Hydro Series H100i PRO Low Noise, 130 dollaria (16.04.2019)
Vertailu Lambdan 4-GPU-työasemaan
Tämä 7000 dollarin 4-GPU-rigi on samanlainen kuin Lambdan 11 250 dollarin Lambdan 4-GPU-työasema. Ainoat erot ovat (1) ne käyttävät 12-ydinprosessoria 10-ydinprosessorin sijaan ja (2) ne sisältävät hot swap -asemapaikan (50 dollaria).
Käyttöjärjestelmä ja suorituskyky
Käyttämäni käyttöjärjestelmä on Ubuntu Server 18.04 LTS. Käytän Cuda 10.1:tä, jossa on TensorFlow (asennettu condan avulla) ja PyTorch (asennettu condan avulla). Olen kouluttanut useita näistä koneista 100 % GPU:n käyttöasteella kaikilla neljällä GPU:lla yli kuukauden ajan ilman mitään ongelmia tai termistä kuristusta.
- GPU:iden suhteellinen sijoittelu optimaalisen nopeuden saavuttamiseksi:
- How to build a multi-GPU deep learning machine:
- Benchmarking RTX 20-sarjan GPU:t syväoppimista varten: