L7

In un post precedente, Build a Pro Deep Learning Workstation… for Half the Price, ho condiviso ogni dettaglio per acquistare parti e costruire un impianto di deep learning di qualità professionale per quasi la metà del costo degli impianti pre-costruiti da aziende come Lambda e Bizon. Il post è diventato virale su Reddit e nelle settimane successive Lambda ha ridotto il prezzo della sua workstation a 4 GPU a circa 1200 dollari.

Questo è un buon inizio per rendere il deep learning più accessibile, ma se preferite spendere 7000 dollari invece di 11.250+, ecco come fare.

Nel post precedente ho affermato che “non esiste una build perfetta”, ma se ci fosse una build perfetta al costo più basso, quale sarebbe? Questo è quello che mostro qui. Controlla il post precedente per le spiegazioni dei componenti, il benchmarking e le opzioni aggiuntive per questo impianto di apprendimento profondo a 4 GPU.

L’obiettivo di questo post è quello di elencare esattamente quali parti comprare per costruire un impianto di apprendimento profondo a 4 GPU all’avanguardia al costo più basso possibile. Sulla base del feedback che c’erano troppe opzioni nel post precedente, ho elencato solo un’opzione migliore per ogni componente. Ho costruito tre varianti di impianti multi-GPU e quello che presento qui fornisce le migliori prestazioni e affidabilità, senza throttling termico, per il costo più economico.

Ho incluso la mia ricevuta, che mostra l’acquisto di tutte le parti per costruire due di questi impianti per $14000 ($7000 ciascuno).

Esattamente quali parti comprare

Ho ordinato tutto online tramite NeweggBusiness, ma qualsiasi venditore (per esempio Amazon) funziona. Se hai un negozio locale MicroCenter nelle vicinanze, spesso hanno prezzi economici per la CPU se acquisti in un negozio fisico. Non pagate le tasse se non ne avete bisogno (ad esempio, istituzioni senza scopo di lucro o di istruzione). Sia NeweggBusiness che Amazon accettano documenti di esenzione fiscale. Guarda la mia ricevuta per due di questi impianti a 4 GPU.

Ecco ogni componente:

4 GPU RTX 2080 Ti (la GPU più veloce sotto i 2000 dollari, probabilmente per qualche anno)

Gigabyte RTX 2080 Ti Turbo 11GB, $1280 (04/16/2019)
Anche queste GPU RTX 2080 TI a 2 slot PCI funzioneranno:
1. ASUS GeForce RTX 2080 Ti 11G Turbo Edition GD, $1209 (21/03/2019)
2. ZOTAC Gaming GeForce RTX 2080 Ti Blower 11GB, $1299 (03/21/2019)

Rosewill Hercules 1600W PSU (alimentatore più economico da 1600W)

Rosewill HERCULES 1600W Gold PSU, $209 (03/21/19)

1TB m.2 SSD (per caricamento dati ultraveloce nell’apprendimento profondo)

HP EX920 M.2 1TB PCIe NVMe NAND SSD, $150 (04/16/2019)

20-thread CPU (scegliere Intel piuttosto che AMD per la velocità del singolo thread)

Intel Core i9-9820X Skylake X 10-Core 3.3Ghz, $850 (03/21/19)

Scheda madreX299 (questa scheda madre supporta pienamente 4 GPU)

ASUS WS X299 SAGE LGA 2066 Intel X299, $492.26 (03/21/19)

Case (l’alto flusso d’aria mantiene le GPU fresche)

Corsair Carbide Series Air 540 ATX Case, $115 (04/16/2019)

Disco rigido da 3TB (per dati e modelli a cui non si accede regolarmente)

Seagate BarraCuda ST3000DM008 3TB 7200 RPM, $75 (04/16/2019)

128GB RAM (più RAM riduce il collo di bottiglia tra GPU e disco)

8 stick di CORSAIR Vengeance 16GB DRAM, $640 (04/16/2019)

RaffreddatoreCPU (questo raffreddatore non blocca il flusso d’aria del case)

Corsair Hydro Series H100i PRO Low Noise, $130 (04/16/2019)

Confronto con la workstation 4-GPU di Lambda

Questo rig 4-GPU da 7000 dollari è simile alla workstation 4-GPU di Lambda da 11.250 dollari. Le uniche differenze sono (1) usano una CPU a 12 core invece di una a 10 core e (2) includono un alloggiamento per unità hot swap ($50).

Sistema operativo e prestazioni

Il sistema operativo che sto usando è Ubuntu Server 18.04 LTS. Sto usando Cuda 10.1 con TensorFlow (installato usando conda) e PyTorch (installato usando conda). Ho addestrato più di queste macchine con il 100% di utilizzo della GPU su tutte e quattro le GPU per oltre un mese senza alcun problema o throttling termico.

1. Posizionamento relativo delle GPU per una velocità ottimale:
2. Come costruire una macchina di deep learning multi-GPU:
3. Benchmarking delle GPU RTX serie 20 per l’apprendimento profondo: