Em um post anterior, Build a Pro Deep Learning Workstation… por Metade do preço, eu compartilhei todos os detalhes para comprar peças e construir um equipamento de aprendizado profundo de qualidade profissional por quase metade do custo de equipamentos pré-construídos de empresas como Lambda e Bizon. O post ficou viral na Reddit e nas semanas que se seguiram a Lambda reduziu seu preço de 4-GPU workstation em torno de $1200.
Esta é uma boa idéia para tornar o aprendizado profundo mais acessível, mas se você preferir gastar $7000 em vez de $11.250+, eis como.
No post anterior eu disse, “não há uma construção perfeita”, mas se houvesse uma construção perfeita com o menor custo, qual seria? Isso é o que eu mostro aqui. Confira o post anterior para explicações de componentes, benchmarking, e opções adicionais para esta plataforma de 4-GPU de aprendizado profundo.
O objetivo deste post é listar exatamente quais peças comprar para construir uma plataforma de aprendizado profundo de 4-GPU de última geração ao custo mais barato possível. Baseado no feedback de que havia muitas opções no post anterior, eu só listo uma melhor opção para cada componente. Eu construí três variações de plataformas multi-GPU e a que eu apresento aqui fornece a melhor performance e confiabilidade, sem estrangulamento térmico, pelo custo mais barato.
Incluí meu recibo, mostrando a compra de todas as peças para construir duas destas plataformas por $14000 ($7000 cada).
- Exactamente que peças comprar
- 4 GPUs RTX 2080 Ti (GPU mais rápido abaixo de $2000, provavelmente por alguns anos)
- Rosewill Hercules 1600W PSU (fonte de alimentação mais barata 1600W)
- 1TB m.2 SSD (para carregamento de dados ultra-rápido em aprendizagem profunda)
- CPU de 20 roscas (escolha Intel em vez de AMD para velocidade rápida de rosca única)
- X299 Placa mãe (esta placa mãe suporta totalmente 4 GPUs)
- Caso (alto fluxo de ar mantém as GPUs frescas)
- 3TB Disco rígido (para dados e modelos que você não acessa regularmente)
- 128GB RAM (mais RAM reduz o gargalo da GPU para o disco)
- Frigorífico CPU (este refrigerador não bloqueia o fluxo de ar da caixa)
- Comparação com a estação de trabalho de 4-GPU da Lambda
- Operating System and Performance
Exactamente que peças comprar
Pedi tudo online via NeweggBusiness, mas qualquer fornecedor (ex. Amazon) funciona. Se você tem uma loja MicroCenter local próxima, eles geralmente têm preços de CPU baratos se você comprar em uma loja física. Não pague impostos se você não precisar (por exemplo, instituições sem fins lucrativos ou educacionais). Tanto NeweggBusiness como Amazon aceitam documentos de isenção de impostos. Veja meu recibo para duas destas plataformas de 4-GPU.
Aqui está cada componente:
4 GPUs RTX 2080 Ti (GPU mais rápido abaixo de $2000, provavelmente por alguns anos)
Gigabyte RTX 2080 Ti Turbo 11GB, $1280 (16/04/2019)
Estas GPUs de 2 slots RTX 2080 TI também funcionarão:
1. ASUS GeForce RTX 2080 Ti 11G Turbo Edition GD, $1209 (21/03/2019)
2. ZOTAC Gaming GeForce RTX 2080 Ti Blower 11GB, $1299 (21/03/2019)
Rosewill Hercules 1600W PSU (fonte de alimentação mais barata 1600W)
>
Rosewill HERCULES 1600W Gold PSU, $209 (21/03/19)
>
1TB m.2 SSD (para carregamento de dados ultra-rápido em aprendizagem profunda)
HP EX920 M.2 1TB PCIe NVMe NAND SSD, $150 (16/04/2019)
CPU de 20 roscas (escolha Intel em vez de AMD para velocidade rápida de rosca única)
Intel Core i9-9820X Skylake X 10-Core 3.3Ghz, $850 (21/03/19)
X299 Placa mãe (esta placa mãe suporta totalmente 4 GPUs)
ASUS WS X299 SAGE LGA 2066 Intel X299, $492.26 (21/03/19)
Caso (alto fluxo de ar mantém as GPUs frescas)
>
Caso Corsair Carbide Series Air 540 ATX, $115 (16/04/2019)
3TB Disco rígido (para dados e modelos que você não acessa regularmente)
Seagate BarraCuda ST3000DM008 3TB 7200 RPM, $75 (16/04/2019)
128GB RAM (mais RAM reduz o gargalo da GPU para o disco)
8 paus de DRAM CORSAIR Vengeance 16GB, $640 (16/04/2019)
Frigorífico CPU (este refrigerador não bloqueia o fluxo de ar da caixa)
Corsair Hydro Series H100i PRO Baixo Ruído, $130 (16/04/2019)
Comparação com a estação de trabalho de 4-GPU da Lambda
Esta plataforma de 4-GPU de $7000 é similar à estação de trabalho de 4-GPU da Lambda de $11.250. As únicas diferenças são (1) eles usam uma CPU de 12 núcleos ao invés de uma CPU de 10 núcleos e (2) eles incluem um drive bay hot swap ($50).
Operating System and Performance
O sistema operacional que estou usando é o Ubuntu Server 18.04 LTS. Estou usando o Cuda 10.1 com TensorFlow (instalado usando conda) e PyTorch (instalado usando conda). Eu treinei várias dessas máquinas com 100% de utilização da GPU em todas as quatro GPUs por mais de um mês sem nenhum problema ou estrangulamento térmico.
- Posicionamento relativo das GPUs para uma velocidade ótima:
- Como construir uma máquina de aprendizagem profunda multi-GPU:
- Benchmarking de GPUs RTX série 20 para aprendizagem profunda:
>