[Cần tư vấn GPU Servers]


#1

Tôi đang cần build GPU servers để làm dự án DeepLearning + đào tạo nhân lực. Budget quanh 100K US$. 𝐗𝐢𝐧 𝐜𝐚́𝐜 𝐛𝐚̣𝐧 𝐜𝐨́ 𝐤𝐢𝐧𝐡 𝐧𝐠𝐡𝐢𝐞̣̂𝐦 𝐜𝐡𝐨 𝐟𝐞𝐞𝐝𝐛𝐚𝐜𝐤 𝐧𝐞̂𝐧 𝐜𝐡𝐨̣𝐧 𝐜𝐚̂́𝐮 𝐡𝐢̀𝐧𝐡 𝐧𝐚̀𝐨 𝐜𝐡𝐨 𝐭𝐨̂́𝐢 𝐮̛𝐮:

  1. 3 servers, mỗi con 8 cards NVDIA RTX 2080Ti (98K US$)
  2. 2 servers, mỗi con 8 cards NVDIA Titan V (101K US$)
  3. 1 server với 8 card NVDIA V100 (105K US$)
  4. Your suggestions.

Đi kèm với 2CPUs Intel Xeon, 512GB RAM, 2TB SSD, 4TB HDD. Các servers sẽ đc đặt mua từ https://lambdalabs.com/servers/blade/customize

Notes: Tôi đã tham khảo benchmarks và reviews từ 2 posts này:


#2

Em nghĩ là a từ hẵng dùng card 2080TI RX. Hiện tại benchmark card đó đang là lớn nhất nhưng đang gặp phải hiện tượng lỗi phần cứng. Nvidia cũng đã xác nhận vào hiện đang tìm nguyên nhân r A cứ build trước với 1 vài TItan x hoặc 1080TI r tính tiếp đi anh


#3

Mình nghĩ build server thì nên cân nhắc các dòng gpu cho server vì cần online 24/24, các dòng ko chuyên dụng cho server như 2080 hay thậm chí titan V mà ép nó chạy thế sẽ nhanh chóng xuống cấp. 100k thì vote Tesla V100!


#4

Mỗi con 50K USD, 2 con 100K vừa tròn yêu cầu:

https://www.nvidia.com/en-us/data-center/dgx-station/


#5

Xin hỏi anh @CuriousAI đã mua được máy chưa ạ?


#6

Mình vừa book 2 con 8 cards TitanV từ Lambdalabs rồi. Muốn mua 2 con DGX-station như @anh.nguyen recommend nhưng khâu bán hàng của NVDia phức tạp quá (phải qua đại lý) nên gave up :frowning:


#7

Tại sao anh không sử dụng Nvidia DGX-1 và DGX-2

Con Nvidia DGX-1 và Nvidia DGX-2 DGX-1: TFLOPS (deep learning) 1000 CUDA Cores 40,960 Tensor Cores 5,120 NVLink vs PCIe Speed-up 10X Deep Learning Training Speed-up 3X DGX-2: GPUs 16X NVIDIA® Tesla V100 GPU Memory 512GB total Performance 2 petaFLOPS NVIDIA CUDA® Cores 81920 NVIDIA Tensor Cores 10240 NVSwitches 12 Maximum Power Usage 10kW


#8

Xin hỏi bạn CuriousAI đã có server dùng chưa, mình làm nghiên cứu độc lập cũng đang tìm server để chạy deep learning trên matlab, nếu bạn có phương tiện thì có thể chia sẻ với mình được không. email : cokhach3110@gmail.com Cảm ơn bạn