富士通 CX400M4 四卡底板 + 液冷 + 电源 ≈ 6000 元
4×V100 16GB = 64GB 显存,X86 生态,NVLink 互联
📊 实测跑 Qwen3.6-35B
・llama.cpp:~90 tokens/s,显存占用低,70B 都能装
・VLLM:~108 tokens/s,略快但资源占用高,35B 极限
💡 为什么我更推荐 llamacpp?
资源占用极低,70B 4bit 随便装
配置比 VLLM 简单太多
生态兼容性好,X86 无脑部署
🔧 避坑指南(视频里提到的)
・透明水管不耐高温,60-70 度就会变软膨胀!买黑色橡胶管
・液冷建议上 1000 + 价位的,冷排效果好很多
・底部 8654 接口是凸出的,安装时不要压到
・电源建议 1600W 以上,4 张 V100 满载~1200W