我们组装了一台强大的 GPU 服务器,用于本地运行 DeepSeek V4-Flash-0731。核心平台是 ASUS ESC4000A-E12,搭载 4 张 NVIDIA RTX PRO 5000 Blackwell 72GB,总显存达到 288GB。
视频第一部分,我们详细拆解硬件:ASUS 2U 平台结构、4 张 GPU 的散热、供电、Riser、BMC、硬盘子系统,以及显卡安装细节。同时也会解释,为什么 4× RTX PRO 5000 会是两张 RTX PRO 6000 Blackwell 的一个有趣替代方案。
装机完成后,我们会对服务器进行压力测试:先在 Windows Server 下查看温度、功耗和噪音,再在 Ubuntu 中用 GPU-BURN 压满 4 张 GPU。
视频第二部分进入重点:本地运行 DeepSeek V4-Flash-0731,看看这款新模型在真实任务中的表现。这部分由我们第二频道 ServerFlow AI Lab 的 Ilya 来完成。
装机配置:
服务器:ASUS ESC4000A-E12
显卡:4× NVIDIA RTX PRO 5000 Blackwell 72GB
处理器:AMD EPYC 9374F,32 核 / 64 线程
内存:128GB DDR5 ECC REG 4800MHz
SSD:Intel D5-5530 960GB
这类服务器适合本地推理大型 LLM、AI Agent,以及其他对大显存和多张专业 GPU 有需求的任务,尤其是在一个 2U 机箱里部署多卡系统的场景。
🌐 官网:https://serverflow.ru
📘 技术博客:https://serverflow.ru/blog/
📈 SFBench:https://bench.serverflow.ru/