• 投稿

【AI垃圾王】2500元不到装一台AI服务器!双Radeon VII解锁vLLM张量并行,性能暴涨6倍碾压Ollama!

29.4万
225
2025-07-14 16:14:09
8592
1852
8217
1632
💥2400元预算挑战AI算力天花板!本期视频,我们解决了Radeon VII / MI50 等 gfx906 架构显卡长期以来无法使用 vLLM 张量并行的痛点! 我们将全程展示如何用两张“过气”Radeon VII显卡,搭配X99“洋垃圾”平台,组装一台总价仅2397元的AI算力服务器。通过社区大神 nlzy 提供的特制Docker容器,我们成功解锁了vLLM的张量并行功能,在Qwen3 32B量化模型上实现了98 tokens/s的并发推理速度,性能是Ollama的6倍以上! 视频最后,我们还将通过Open WebUI,实战演示8个用户同时访问这台服务器的流畅体验! 本期硬件配置清单 (总计: ~2397元) 显卡 (GPU): AMD Radeon VII 16GB x 2 (二手 ~1600元) 主板 (Motherboard): 精粤 X99M-PLUS (~300元) 处理器 (CPU): Intel Xeon E5-2680 v4 (56元) 内存 (RAM): 海力士 ECC REG DDR4 8GB x 4 (176元) 硬盘 (Storage): 512GB NVMe SSD (~150元) 电源 (PSU): 额定850W 金牌认证电源 (二手 115元) 【本期方案超详细文字版教程】 为了方便大家复现,我们已经把今天所有用到的命令、链接,以及一份超详细的文字版部署教程,全部整理好,放到了UP主的Gitee主页上! 直达链接:https://gitee.com/spoto/R7vllm 如果觉得本期视频对你有帮助,请务-务-务必 点赞、投币、收藏 三连支持一下UP主!你们的支持是我爆肝更新的最大动力!感谢大家!
18岁中登!合作邮箱:spoto@outlook.com
AI系列
(8/24)
347.3万播放
简介
192GB显存,装进一台小主机!320B大模型真能跑?——极摩客GMK EVO-X5 PRO 评测
11:59
2026 年了,工作室的 AIO 服务器应该会干什么?
17:36
能跑 DeepSeek-V4 的"无头骑士"迷你主机——极摩客 EVO-X3 实测体验
09:53
Unraid部署Deepseek-R1模型全攻略(含A卡、N卡加速以及纯CPU环境)
19:05
899元6年前矿卡逆袭!双卡AMD RADEON VII暴跑70B大模型!
12:17
以后用NAS只要“说”就够了?——通过AI🤖部署基于Ubuntu的“NAS系统”实战
38:27
垃圾佬狂喜!300块的CPU+600块的计算卡?组装能跑70B模型的AI服务器是种什么体验?(浪潮SA5212M5 + 3x MI50)
12:06
【AI垃圾王】2500元不到装一台AI服务器!双Radeon VII解锁vLLM张量并行,性能暴涨6倍碾压Ollama!
08:00
别被“AI”忽悠了!1999元的小米AI眼镜,是年轻人的新玩具还是新“智商税”?
20:22
我花了3700块,从闲鱼买了台双Tesla V100扩展柜,想一步到位玩转MoE,结果…
12:12
说句话就能自动找番下载?我把本地80B大模型调教成了“追番特工”!
12:44
单卡双芯 48G 显存!打造 20L 紧凑型 AI 算力怪兽:DeepSeek 70B 实测 19 tokens/s
17:53
从自动写代码到智能影音刮削:实测 OpenCode,这台“赛博管家”真的能干苦力活
16:56
不用买macmini!手把手教你在NAS(LINUX虚拟机)里安装Clawdbot/Moltbot
24:54
一键部署Openclaw还能白嫖算力?绿联NAS送你“小龙虾”!
05:40
拒绝黄牛加价!1300块拿下M1“无头骑士”,这才是平民最强“养龙虾”神器?
07:43
AI时代买了个“黑白屏”?数码老爹深度实测!
07:59
别再当韭菜!600块组装Mac mini平替,跑AI Agent比白苹果还香?
07:04
铭凡 N5 MAX 首发评测!这才是真正的AI(O) NAS!120W 满血释放,16核32线程,本地AiAgent + 本地视频生成
15:54
AMD核显实战ComfyUI:七彩虹灵创K16如何包揽全套本地AI视频制作
13:00
榨干最强蓝厂显卡!单芯片32G的铭瑄Arc Pro B70,跑大模型/AI视频有多猛?
16:48
最便宜的32G正规军、但算力砍四成:Arc Pro B65 到底值不值这8999
06:10
数据不出门、Token 零花费!雷神 AI MASTER M7000 把 120B 大模型装进了笔记本
11:38
128GB“显存”+CUDA+200G网卡,这块“赛博金条”到底值不值?——DGX Spark 自费深度评测
27:09
客服
顶部
赛事库 课堂 2021拜年纪