• 投稿

Qwen3-235B Q4量化模型只用一台AMD 395就能成功运行,这你敢信?

4126
1
2026-08-26 18:00:36
个人观点,仅供参考
37
7
65
15
这次测试使用 AMD Ryzen AI Max+ 395 128GB 作为测试平台,软件统一使用 Herdsman 牧马人本地推理引擎,分别对比搭载 AI SSD 与普通 SSD 的设备,在相同模型、相同量化版本以及一致测试条件下的实际表现。 本次测试的模型分别为 Qwen3-235B-A22B 和 Qwen3.6-35B-A3B,均采用 Q4_K_M 量化。 使用 Qwen3.6-35B-A3B 进行相同任务的推理测试,普通 SSD 用时 130秒,AI SSD 仅用 2秒,推理时间减少65倍。 这次测试主要想看看,当本地模型规模不断增大之后,SSD在模型数据承载、缓存与推理过程中的作用到底有多大,以及 AI SSD 与普通 SSD 在实际本地推理场景中的差异。 最近 AI SSD 获得了大家的广泛关注,所以这次除了测试之外,也会结合测试结果,进一步聊聊 AI SSD 到底解决了什么问题,以及它为什么会影响大模型的本地运行体验。
让AI真正帮你做事,不只是装在你的电脑上。了解更多:flowyaipc.com
7.4万播放
简介
Herdsman-牧马人本地推理引擎,正式上线
01:21
比Ollama、LM更友好,牧马人本地推理引擎(Herdsman AI)全新版本发布
01:53
显卡显存不够用?群联 aiDAPTIV 用一块 SSD 给 GPU "扩容"
03:34
Herdsman全新版本:本地模型搭配Agent、多卡推理、AI SSD.....
02:06
Qwen3-235B Q4量化模型只用一台AMD 395就能成功运行,这你敢信?
02:59
AI SSD到底有什么用?Qwen-122B成功启动,35B模型推理70秒→2秒
02:06
0 Token 使用 WorkBuddy、CC、Codex、爱马仕..... 还在用CC-switch的也可以换掉了
02:04
92.9GB模型权重塞进64GB内存?AMD 395实测Qwen3.8-Flash-Next
01:55
外接一块 AI SSD,让电脑跑起远超内存、显存容量的大模型!
00:27
客服
顶部
赛事库 课堂 2021拜年纪