云端涨价以后,大家都在哀嚎。但我发现了一件反直觉的事:你每天在云端花钱用的 DeepSeek V4 Flash——2800 亿参数的当红模型——其实可以免费装进你自己的电脑。
我把它的 2.4-bit 量化版下载到 Mac Studio 128GB上实测了一轮:装得下、跑得动,效果还比现在特别火的 Qwen 3.8 27B 更好。同一个总结任务,它 2 分 13 秒跑完,Qwen 3.8 27B 要 4 分 10 秒——快了一倍,输出质量还更高。
这期视频完整记录:怎么把 DeepSeek V4 Flash 装进本地、跑分和实战的差距、为什么本地跑效果反而更好、以及你的内存到底该买多大。
📌 本期要点:
• 悬念开场:当红模型 DeepSeek V4 Flash,能装进个人电脑吗?完全可以
• 部署实测:2.4-bit 量化版 86GB,128G Mac Studio 峰值内存吃到 92GB
• 跑分反差:预填充 DeepSeek 300+ vs Qwen 200+,单看跑分几乎打平
• 实战对决:同一个 3 万字总结任务,2 分 13 秒 vs 4 分 10 秒
• 质量对比:DeepSeek 总结更丰满,还多抓一条 Qwen 漏掉的信息
• 原因拆解:读取更聪明——预填充 267 vs 217 tok/s,上下文越长优势越大
• 免费方案:云端一天几十块,本地量化版永远免费;256G 内存可跑 4-bit 几乎无损
⏱️ 时间线:
00:00 开场:当红模型DeepSeek V4 Flash、Qwen 3.8 27B,能装进个人电脑吗
00:48 新选手:DeepSeek V4 Flash 本地部署 有多大
01:38 跑分:DeepSeek V4 Flash、Qwen 3.8 27B几乎打平
03:50 实战:同一个任务,差了一倍
06:06 为什么:读取更聪明
06:54 结论:你缺的不是显卡,是内存
08:09 未来与预告:Flash Next 对决
🔧 涉及概念:DeepSeek V4 Flash 本地部署、Qwen 3.8 27B、oMLX、2.4-bit 量化、PI-Agent、prefill/decode、token 吞吐量、Mac Studio 128GB、Hugging Face
🔗 相关链接:
• 范凯说AI 会员网站:https://fankaishuo.ai
#DeepSeek #V4Flash #本地AI #本地部署 #免费跑本地 #oMLX #MacStudio #范凯说AI