ggerganov（llama.cpp创始人）实测DS4模型在2-bit量化下，AIME2025数学竞赛接近满分！以前大家认为2-bit量化会让模型严重变傻，但这次被彻底推翻了。
Redis之父antirez深度拆解背后原因：DS4的MoE架构中，共享专家和路由层保留高精度，量化误差被稀释，路由依然精准——把好钢用在刀背上。
这意味着你可能只需要16GB显存的显卡，就能本地跑顶级推理模型。本地私密超级大脑时代真的要来了。
📌 视频封面： cover.png
⏱ 时间轴
00:00 ggerganov的核弹级消息
00:08 DS4 2-bit量化AIME接近满分
00:26 2-bit量化几乎不降智，ggerganov亲自确认
00:54 64k输出限制，不是模型的错
01:17 为什么DS4能做到？antirez技术拆解
01:25 MoE架构原因一：共享专家+路由层保留高精度
01:45 原因二：稀释误差机制
01:57 原因三：路由精准，避免灾难性错误
02:16 antirez总结："把好钢用在刀背上"
02:31 16GB显存，本地私密超级大脑时代
#DS4 #2bit量化 #AIME #ggerganov #antirez #本地AI
