NVIDIA 放大招！Qwen3.6-35B NVFP4 实测：显存暴降3倍，精度几乎不掉，NVIDIA 官方 NVFP4 量化把 Qwen3.6 干疯了

Name: NVIDIA 放大招！Qwen3.6-35B NVFP4 实测：显存暴降3倍，精度几乎不掉，NVIDIA 官方 NVFP4 量化把 Qwen3.6 干疯了
Uploaded: 2026-05-30T13:56:17.000Z
Duration: 4 min 55 s
Channel: 鲲鹏Talk
Description: NVIDIA 官方发布了基于 Qwen3.6-35B-A3B 的 NVFP4 优化版本！ 这次最离谱的地方在于： 原本 BF16 需要接近 67GB 显存的模型，现在压缩到约 22GB，显存占用减少约 3 倍，但精度几乎没有明显下降。 这不是普通 INT4，而是 NVIDIA Blackwell 原生支持的 NVFP4（4-bit Floating Point）量化方案。

4.5万

2026-05-30 21:56:17

未经作者授权，禁止转载

NVIDIA 官方发布了基于 Qwen3.6-35B-A3B 的 NVFP4 优化版本！这次最离谱的地方在于：原本 BF16 需要接近 67GB 显存的模型，现在压缩到约 22GB，显存占用减少约 3 倍，但精度几乎没有明显下降。这不是普通 INT4，而是 NVIDIA Blackwell 原生支持的 NVFP4（4-bit Floating Point）量化方案。

连续创业者｜All in AIAI干货教程｜一人公司项目实践｜每日AI事件独行者快，众行者远

顶部