https://www.youtube.com/watch?v=83QRLhKueC8
Prism ML 的 Bonsai 1-bit 三元量化:54GB 压到 3.9GB,32 倍压缩,声称保留 95% 的 FP16 智能。真的假的?
33 分钟 7 项深度测试:地牢爬虫翻车了(Bonsai 第一次失败),Blender 反杀了(比原版 Qwen 好),沙盘物理各有胜负。这不是宣传片,是数据全部公开的硬核实测。
📌 本视频基于 @lukesdevlab 频道内容翻译制作
🔗 原始视频:https://www.youtube.com/watch?v=83QRLhKueC8
📋 本期内容:
• 模型对比:Ternary Bonsai 27B vs Qwen 27B 规格
• 测试环境:16GB 本地 LLM 配置
• 测试 1:性能(速度 + Token 对比)
• 测试 2:记忆(长上下文处理)
• 测试 3:Agent 能力
• 测试 4:HumanEval 编程
• 测试 5:地牢爬虫游戏(Bonsai 翻车)
• 测试 6:Blender 场景(Bonsai 反杀)
• 测试 7:沙盘物理
• Bonsai Bug 修复测试
• 最终结论:32 倍压缩值不值?
💬 你觉得 32 倍压缩后这个质量水平能接受吗?1-bit 量化是未来还是噱头?