TurboQuant的初步复现显示,3bit kv cache压缩远不是无损
PrismML Bonsai 8B 初体验与测试 - 真正的1位LLM?
27B 模型塞进 iPhone?Prism ML Bonsai 1-bit 量化:54GB 压到 3.9GB,32 倍压缩还能跑 11 tok/s
54GB→3.9GB 保留 95% 智能?Ternary Bonsai 27B 1-bit vs 原版 Qwen:33 分钟 7 项硬核测试
在浏览器里直接跑1-bit大模型!290MB Bonsai,无需安装,WebGPU实时对话太震撼了
【中英双语】MiniCPM5——1B 模型究竟能有多好?本地AI Agent真香? | Sam Witteveen
RotorQuant宣称比TurboQuant快31倍?我们做了真实测试 | 中文配音
80亿参数压到1.15GB!Bonsai:浏览器里直接跑的1-bit大模型
【中配】测试谷歌的 TurboQuant 方法:我得到了 5 倍的压缩效果,准确率达到了 99.5%! - Onchain AI Garage
37M小模型逻辑推理反超24倍巨量架构:T2定律揭秘测试时缩放如何重塑算力平衡
8B 模型压到 1.15 GB,Bonsai-8B 真把本地 AI 门槛打下来了
2.5小时即可训练出仅有25M的超小语言模型
你的电脑就能跑大模型!1-bit 量化 Bonsai 实测,浏览器也能运行 17 亿参数 AI
如何仅用4b的小模型打败235b的大模型
全新 PrismML Bonsai 8B 令人震惊!(免费)
27B 仅 6.6GB:Qwen3.6-27B 三元版,Ternary-Bonsai-27B
谷歌 Gemma3:1b 大模型 弱智吧测试
微软BitNet 2B 1bit模型 内存占用0.4G 智商测试
bitnet.cpp 推理,速度超越 llama.cpp,内存最高降低 16 倍 | 附 BitNet b1.58 模型安装演示
GPU时代要终结?1-bit LLM炸裂登场!本地跑大模型成本直降90%