Qwen3.8 27B 新量化，12G低显存可用，Bonsai 2 27B，端到端三值语言权重。

Name: Qwen3.8 27B 新量化，12G低显存可用，Bonsai 2 27B，端到端三值语言权重。
Uploaded: 2026-09-19T08:45:12.000Z
Duration: 3 min 51 s
Channel: 赛博画师GZT

3083

2026-09-19 16:45:12

含AI生成内容

未经作者授权，禁止转载

Bonsai 2 27B 使用的是 Ternary g128，即分组三值权重量化：主要语言权重矩阵端到端三值，每 128 个权重共享一个 FP16 scale，并折叠了 blockwise Hadamard 旋转基。实测速度为9.5T/s，显卡为A3000 laptop 12G 模型下载： huggingface prism-ml/Ternary-Bonsai-2-27B-gguf 编译命令： git clone https://github.com/PrismML-Eng/llama.cpp cd llama.cpp cmake -B build -DGGML_CUDA=ON && cmake --build build -j 4

AI炼丹，AI全栈。

Qwen3.5能当生产力工具吗？本地部署27B和35B-A3B超低精度Q2_K量化，反推提示词测试。