之所以做 Occamy-1.0 的 FIT-GGUF,主要是因为我觉得 Qwen3.6 35B-A3B 这条线还很有价值。
目前 Qwen3.8 并没有对应的 35B 级模型,Qwen4 会不会继续保留这个尺寸也还不确定。所以在这个时候,还有团队继续对 Qwen3.6-35B-A3B 做后训练和强化,我觉得是很有价值的。
Occamy-1.0 也不只是简单微调,它重点强化了长程协作、工具调用、代码、状态追踪和 Agent 工作流,官方评测相比原版 Qwen3.6-35B-A3B 也有比较明显的提升。
35B 总参 / 3B 激活依然是一个很适合本地部署的尺寸,而现在专门做这一档的新模型并不多,所以我觉得很值得做一个 FIT-GGUF 版本,看看它在真实本地使用中的表现。
模型:
Accio-Lab/occamy-1.0
SC117/occamy-1.0-abliterated-FIT-GGUF