MoE混合专家架构 + QAT量化训练,14GB体积8G显存就能跑的26B大模型,BugFind和HermesAgent双料全场最高!
📊 BenchLocal测试成绩:
无思考模式:加权总分 88.7 / 实用得分 82.7
- ToolCall-15:96.7/15
- BugFind-15:86/15
- HermesAgent-20:84.8/20
思考模式:加权总分 91.6 / 实用得分 83.6
- BugFind-15:96/15 🏆全场最高
- HermesAgent-20:87/20 🏆全场最高
🔗 相关链接:
模型下载:https://huggingface.co/SC117/gemma-4-26B-A4B-it-qat-heretic-GGUF
BenchLocal详情:https://scorp1o117.github.io/benchlocal-results/
排行榜:https://scorp1o117.github.io/benchlocal-results/
#Gemma4 #MoE #QAT量化 #本地模型 #开源 #Benchmark #BenchLocal