• 投稿

8G显存就能跑!Gemma-4 26B QAT本地实测,MoE+QAT有多强?

2万
1
2026-06-23 19:51:00
含AI生成内容
272
53
580
40
MoE混合专家架构 + QAT量化训练,14GB体积8G显存就能跑的26B大模型,BugFind和HermesAgent双料全场最高! 📊 BenchLocal测试成绩: 无思考模式:加权总分 88.7 / 实用得分 82.7 - ToolCall-15:96.7/15 - BugFind-15:86/15 - HermesAgent-20:84.8/20 思考模式:加权总分 91.6 / 实用得分 83.6 - BugFind-15:96/15 🏆全场最高 - HermesAgent-20:87/20 🏆全场最高 🔗 相关链接: 模型下载:https://huggingface.co/SC117/gemma-4-26B-A4B-it-qat-heretic-GGUF BenchLocal详情:https://scorp1o117.github.io/benchlocal-results/ 排行榜:https://scorp1o117.github.io/benchlocal-results/ #Gemma4 #MoE #QAT量化 #本地模型 #开源 #Benchmark #BenchLocal
在好奇心和算力之间,慢慢折腾出一些有意思的东西。HF:SC117 X:@Scorp1o_117
开源模型!
(1/18)
19.3万播放
简介
3.8B激活拿到全场双冠?Gemma-4 26B QAT本地实测,MoE+QAT有多强?
02:50
6.4GB拿到90.3分?Gemma-4 12B Heretic QAT本地实测,QAT量化有多强
02:08
9B的小模型工具调用拿满分?QwenPaw-Flash-9B本地实测88.4分
01:57
开源小模型源神!Qwen3.6-35B-A3B APEX本地实测,16.6GB拿91.5分
01:40
豆包也能看懂的本地模型部署教程!直接实现token自由!
06:00
专为Agent写代码!Ornith-1.0-35B实测:Terminal-Bench 64.2
02:12
手机也能跑Gemma4!仅4GB大小,本地部署实测
03:06
27B 仅 6.6GB:Qwen3.6-27B 三元版,Ternary-Bonsai-27B
02:14
1.5GB显存/内存就能跑!LFM2.5-2.6B 无删减版,会思考还能调用工具
03:02
第一人称和蕾米约会一天!MiniMax H3本地实跑
01:03
Ling 3.0模型双连发:Flash 124B大小86GB,Tiny 7.9B 小钢炮不到 6GB
02:34
GGUF 不再只有固定档位!我给 LLM 量化做了个“体积滑块”
01:03
4B也能做好代码Agent?Spark-X2.5-4B消融版来了!
02:45
2B模型也能这么能打?MiniCPM5-2B:代码、Agent,全都有!
01:55
35B MoE还没结束:Occamy-1.0,让Qwen3.6 35B-A3B再进化!
03:00
180B的MoE大模型,怎么能塞进一张12GB显卡?Strata × Qwen3.8-Flash-Next本地实测
06:00
Spark-X2.6-4B,你的下一只本地小助手来了!|消融+FIT量化【横屏版】
01:59
你的下一只本地小助手!Spark-X2.6-4B来了【竖屏版】
01:59
客服
顶部
赛事库 课堂 2021拜年纪