strata显卡8G+32G内存怎么跑 iq3S 级量化不读硬盘均速66+3080算力解锁实测-windows

Name: strata显卡8G+32G内存怎么跑 iq3S 级量化不读硬盘均速66+3080算力解锁实测-windows
Uploaded: 2026-10-26T17:58:23.000Z
Duration: 14 min 46 s
Channel: 国际米兰肠胃

4384

2026-10-27 01:58:23

个人观点，仅供参考

链接：https://pan.quark.cn/s/edbfa9bc057f?pwd=3MBv 提取码：3MBv 模型：Qwen3.8-Flash-Next-Gyro-M-abliterated-TQ2_0.gguf 85.65 GiB （比iq3_s 77.9G 大） 1，怎么不读盘。Gyro-M “常驻内存”的专家权重（即全部512个专家的权重）大约为 34.98 GiB 32G内存+8G显存为例 (6G显存太极限得用linux) 优化方案：系统方面让AI帮调开占后占用内存为2.1G，(或者换linux) 模型方面，去掉视觉省1G 减少上下文到100k kv 设为q4 投机解码mtp 设为2 8G显卡的要是嫌跑 gyro-m 太麻烦，就换低一级的gyro-s吧，不用这么折腾 2.模型跑分 Qwen3.8-Flash-Gyro-M 得分 96 耗时18分 iq3_S 得分 85 耗时18分 deepseek-网页版得分 84 耗时5分 27B 得分 74 耗时5分 3，3080-20G 解锁算力演示（windows的u盘无损解锁）作者：夜袭墨 https://www.bilibili.com/video/BV1scnD6TEQe/?spm_id_from=333.1007.top_right_bar_window_default_collection.content.click&vd_source=91e2777b63afa6d7ed5feb89faa9b879 comfyui 120s ---> 106S 快了14S 其他无变化（在我的应用场景）说的prefill可加快，其实没有加速 4.安装方式引擎名字和模型名字丢给AI让它部署。再手动调一些启动参数。下载什么的都让AI来做 5.加48G后有无加速只有iq3_s 有加速(不读盘了)。其他没加速。因为本来32G时就不读盘了效果跑comfyui 终于不损我的硬盘了。 6.启动iq3_s可看可不看。上下文:128k (速度66) 上下文:256k (速度55) kv: k8v4 CPU：AMD5700x 主板：ASUS PRIME B550M-A 硬盘（系统盘）致钛7100 1tb 内存：48G（16g *2 3600Mhz 金百达银爵 c18）+ 16 （8*2 威刚DDR4 2400MHZ）显卡：3080 魔改20G）相关参数 "--expert-cache", "auto", "--prefill", "auto", "--spec", "4", "--spec-min-p", "0.5", "--mtp", "C:\\soft\\Strata-023\\mtp\\rt", "--max-context", "262144", "--kv", "k8v4", "--vram-reserve-mib", "608", "--kv-grow", "--mmap-experts", "--resident-budget-gib", "27", "--vision" C:\ComfyUI\ComfyUI\input\蓝屿.jpg 用这个做主角（保留人物原图的衣服）要求：写1分钟的剧本。覆盖上面的所有讲稿要点。生成一个讲解视频。用技能：h3-prompt-writing的Ref2VA full-reference模式 ,串行写完所有提示词后，用工作流：04_ref2v_4step_sla_ganloss.json （工作流里的步数由4改为3）画面比例:9：16 每个 15S 设置视频生成参数mp(megapixes) 设为0.3 用技能comfyui-h3-ref2v-batch全提交，批量生成，不要只提交一个。全提交到comfyui，（全提交的脚本运行的同时用 && 并行运行C:\soft\Strata-023\9-kill-serve.bat 同时杀掉Strata服务释放内存。）

顶部