• 投稿

KVMem 0.18版本更新: 5060ti Qwen 27b 256k上下文提速68%,53t/s

2.2万
19
2026-10-14 17:48:22
个人观点,仅供参考
726
473
907
126
项目地址:https://github.com/kvmem/kvmem 欢迎大家试用反馈! 后续将接入Strata, Radiance等模型/显卡专用引擎,目标让每台电脑找到适合自己的本地推理方案
KVMem
(3/5)
12.3万播放
简介
KVMem: 最实用的16G显卡Qwen 27b模型部署方案 - 5060ti 30~40tok/s & 256k上下文
25:07
KVMem llama.cpp下载使用说明和常见问题
21:49
KVMem 0.18版本更新: 5060ti Qwen 27b 256k上下文提速68%,53t/s
26:11
KVMem 0.19更新:16G显卡Qwen 27b,更强思考,更快速度
01:04
6/8G显卡畅跑35B大模型!KVMem × PolyStrata,Qwen 35B MoE 实测 40~50 tok/s
01:17
客服
顶部
赛事库 课堂 2021拜年纪