• 投稿

KVMem 0.18版本更新: 5060ti Qwen 27b 256k上下文提速68%,53t/s

2万
18
2026-10-14 17:48:22
个人观点,仅供参考
704
466
865
118
项目地址:https://github.com/kvmem/kvmem 欢迎大家试用反馈! 后续将接入Strata, Radiance等模型/显卡专用引擎,目标让每台电脑找到适合自己的本地推理方案
KVMem
(3/4)
11.1万播放
简介
KVMem: 最实用的16G显卡Qwen 27b模型部署方案 - 5060ti 30~40tok/s & 256k上下文
25:07
KVMem llama.cpp下载使用说明和常见问题
21:49
KVMem 0.18版本更新: 5060ti Qwen 27b 256k上下文提速68%,53t/s
26:11
KVMem 0.19更新:16G显卡Qwen 27b,更强思考,更快速度
01:04
客服
顶部
赛事库 课堂 2021拜年纪