• 投稿

本地千问三档调优:更快,更小,更强。

3.9万
56
2026-09-25 22:57:06
个人观点,仅供参考
1880
1632
2245
416
github(源码+引擎原件):https://github.com/1314521gjy/ninfer-fusion-kvmem。 大家再按照新的重新试试。再次强调,千万千万不要自己插手,全权交给AI搞。 按理说不应该呀。以前不完整的部署方案,其他视频底下好多人都成功了呢。 乖,丢给ai,别自己瞎搞~ 部署完成后,记得调参,别裸跑完回来告诉我说性能不行。让你的agent帮你适配一下参数哈~ 连熬几个大夜,明天休息一天,中秋快乐,爽登吧,好兄弟们。
58.6万播放
简介
稠密27b跑出moe的速度:难他天?
09:19
本地千问三档调优:更快,更小,更强。
12:54
普通显卡终极千问部署方案=kvmem+bonsai27b
10:58
token自由=bonsai27b+ninfer 8g显卡流畅运行
17:37
终极千问部署方案=ninfer+kvmem 首发!
10:11
llama 5倍速:英伟达开源大模型Nemotron专武引擎
04:47
客服
顶部
赛事库 课堂 2021拜年纪