大模型推理加速第1期—投机解码MTP/Eagle/DFlash原理与代码实现
DFlash:LLM能快6倍吗?
【喂饭教程】手把手教你20分钟使用LM Studio在本地部署Qwen3.5-9B,简单易懂,小白也能轻松拿捏,学不会你来找我!!(附教程)
8G显存也能起飞?llama.cpp深度调优:稳跑64k上下文,从133到996 Tokens/s
低配电脑本地部署Qwen3.6 35B教程
离谱,Qwen3.6 27B生成速度飙到184t/s,我是怎么做到的?
Qwen3.8-27B,解决超长思考之后,真香警告!
[中配]Qwen 3.8 DFlash2:本地27B模型跑出236 Tok/s!
qwen3.8-27b三种投机解码对比
16G显存llama.cpp跑Qwen3.6 35B A3B从20t优化到120t美滋滋
8G显存·52t/s-128k上下文-mtp+tbq加速?·Qwen3.6-35B | OpenCLaw 调用场景
本都部署邪修大模型第二弹!Qwen3.6 34B和14B来袭!
Qwen3.6-27B-Dflash主副双模型
DFlash 2:给Qwen3.8-27B配个抢答小模型,推理提速5倍还无损 | 硬核AI实战派
开启MTP让Qwen3.6速度翻倍!新llama.cpp+Desktop客户端完整配置指南
qwen3.6 27B + dflash lucebox hub测试
llama.cpp本地部署Qwen3.6-27B,多款显卡全流程部署实测推理速度分享
老黄的天塌了,再也不用拼命买显卡了,VLLM混合显存、统一内存、GUI图形界面服务器 开源啦!!!
峰值 >100+tokens/s 2080Ti 跑 Qwen3.6-27B vLLM 推理加速插件最新版教程
Llama.cpp Desktop|免费开源!我把 llama.cpp 做成了桌面软件