ROCm7 太强了!MI50 预处理速度暴增 4 倍,竟超越 V100?
V100 跑 Qwen3.5-27B 实测对比:vLLM vs llama.cpp,输出速度差距 4 倍?
一猫之下 1Cat-vLLM 1.2.2 重磅更新!V100 跑 Qwen3.6 27B FP8 预处理 2500 token/s
ROCm 反超 Vulkan!MI50 跑 Qwen3.5 27B / 35B 速度测试
MI50 32G×2 跑 Qwen3.6-27B:MTP最优值揭秘!顺便解决 docker 闪退坑
MI50 32G×2 跑 Qwen3.6 27B:开启 MTP 后速度只涨 2~3 token?
1Cat-vLLM 1.0.0 来了!实测 MTP1/MTP2 对 27B/35B 模型的输出速度影响
V100 16G×4 原生 PCIe vs 32G×2 SXM 转 PCIe 跑 Qwen3.6 35B 实测对比
1Cat-vLLM 1.2.1 上手实测:Qwen3.6-27B-FP8 双 V100 推理速度测试
MI50 双卡跑 Qwen3.6-35B:实测 MTP 最佳值=1
[中配]Qwen 3.8 27B 提速3倍:一个隐藏设置开启多令牌预测
MTP 加速哪家强?1Cat-vLLM 1.0.0 对比 llama.cpp 输出速度实测
Qwen3.6 27B-Q4 7900XTX+7900XT 110TG达成
开启MTP让Qwen3.6速度翻倍!新llama.cpp+Desktop客户端完整配置指南
llama.cpp MTP黑科技炸场!Qwen3.6-27B本地生成完整可玩Tetris,速度直接+78%!
四卡 V100 16G vs 双卡 V100 32G:Qwen3.5 27B / 35B 推理性能测试
并行+TurboQuant+专门优化!V100宇宙最强llama.cpp驾到!
Qwen3.6 27B&35B A3B能替代线上模型在本地做为你的编码模型吗?
MTP到底是快了还是慢了
单 GPU 220 token/s!Daniel Han 把 Qwen3.6 的 MTP 加速炸出来了,精度零损失