FreeToken vs llama.cpp — 8GB笔记本跑35B大模型,速度飙到近40 TPS!
llama.app启动器更新了
比 llama.cpp 快近两倍?FreeToken 本地大模型推理实测
llamacpp本地部署Qwen大模型极限提速方法
llamacpp-gui2
我用AMD显卡把大模型推理从5 tok/s干到60 tok/s(保姆级实战)
2026 算力饥荒:Qwen 3.5 + llama.cpp 打造本地ai服务
本地部署模型,LM Studio和llama.cpp应该怎么选?从零开始Windows llama.cpp本地部署下载安装!无需编译直接下载运行!
8G显存也能起飞?llama.cpp深度调优:稳跑64k上下文,从133到996 Tokens/s
多后端加载实测:A卡+N卡混合推理真的实现了
【中英双语】6GB显存跑Qwen 3.6 35B大模型llama.cpps实战?GTX 1060速度飙到17 token/s | Codacus
从 MTP=0 到 MTP=8:Qwen 27B 推理速度归一化分析(双 V100 / llama.cpp / 1Cat-vLLM)
llma.cpp-server参数详解,大模型本地部署利器,免python,无依赖
Ollama 和 llama.cpp 到底啥关系 ? 性能差一倍 !
[本地部署]个人开源项目llama.cpp-hub使用说明
llama.cpp本地部署Qwen3.8-27B!多款显卡全流程部署实测推理速度分享!
OpenAI Codex 彻底免费!Ollama、llama.cpp 接入本地大模型,AI Agent 开始全自动干活!Token 自由真爽!| 零度解说
llama.cpp双卡本地部署Qwen3.8-27B,多款双卡组合推理速度实测分享!
双卡2080ti 魔改 部署本地AI服务器,这可能是目前穷人的最优解,搭配qwen3
2080Ti跑qwen3.6 27b,你会用什么起飞方式:turboquant + MTP、turboquant + APEX