ollama,llama.cpp,LMstudio,vLLM本地部署测试qwen3.6-27b性能
ollama 跑得慢?也许该换 LM studio 调调参数了, amd 显卡也能榨干性能
Llama.cpp Desktop|免费开源!我把 llama.cpp 做成了桌面软件
8G显存也能起飞?llama.cpp深度调优:稳跑64k上下文,从133到996 Tokens/s
抛弃ollama,改用llama.cpp了
OpenAI Codex 彻底免费!Ollama、llama.cpp 接入本地大模型,AI Agent 开始全自动干活!Token 自由真爽!| 零度解说
本地部署模型,LM Studio和llama.cpp应该怎么选?从零开始Windows llama.cpp本地部署下载安装!无需编译直接下载运行!
llama.cpp 轻量启动器v0.1.25 来了
比 llama.cpp 快近两倍?FreeToken 本地大模型推理实测
离谱!16G显存跑Qwen3.8-27B,开126K上下文,40tok每秒,居然还有bf16质量的kv精度用
为什么你应该放弃Ollama,Ollama是如何一步步失去信任的?
llama.cpp16g显存可以跑Qwen3.6-35B-A3B去限制视觉大模型
比Ollama、LM更友好,牧马人本地推理引擎(Herdsman AI)全新版本发布
谷歌发布 Gemma 4 QAT:显存降到三分之一,精度接近原版,16GB 显卡能跑 26B
如何通过基于llama.cpp的token操作让LLM突破极限
Ollama 和 llama.cpp 到底啥关系 ? 性能差一倍 !
仅用5G显存!笔记本3060 6G本地部署Qwen3.6-35B-A3B + 视觉模型
14款本地大模型工具全面对比!Ollama/LM Studio/vLLM/SGLang谁是王者?【2026最新】
llama.cpp本地启动器(多参数)、启动参数管理工具、最优启动参数测试、多尺寸上下文批量测速工具、CPU多线程批量测速工具
本地部署大模型,究竟选择Ollama还是Lm studio呢?一个视频告诉你