这次主要做了一次Qwen3.8-27B Q4量化版本的本地使用实测,测试设备是AMD Ryzen AI Max+ 395,重点看看27B级模型在本地运行后的实际表现。
除了基础对话之外,这次也体验了Herdsman在实际工作场景中的一些用法:搭配语音模型完成实时会议转录、参会人和笔记记录,并在会议结束后一键整理会议纪要;通过Work工作台调用本地模型完成通用Agent任务,我还实际让Qwen3.8-27B制作了一个3D赛车游戏。
另外,最新版Herdsman加入了Token Router能力,可以把本地模型配置到WorkBuddy、Claude Code等Agent中使用,也可以通过OpenAI标准接口接入VS Code。
整体更想分享的是,一个27B级本地模型在合适的硬件和工具配合下,除了聊天之外,实际还能参与哪些工作。