千问3.8-27B发布已有一段时间,本期基于四卡5060Ti 16G(P2P GPU直连)实测环境,分享真实部署体验。重点:旧版3.6-27B的优化(如GitHub上的提示词优化)会对3.8产生负作用,导致思考解析异常、工具调用错误、死循环,务必更新或移除。
实测:综合能力全面提升,尤其多模态;预填充约2800,解码90-100。代价是思考量激增——概括、故事类任务中思考占上下文比重从90%升至约95%,262K上下文更易触发压缩(同样硬件下从10轮缩至6-7轮)。VLLM 0.27.1对3.8是负优化,建议保留0.26.0;驱动升至610.57.04在4并发下约提升13%。
若把3.8-27B当主力且显存紧张需谨慎,可关注NVFP4量化与一度上下文开放。27B体量下它依然最能打,但思考确实拖后腿。