一台零刻 ME Pro(i5-13500H / 32GB)+ 开源宇宙 M70T 显卡坞 + 二手 Tesla P100 16GB(2016,sm_60),在 fnOS 1.2.0505 上本地部署 Qwen3.8-Flash-Next 125B(IQ1_M GGUF)。
本片记录:
第一道坎:CUDA 13 删除了 Pascal 架构支持,自编译 sm_60 镜像(4182 个 kernel)
实测:思考 38 tok/s,预填充 158 tok/s,解码 21 tok/s
显存 15.6/16 GB,GPU 待机功耗 33W,数据完全不出门
完整部署命令、Compose 文件与踩坑清单见置顶评论。