Strata v0.2.2 发布,官方 Docker 镜像恢复 Tesla P100/P40/V100 老架构支持(SM 60/80/90 矩阵补全 + 构建 guard 修复)。
实测 P100:共享内存拷贝一次(copy-once)按 8 通道读行 4KB trellis 码本,Gyro-S 解码 30→38.5、36→45.6、33→42.7 tok/s,提升约 30%,5 组对比全部胜出,已达同尺寸 Q2_0 模型 90% 以上。
部署路径修复:git clone 报错改为直接 docker run(记得 --gpus all),模型重命名免重下载 75GB;显存常驻减 5GB;8GB 显存小卡(Intel Arc A750)自动 32K→16K→8K 逐档压降启动,跑出 16.6 tok/s。
老卡玩家的春天到了。
#Strata #Tesla P100 #本地部署 #大模型 #Docker #显卡实测 #AI