3张二手特斯拉计算卡跑本地大模型,电费到底要多少钱?比线上API便宜多少?便宜就等于划算吗?
本期用计量插座实测 P100 / P40 / V100,让三张卡跑同一个 AI Agent 任务(分析PDF → 操作电脑登录邮箱 → 保存草稿 → 上传附件),再按 Qwen 官方 API 价格逐笔对账。
推理引擎使用的Strata,平台是上期视频中用一千块捡垃圾搭建的X99-D3平台。
【章节】
00:00 前言
00:38 P100测试
01:04 要多少电费
02:50 Agent实战:500万token成本对账
04:21 P40测试
05:25 V100测试
06:15 电费便宜的两个规律
06:48 6000万token成本
07:06 本地部署优劣分析
09:04 本地部署到底适合什么任务