Kai 解析苹果 M5 Ultra 本地 AI 硬件:新芯片的神经加速器和矩阵单元,配合统一内存,让预填充/提示词速度提升明显;但逐字解码仍受内存带宽限制,快不起来。LM Studio 里的 Llama.cpp 默认关闭张量 API,多数用户用不上加速器,目前只有 MLX 和 Base RT 能真正吃到预填充性能。Kai 建议别首发,等 10 月底 512GB 定价和更长上下文的独立实测;除非模型已适配或数据不能外发,才值得当天买。
----------------------------------------------------------------
00:00:00 877至1,833:无人拨动的开关
00:00:39 为什么这是最好的本地盒子
00:01:26 张量核心解决预填充,而非解码
00:02:21 苹果7月脚注实际测量了什么
00:03:09 迄今还没有人测量过M5 Ultra
00:03:55 LM Studio 2040号问题仍未解决
00:05:12 BaseRT:6.4倍超越MLX
00:06:06 512GB内存的机器尚不存在
00:07:00 内存膨胀:等待也有代价
00:07:52 那个应该在周二下单的买家
00:08:35 这六周该做什么
----------------------------------------------------------------
原标题:Apple Just Made the Best Local AI Hardware. Do Not Buy It Yet.
原作者:Kai
发布日期:2026-09-06
视频链接:https://www.youtube.com/watch?v=12lxN9NHuHc