最近一条 AI 硬件新闻在外网彻底炸开。
一家只有 24 人的团队,花了 3000 万美元,做出了一块“只能跑 Llama 3.1 8B”的专用芯片。
不能换模型、不能升级、没有通用性。
但它跑到了 17000 tokens / 秒。
这不是在卷参数规模,也不是在追求更大的模型,而是在把推理成本压到极限。
当模型逐渐标准化,算力市场会不会从“卖通用 GPU”,转向“卖确定性推理机器”?
英伟达代表的是可能性,而 Taalas 代表的,是效率和成本极限。
这期视频,我们不空谈趋势,直接看它的实际演示效果,再聊聊这种“定焦镜头式”的 AI 芯片,是否会成为未来的一种主流形态。
欢迎在评论区聊聊你的看法:
你更看好通用算力,还是专用极致效率?