谷歌今年一年发了四款 AI 芯片。往年一年一款,现在几乎每个季度都有新东西。新发的 8i Max 把两颗芯片封在一个封装里,专治长上下文。上一代 Ironwood 的打法更直接,跑 AI 代理的时候,每一美元的输出量接近英伟达 Blackwell 的三倍。
速度上英伟达还是赢。Rubin 是 35 petaflops,8i Max 是 20。
两条路的分岔就在这。英伟达卖最快的那颗,谷歌卖够用还便宜的那颗。
转折点会出现在推理占比过半之后。训练要极限性能,贵点也认。推理是天天在跑的量产业务,客户算的是每百万 token 多少钱。慢四成但便宜三分之二,多数人会选后者。
证据已经在动。Epoch AI 估今年 TPU 出货约 80 万颗,一个季度翻了一倍。彭博行业研究预测 TPU 销售额从今年的 120 亿美元涨到 2028 年超过 1350 亿美元,两年十一倍。这个预测肯定乐观,方向不太会错。
英伟达的墙是 CUDA,短期没人推得倒。可这道墙守的是开发者的迁移成本,不是采购经理的预算表。当推理成本成了财报上最显眼的一行,迁移这笔账会被重新算一遍。
对国内厂商这是个提示。跟英伟达拼单卡算力,短期没戏。但「够用且便宜」这条路上,需求真实存在,而且越来越大。
我要是采购,明年的单子会拆成两份。训练卡继续买最贵的,推理卡按每 token 成本招标。这不是立场问题,是两张表本来就不该放一起看。
这个变化现在还没成气候。等哪家云厂商先公开说「我们的推理跑在三种卡上」,事就定了。
下次选云服务,你会先看每百万 token 的价格,还是先看它用的是哪张卡?