本文作者— —容与|证券日报记者
10月31日,工信部直属的赛迪研究院发布最新报告。报告表示,截至2026年6月,我国人工智能推理数据量,首次超过训练数据量。国内日均Token调用量,突破175万亿,较2024年初增长超过1000倍。
对此,不少网友只是“不明觉厉”,很少真正意识到这是中国AI产业一道标志性的分水岭。
过去三年,我们拼了命“造模型”的时代,正式结束了。接下来,“用模型”的下半场,才刚刚开始。
这背后到底意味着什么?又会催生哪些新机会?
训练和推理,到底差在哪?直到今日,大家对于“大模型”,至今分不清训练和推理。这就好比看了三年足球,还分不清训练赛和正式比赛。
简单打个比方:训练,就是模型“上学读书”;推理,就是模型“上班干活”。
训练阶段,是开发者把海量文本、图片、音频、代码数据喂给模型,让它反复学习规律、调整参数,最终学会说话、识图、写代码。
这个过程有三个特点:第一,集中,通常在大型算力集群里一次性跑完;第二,昂贵,一次千亿参数大模型的预训练,成本动辄数亿甚至十几亿;第三,低频,一款基础大模型的完整训练周期,往往以月甚至季度为单位。
所以,训练数据量的大小,本质上反映的是一个国家在AI研发上的投入强度,是砸钱搞研发的指标。
推理阶段呢,就是训练好的模型对外提供服务。用户每发一句提问、每生成一张图片、每调用一次AI写作、每一次智能驾驶的环境感知,背后全都是推理算力在支撑。它的特点,刚好训练相反:第一,分散,亿万用户、成千上万家企业同时调用;第二,高频,7×24小时不间断运行,每秒都在产生海量调用;第三,边际成本敏感,每多一次调用,就多一份算力开销,成本控制直接决定商业模式能不能成立。
所以,推理数据量的大小,反映的是AI真正被用起来的深度和广度,是技术变现的指标。
理解了这个区别,你就懂推理反超训练这句话的分量了。
在此之前,全球AI产业的主旋律都是训练。从2022年底ChatGPT爆火开始,全行业都在卷参数、卷语料、卷算力集群,比谁的模型更大、谁的榜单分数更高。中国AI本质上处于“补课期”——别人已经有成熟产品了,我们先得把模型做出来。此后几年训练数据一路狂奔,推理只是陪衬。
但现在不一样了。国内每天跑在生产环境里的推理Token,已经比所有模型训练消耗的数据加起来还要多。
其实,国家数据局更早的报告,就已经印证了这个趋势:2025年全年,我国AI训练和推理数据总量是199.48EB,其中推理数据达到101.34EB,在全年总量维度上首次超过训练数据,占到半壁江山;2026年上半年,这个趋势进一步固化,日均调用规模再上台阶。
那为什么中国先于欧美跨过这道坎?核心有三个底层驱动力。
应用场景的厚度足够。中国有全球最大的网民群体,有最齐全的制造业门类,有最活跃的数字化改造需求。消费端,办公、教育、内容创作、电商客服全面AI化;产业端,500多家卓越级智能工厂已经落地,覆盖80%以上的制造业大类,钢铁、汽车、电子等20个重点行业,已经落地上千个AI应用场景。
开源生态拉低了应用门槛。此前做AI应用,企业得自己训模型,成本高到离谱。现在国产开源大模型全球下载量突破百亿次,中小企业拿来就能用,稍作微调就能落地到具体业务里。这就像从“每家都要自己造发动机”,变成“直接买发动机造车”,应用侧的爆发自然水到渠成。
算力基础设施的普惠化。这几年国内智算中心遍地开花,算力价格持续下降,推理算力的获取成本比三年前低了一个数量级。再加上国产推理芯片快速成熟,让企业用得起、用得上。
伴随着算力从“奢侈品”变成“水电煤”一样的基础设施,推理量的指数级增长,就是必然结果。
推理时代到来,接下来会发生哪些颠覆性变化?第一个变化:算力格局彻底重构,从集中式训练转向分布式推理。
过去算力行业的核心逻辑,是建超大规模智算中心,堆万卡级集群,比谁能承接更大的训练任务。但推理时代不一样了。推理对时延极其敏感——用户发一句提问,总不能等好几秒才回复;工业生产线的AI质检,更要求毫秒级响应。这就意味着,大量算力不能再全部集中在西部数据中心,必须往城市侧、往边缘侧部署。
未来的算力网络,会是“西部训练+东部推理”的分层结构:大模型的基础训练放在西部算力枢纽,利用低成本绿电和土地资源;高频推理算力大量部署在省会和核心城市的边缘节点,就近服务企业和用户。“东数西算”工程的内涵也会随之升级,从单纯的算力转移,变成训练与推理的分层协同。
这对算力运营商来说,是一次大洗牌。过去比拼的是谁能拿到更多GPU、谁的集群规模大;接下来比拼的是谁的网点多、谁的时延低、谁的调度能力强。谁能把推理算力做成像云主机一样随用随取、按量计费的标准化产品,谁就能吃下最大的蛋糕。
第二个变化:芯片行业的主战场,从训练芯片转向推理芯片。
此前,全行业都盯着高端训练芯片,但推理时代的到来,会彻底改变芯片市场的需求结构。据业内普遍测算,成熟阶段推理算力需求会是训练的3到5倍,推理芯片的市场规模,最终会远远超过训练芯片。
推理芯片不追求极致的单卡性能,更看重能效比、成本和部署灵活性。这恰恰是国产芯片的机会窗口。训练芯片我们还在追赶国际顶尖水平,但推理芯片领域,国产方案已经在很多场景中实现商用落地。随着推理需求爆发,国产推理芯片会迎来真正的放量期,从“能用”走向“好用”,再到大规模替代。
更重要的是,推理芯片对先进制程的依赖度更低,很多场景下成熟制程就能满足需求。这意味着,我们可以更大程度依托国内产业链实现自主可控,把AI算力的底盘筑牢。未来三年,国内推理芯片厂商会迎来一波业绩兑现期,这是比对标顶级训练卡更实在的产业机会。
第三个变化:商业模式从“卖模型”转向“卖服务”,AI公司的盈利逻辑彻底变了。
推理时代的主流商业模式,一定是按调用量付费的MaaS,也就是“模型即服务”。你用多少Token,就付多少钱,不用不花钱。对企业来说,这是成本可控的轻资产模式;对模型厂商来说,这是可持续的现金流生意。
这就会催生一个非常重要的分化:未来真正能活下来的大模型公司,不一定是技术最顶尖的,但一定是成本控制最好、场景落地最深的。换句话说,AI行业会从技术驱动真正转向运营驱动。过去拼研发团队、拼论文数量,接下来拼的是客户服务、成本优化、场景打磨。
第四个变化:产业应用从“尝鲜”走向“刚需”,AI会像水电一样渗透进所有行业。
推理数据的爆发,本质上是AI从锦上添花的工具,变成离不开的基础设施的过程。今天很多人觉得AI可有可无,就像2000年很多人觉得互联网可有可无一样。但再过三年,你会发现,几乎所有的软件、所有的设备、所有的生产环节,背后都有AI推理在支撑。
最典型的就是制造业。过去工厂上AI,大多是做几个试点项目,摆摆样子;现在已经开始全生产线部署,从质检、排产到设备运维,全流程用AI提效。当一条生产线用AI能降低5%的不良率、提升10%的生产效率,它就不再是可选项,而是必选项——你不上,竞争对手上了,你就会被淘汰。
消费端更是如此。现在刷的短视频、看的资讯、用的输入法、点的外卖推荐,背后早就是AI推理在运行。未来办公软件、设计工具、教育产品、医疗辅助,都会全面AI化。用户可能感知不到,但每一次交互背后,都是一次推理调用。
这个过程,会诞生大量垂直领域的隐形冠军。比如专门做纺织业AI质检、专门做医疗影像辅助诊断、专门做法律文书智能处理。这些公司的名气可能不大,但盈利能力会非常强。
写在最后说到底,推理数据反超训练,背后是中国AI发展路径的一次重要验证。
我们有全世界最完整的工业体系、最大的消费互联网市场、最强的数字化改造意愿,这就是我们最大的优势。当推理数据量千倍增长的时候,模型的迭代速度也会随之加快。
用市场换技术,用应用拉产业,这是我们过去几十年在很多领域都验证过的成功逻辑。新能源汽车是这样,光伏是这样,现在,AI也正在走同样的路。
#头条精选-薪火计划#