作者：王奎一

中国AI芯片市场，出现了一个出人意料的变化。10月13日，路透社援引IDC最新报告称，2026年上半年，中国数据中心GPU出货量为99.1万颗，同比下降26%。

同期，其他类型AI加速器出货101.6万颗，同比增长近80%。后者第一次在数量上超过GPU。

在这个新市场里，华为、阿里平头哥、百度昆仑芯和寒武纪四家中国企业，合计拿下了95%的份额。英伟达受到的冲击更为直接。

上半年，英伟达在中国出货67.8万颗AI加速芯片，同比减少44%，市场份额降至34%。华为出货57.2万颗，份额达到28%，双方的差距已经缩小至6个百分点。

更值得注意的是，IDC预计2026年全年，中国GPU出货量将下降9%，AI加速器总体出货却会增长19%。整个市场还在扩大，增长却越来越多地流向其他类型的芯片。

一批原本依靠英伟达GPU建设算力集群的客户，开始把新增订单交给国产加速器。但衡量这场竞争，还需要换一把尺子。

过去几年，算力市场最热衷比较的是芯片算力、显存带宽，以及一座集群拥有多少张卡。随着大模型进入规模化应用，客户开始关心另一个数字：一套系统每天究竟能生产多少Token，每百万Token要花多少钱。

这可能比单纯的芯片出货排名，更能解释中国AI芯片产业接下来的竞争。

一、GPU的生意，为什么被分走了？

GPU长期占据AI计算市场，有一个重要原因。它具备较强的可编程能力，既可以处理大模型训练任务，也能承担推理、科学计算和其他并行工作负载。

英伟达在GPU之外，还建立了CUDA开发生态、通信库、模型优化工具和集群管理软件。对互联网企业来说，购买英伟达的设备，意味着能够沿用成熟的软件体系，降低模型开发与部署的工程成本。

这种优势在大模型训练阶段尤其明显。训练需要对模型参数进行反复计算和更新，涉及大规模矩阵运算、显存访问和跨芯片通信。

大模型参数越多，对高性能计算和集群稳定性的要求越高。推理则是另一门生意。

一个模型完成训练之后，企业需要把它部署到云端，为用户生成回答、图片、代码和其他内容。对于客服、办公助手、搜索和内容推荐等高频应用，模型能力相对稳定，业务请求可以持续重复。

这给专用加速器创造了机会。厂商可以针对特定模型和计算任务优化芯片架构、算子和数据调度，在较低的硬件成本下提供足够的推理能力。

一块专用芯片的计算峰值可以低于高端GPU，但如果它能以更低的总成本完成相同数量的实际业务请求，客户就有采购理由。这种竞争已经在中国市场发生。

IDC数据显示，非GPU加速器的出货增长主要来自政府机构、互联网企业和电信运营商。这些客户拥有大量相对明确的应用场景，也具备采购、部署和维护大规模计算系统的能力。

不过，IDC统计的非GPU加速器涵盖多种架构，其中一些产品也具备模型训练能力。GPU与非GPU的分类，并不能直接对应训练与推理两个市场。

另一项重要因素是芯片供应。美国出口管制持续限制英伟达向中国供应先进AI芯片，中国企业与此同时扩大国产芯片采购，使供给变化与本土技术进步共同推动了市场份额转移。

所以这101.6万颗芯片更值得研究的地方，是哪些客户已经愿意把实际业务交给另一套软硬件体系。

二、中国移动的采购，已经出现两套芯片生态

中国移动的算力采购，提供了一个具体案例。在此前一轮人工智能计算设备集中采购中，约7058台服务器对应的采购规模超过50亿元。

其中，采用CANN生态的两个标包，总报价约34亿元；采用类CUDA生态的四个标包，总报价超过17亿元。CANN是华为昇腾的计算软件架构，它与芯片、编译器、算子库和模型推理框架共同组成一套软件体系。

这意味着，国产芯片已经开始以独立的软件生态，进入大型运营商的采购体系。2026年1月，中国移动又公布一批推理型计算设备补充采购结果。

441台服务器分成两个标包：285台要求CANN生态，156台采用类CUDA生态。采购文件直接按照软件环境划分需求。

这说明，国产芯片的竞争已经深入到企业的软件部署环节。9月29日，中国移动发布北京Token中心。

其京北智算集群部署昇腾910B和昆仑芯P800，朝阳节点部署昇腾910B3，顺义节点则部署摩尔线程S5000。不同架构的国产芯片，开始承担同一张算力网络中的不同任务。

在这里，客户采购的是能够持续提供计算服务的系统。至于底层芯片采用GPU、其他类型AI加速器，或几种架构组合，则取决于模型适配、交付能力和运行成本。

昆仑芯提供了另一组证据。2025年4月，其P800单机八卡一体机通过中国信通院DeepSeek-V3/R1满血版适配支持性测试，测试重点包括模型精度、长上下文支持及部署能力。

到了2026年，昆仑芯进一步推出超节点产品。公司披露，在采用Prefill与Decode分离的推理架构后，相关系统的单卡性能提升95%，单实例推理性能最高提升8倍。

前者说明国产芯片已经能够运行复杂模型，后者说明系统软件优化开始成为性能增长的重要来源。当然，完成模型适配和获得商业订单属于两个阶段。

国产芯片还需要持续证明高并发环境下的吞吐量、稳定性、故障恢复和长期运行成本。对客户而言，一套硬件能顺利启动模型，只是采购决策的起点。

三、一张卡便宜，生产Token就一定便宜吗？

AI推理行业正在形成一种新的成本计算方式。最初，企业按照芯片数量购买算力，后来按照GPU使用小时租赁算力。

现在，越来越多的模型服务按照Token计费。对于实际运行模型的企业，Token成本取决于整套设备的采购和运营费用，以及能够持续交付的有效Token数量。

这两项指标之间，存在很大的差异。8月31日，中金公司发布《Token启示录》推理产业链研究报告。

报告测算，在不同推理配置下，同一类模型运行在英伟达B200上的单卡吞吐量，可以从每秒152个Token变化到14949个Token。对应每百万Token成本，从0.04美元到3.3美元。

成本最高与最低的情景相差超过80倍。这是模型、部署方式、推理引擎和资源利用率共同作用的结果。

芯片本身只是其中一项变量。可以建立一个简单的三年期计算模型。

假设两套八卡推理服务器运行相同模型，满足同样的首Token延迟、响应速度和输出质量要求。国产方案三年总成本为240万元，英伟达方案为360万元，费用包括设备折旧、电力、网络及运维。

前者成本低三分之一。再假设，国产方案在符合服务质量要求的条件下，最高每秒输出5000个Token，实际平均有效利用率为60%。

英伟达方案最高每秒输出8000个Token，有效利用率为80%。按照三年连续运行计算：

国产方案的每百万输出Token成本约为8.46元，英伟达方案约为5.95元。结果有些反直觉。

国产设备的三年总成本低了33%，单位Token成本却高出约42%。原因在于，英伟达方案拥有更高的有效吞吐量，能够用更多的业务产出摊薄设备成本。

如果国产方案通过推理引擎、模型适配和调度优化，把有效利用率提高至约85%，在其他条件保持一致时，单位Token成本就可以接近英伟达方案。

但这笔账能够解释行业竞争正在发生什么变化。低价硬件提供了进入市场的机会，软件适配和集群运行效率，则决定这些设备最终能否获得长期订单。

四、英伟达也在重新计算每百万Token成本

国产加速器的竞争对手，正在沿着同一方向改进产品。今年，英伟达持续强调Blackwell系列在推理成本上的优势。

根据其引用的SemiAnalysis InferenceX基准测试，在2026年4月的一组低延迟推理场景中，GB300 NVL72使用Dynamo和TensorRT-LLM软件栈，每百万Token成本达到0.123美元。另一组基准结果显示，英伟达B200在GPT-OSS-120B模型上的每百万Token成本，在两个月的软件优化后，从0.11美元降至0.02美元。

同一款芯片，软件更新就带来了约五倍的成本改善。它们还揭示了一个产业趋势。

芯片出厂之后，性能仍然可以继续提升。推理引擎可以优化计算调度，量化技术可以降低部分模型的计算和存储开销，KV Cache管理能够减少重复计算，Prefill与Decode分离则有利于改善不同推理任务之间的资源分配。

对于硬件厂商，这意味着未来的竞争优势需要持续投入软件研发。国产企业也开始采取类似路线。

7月，华为披露，昇腾384超节点已部署超过750套，应用涉及互联网、金融、医疗等20多个行业。9月17日，华为进一步发布昇腾960超节点，采用近封装光互联技术，重点提高大规模芯片系统的通信能力。

阿里巴巴同样开始把芯片、服务器、超节点、模型和推理系统放在一起优化。在2026年云栖大会上，阿里披露，其自研M890 AI超节点已经支撑超过2万亿参数模型的推理任务，并开始在阿里云规模化上架。

这些企业的竞争路线越来越接近。英伟达依靠成熟GPU、CUDA及高速互联，把计算系统做成完整产品。

华为、阿里和其他国产企业，则围绕自研芯片建立软件栈、超节点和模型适配能力。市场正在从单一芯片参数竞争，进入整套推理系统的效率竞争。

五、国产芯片下一步，要争夺哪一类订单？

中国AI芯片市场正在形成两类需求。一类来自前沿模型训练。

这类客户需要大量高性能计算资源，重视集群互联、显存、开发工具和训练稳定性，全球成熟GPU生态仍然具有较强吸引力。另一类来自已经投入使用的大模型。

政企问答、智能客服、代码助手、搜索和其他高频应用，需要持续生成Token，对单次请求成本和服务可靠性更加敏感。在这些场景里，国产加速器拥有更明确的商业切入点。

它们可以先针对相对固定的模型和工作负载优化，在局部市场积累运行记录，再向复杂模型和大规模集群扩展。但芯片制造商需要跨越一项新的经营门槛。

过去，销售一万颗芯片，主要体现为硬件出货收入。如今，客户还要评估这些芯片在未来三至五年能够创造多少实际业务产出。

模型更新、推理框架升级和系统适配，都可能影响设备的长期使用价值。对华为、平头哥、寒武纪和昆仑芯来说，未来争夺的将是客户的持续使用量。

一家云计算企业愿意长期采购某款芯片，意味着它相信这套系统能在成本、性能和维护方面维持竞争力。更值得关注的是商业模式变化。

大型互联网公司可以通过自研芯片降低内部算力采购成本，再把节省的费用体现在云服务价格和利润中。独立芯片设计企业则需要依靠芯片销售、整机合作和软件支持获得收入。

运营商还可以通过统一调度不同架构的算力资源，把硬件转化为标准化Token服务。相同的市场增长，将对应不同的利润形成机制。

IDC预计，2026年中国AI加速器总出货量增长19%，GPU出货量则下降9%。这意味着AI计算需求仍在扩张，市场增量已经开始沿着多条技术路线分配。

非GPU加速器在数量上首次超过GPU，只是一个起点。更重要的竞争，将发生在芯片装进服务器之后：谁能以更低的三年总成本，持续交付更多符合业务要求的Token，谁就更有机会拿到下一轮订单。