塔斯娱乐资讯网

「大模型上车」喊了两年,卡脖子的从来不是参数——是车里那颗芯片搬不搬得动数据。 11月17日台积电的OIP生态论坛在北京开,理想CTO谢炎上台讲了自研的马赫M100。这颗芯片5nm车规工艺,单颗1280TOPS,两颗2560TOPS,官方说算力利用率超82%,已搭到新一代理想量产车上。台面上同场的是博通、瑞萨、SK海 ​

「大模型上车」喊了两年,卡脖子的从来不是参数——是车里那颗芯片搬不搬得动数据。

11月17日台积电的OIP生态论坛在北京开,理想CTO谢炎上台讲了自研的马赫M100。这颗芯片5nm车规工艺,单颗1280TOPS,两颗2560TOPS,官方说算力利用率超82%,已搭到新一代理想量产车上。台面上同场的是博通、瑞萨、SK海力士,一家车企的CTO跑去讲芯片架构,本身就说明点什么。

大模型为什么要往车里塞,不连云端算了?三个坎绕不过去。地库、隧道、山里没信号,一句语音指令不能等着回包;车里的语音、人脸、位置数据传出去,用户越来越不乐意;还有每辆车每年的流量费,几百万台车累积起来是笔硬账。更实际的是延迟——你随口说一句「冷」,车得当场懂,不是先上传再等服务器回话。所以车厂要的是「数据不出车」的本地推理。

但端侧不等于把服务器缩小塞进后备箱。车上功耗、散热、成本全卡着,峰值算力再漂亮也没用,真正吃时间的是数据搬运。传统芯片按指令走,数据来回调内存,算力一大半耗在搬东西上。M100换了个思路:让数据在计算单元之间直接流转,流水线一样接着算,一份数据同时喂给好几个单元。官方给的数,跑Qwen3.5-35B-A3B这个模型,prefill速度是桌面AI超算DGX Spark的2.7倍——厂商自己放的数,留个折扣看。

不是所有车企都走这条路。北汽智能座舱总师赵亨利说得很直白,不参加模型军备竞赛,拿市面上成熟的模型做应用开发;用户要的是通勤、娱乐、出行联动这些场景,不是背后多少参数。高通那边也在把座舱芯片的NPU往上堆,8797比8295的NPU算力提了3.5倍,本地就能跑大参数模型。自研派把模型和芯片一起定义,接入派把钱花在场景上,最后八成是混着来。

下回谁再说「大模型上车」,先问两句:跑在云端还是车端,跑在谁的芯片上。能在地库里断着网听懂你一句话,比参数表上那一串零值钱。大卫实验室端侧大模型人工智能