塔斯娱乐资讯网

模型价格越打越低,真正的竞争才刚刚开始 百度文心5.5 Flash Previe

模型价格越打越低,真正的竞争才刚刚开始
百度文心5.5 Flash Preview把百万Token输入价格打到1元(闲时),这个数值值得关注。中科曙光此前布局的ParaCache词元加速方案,恰好对应了AI产业接下来一个重要方向:不只是增加算力,更要提高每一份算力的使用效率。
现在大模型行业有个明显趋势,模型能力持续提升,调用成本却在不断下降。对用户来说是好事,但对基础设施厂商来说,意味着不能再单纯依赖算力规模竞争。
尤其是长上下文和复杂智能体任务,重复计算、显存占用、推理等待时间都会影响最终成本。
ParaCache通过计算结果复用减少重复计算,官方测试中吞吐量最高提升27倍。这个思路其实很符合当前行业变化:当Token越来越便宜,如何让有限的计算资源创造更多有效Token,可能比单纯堆硬件更重要。
国产AI产业下一阶段,拼的恐怕是模型、系统和资源调度的综合效率。
中科曙光 百度文心 Token经济 AI算力 国产科技