6000 亿参数的国产模型,今天把权重开源了
10 月 15 号,阶跃星辰把 Step 5 Preview 的权重放出来了。
一口气放了三样:BF16 和 FP8 两套模型权重、一份技术博客、还有配套的开源开发工具。
权重已经挂上 Hugging Face 和 ModelScope。
这模型什么水平?
稀疏 MoE 架构,总参数 600B,每个 token 激活 27B,支持 100 万 token 上下文窗口,原生支持文本和视觉输入。官方说它是为长程 Agent 任务设计的,在 AI 编程、软件工程、专业知识工作、金融这些场景里表现突出。
最近它在 OpenRouter 的周调用量、日调用量榜单上,都排到了 全球第二。
我看完的第一反应不是"牛"。
是——这事跟我有什么关系。
01|600B 和 27B,先拆开
600B,就是 6000 亿参数。这个数报出来,第一反应是很大,但大在哪,其实说不上来。
真跑起来的时候,每个 token 只激活 27B。
这两句话得放一起看。
意思是它不会每次把 6000 亿全叫醒。像一个大厂,总共 600 号人,每个项目只拉 27 个人出来干活,剩下的坐着待命。
这就是稀疏 MoE 的玩法。块头够大,但不用每次都用尽全力。
所以它能做大,同时还能跑得动。
100 万 token 上下文又是啥意思?
就是它一次能吃进去很长的东西。一份厚材料,以前你得切成十几段分着喂,现在可以整份丢进去。
再加上原生支持视觉输入,图也能一起看。
02|开源这两个字,才是重点
过去两年大家用大模型,基本是这么个路子:调 API,按量付费,或者买套餐。
现在权重直接给你了。
想用,自己去 Hugging Face 或者 ModelScope 下。想跑服务,用 vLLM 或 SGLang 部署一个兼容 OpenAI 接口的 API 就行。
想离线推理,用 Transformers 也可以。官方还做了面向多种芯片平台和推理框架的适配。
自己下,自己跑,跑起来就是 白用。
前提是你得有算力。门槛在这儿,不在下载。
但方向很清楚:模型从"租给你用",变成了"给你拿走"。
03|工具一开源,便宜得就快
这话不是今天才有的。
过去这些年,我看过太多工具从贵到便宜,从少数人能用变成人人都能用。
模型这波也一样。
今天这个参数、这个上下文、这个能力,放在一年前,是要按月交钱的事。现在权重放开,能不能用上,只取决于你有没有机器、有没有手艺把它跑起来。
真正难的部分,反而回到了最原始的地方。
不是"有没有好工具"。是"你有没有拿它干成过一件事"。
工具越强,这个问题越扎人。
因为工具不稀缺了。
稀缺的是拿工具干活的人。
权重已经挂在 Hugging Face 和 ModelScope 上了。