塔斯娱乐资讯网

145B大模型,笔记本就能跑 结论先说:1450亿参数的大模型,第一次能在笔记本

145B大模型,笔记本就能跑
结论先说:1450亿参数的大模型,第一次能在笔记本上本地跑了。Edge0今天开源了Edge0-145B,号称全球首个开源的端侧145B模型,峰值内存只要29GB,解码80+ tokens/秒。

发生了什么
Edge0今天同时开源了Edge0-145B和120B两个模型,外加统一推理框架和部署工具。底座是阿里的Qwen3.8-Flash-Next,512个专家、每次只激活10个,原生4-bit训练,上下文25.6万token。权重、框架、Edge0 App一次全放出来了。

跑分怎么样
以下都是Edge0自己的内部评测,还没独立验证:
Terminal-Bench 2.1:86.52分,超过底座Qwen3.8-Flash-Next的83.3分
DeepSWE 1.1:64.6分
GPQA-Diamond:90.4分
六项平均72.8分
在24GB的RTX 5090 D上,智能体解码121.2 tokens/秒。

为什么重要
以前100B以上的模型基本只能在服务器上跑,个人电脑想都别想。这次把门槛打到了笔记本级别:不用交云端token费,数据不出本机,断网也能接着用。对想本地跑大模型写代码、做智能体的开发者来说,是个实打实的选项。

要注意的
跑分是官方自测,别当成第三方结论;许可证是Edge0自家的社区许可叠加Qwen许可,研究、自用、商用输出都行,但不能直接卖模型、也不能拿去对外提供商业服务,商用前自己核对一下;“笔记本能跑”指的是兼容的笔记本,29GB峰值内存,普通轻薄本别硬上。

你会把145B模型装进自己电脑本地跑吗?还是继续用云端?

AI工具 大模型 开源模型 本地部署 程序员 人工智能 Edge0