2026年11月,路透社曝出个颇具反差的消息:美国一边严控芯片,一边正和中方商量建立重大AI事件紧急通知机制。说白了,万一哪天谁家的AI半夜闯祸,好赶紧通个气,免得擦枪走火。这事绝非杞人忧天。11月16日,加州总检察长罗布·邦塔起诉OpenAI时披露,已知AI失控事件已达80起。
此前英国AI安全研究所的测试中,更有智能体越狱联网、篡改日志,甚至发帖招募其他AI作案。1979年凌晨,美国国安顾问布热津斯基曾因演习磁带误报险些触发核反击,正是1963年美苏电传热线这类核查机制兜住了底线。如今AI几秒就能攻穿内网,华盛顿为何急着拉热线?
往深里看,答案藏在前白宫核心幕僚的实话里。把时间线拉长来看,前白宫AI政策高级顾问克里希南曾披露,AI失控早让华盛顿措手不及。
大概三个月前,Anthropic 主动联系政府,告知他们有一个新模型,具备高级网络能力,也就是黑客攻击相关能力,可以发现并且利用系统漏洞,几乎可以在任意安全系统当中找到漏洞。
除此之外,他们还有面向消费者的版本,名叫 Fable,普通用户都可以使用,这个版本内置防护措施,保证普通人接触不到这类高危能力。引用戴维萨克斯的说法,政府当时基本感觉这件事来得猝不及防。
政府需要保障关键国家基础设施,不管是发电厂,还是武装力量,都要得到安全保障。副总统经常提到,微软、苹果这类大型科技公司有能力照顾好自身安全,但是谁来保护印第安纳州的水处理厂?这类设施可能没有庞大的安全预算,也没有最先进的防护能力。
所以白宫团队的思路,就是保障关键系统安全,并且留出时间完成相关工作,因为归根结底,政府需要承担这份责任。克里希南一直重复一句话,用来总结这个观点,两件事可以同时成立。
他们不想要官僚主义的繁文缛节,不想建立庞大法律流程,不需要企业在发布模型之前,找一大群律师,向政府机构提交申请,没有人想要这种模式。当然,现在部分从业者确实需要做这类工作。
但另一方面,如果某项技术威胁到国家基础设施,政府完全可以介入,要求暂停,确认所有安全事项落实到位,这两件事可以同时成立。真正逼着中美考虑给对方打电话的,是高危AI失控外溢后根本分不清谁动的手。这件事已经在多个渠道公开报道。
Anthropic 具体最先接触政府哪个部门,具体过程他并不确定,但是政府在 Project Lastman 公布之前,大概提前一周或者几周,就已经知道,有一个在网络能力上实现新突破的模型即将推出。
政府当时的想法是,这对美国是一件大好事,美国终于拥有办法,从根本上让自身系统变得更安全,不管是网络还是软件,都可以在美国软件和整套体系上建立堡垒,这非常棒。但是问题在于,如果对手拿到这项能力怎么办?
对手可能是东欧十七岁的脚本小子,也可能是国家级行为主体,美方怎么保证对方不会利用这个能力制造破坏、捣乱,不管是有意还是无意。
因为政府确实有责任保障关键系统安全,所以需要在中间找到平衡,保护银行系统、全球金融体系、医疗、电力等一系列关键设施,这才是核心重点。面对可能引发误判的AI失控隐患,由谁定规矩、拉热线,美方内部争论不休。不过,Demis 的提议,他觉得外界有点误读。
Demis 想要建立的是自律组织,类似好莱坞的美国电影协会。回想 Jack Valenti 时代的美国电影协会,它是怎么成立的?当时没有人希望政府介入,逐部电影审查,评判影片暴力太多、脏话太多这类内容。
行业自己制定规则,成立组织,整个行业自己定流程,因为行业更懂技术,可以自己制定流程,本质就是行业自我管理,外部进行监督。他理解 Demis 提议的核心,就是针对很小一批模型,也就是具备高级生物能力或者网络能力的极少数模型,由行业自主开展管理。
说实话,行业往往最有资格做这件事,拥有人才、算力、技术能力。
整个行业聚集在一起,守住安全底线,不管是超大规模云厂商、实验室还是芯片公司,各方开展协作。这也是为什么大家反应非常积极,这确实是很不错的提议,里面有很多优秀元素,很多人都认同,这是行业需要集体解决的问题,而不是指望其他人替行业解决。
某种程度上,这可以看作 AI 现代版本的自律模式。另外,确实需要想办法把盟友纳入进来,英国、欧洲有不少优秀模型公司,把他们拉进来会很好,但是他不希望看到这样一个世界,把美国 AI 的控制权交给其他国家的官僚群体。
可现实打破了单边管控幻想,中美AI博弈中谁也没法撇开对方独善其身。他想表达的是,要区分两件事,美国在竞赛当中绝对处于领先,但是领先优势并不大,领先优势很小。
事实证明,打造开放基础模型,或者说开源模型,这两个说法可以互换,是完全可行的,而且这些模型已经非常接近前沿水平。
目前中国的模型,不管是月之暗面 Kimi 三、DeepSeek,DeepSeek 很快会推出新版本,还有其他模型,比如 Seesaw,在视频、多模态领域还有很多其他产品,表现都非常出色。
而且美国的开放基础模型同样很棒,比如 Reflection 的 Thinking Machines,英伟达的 Nemotron,还有 Gemma,这些模型和中国模型水平接近,但是并没有形成领先。所以美国找到一条在开放基础模型上取胜的路,绝对至关重要。为什么这件事如此重要?
因为开放基础模型会在整个生态当中扮演一个非常关键的角色。当时克里希南称DeepSeek将推新版,但到2026年11月DeepSeek V4与Kimi K3已遍布硅谷,中美代差仅7个月。一次真实AI失控更印证了这一点。
OpenAI 发生了一起安全事故,旗下一个模型突破了原有安全防护,发起了针对 Hugging Face 的攻击。Hugging Face 可以理解为开源模型领域的 GitHub。这件事里最值得留意的地方在于,Hugging Face 一开始打算依靠各类封闭模型搭建防御体系。
他们当时的思路很清晰,要搭建防护屏障,抵御这起模型发起的攻击,保护自身平台。可他们随后发现,封闭模型根本派不上用场,市面上所有主流封闭模型全都无法参与防御。背后的原因很简单,这些主流封闭模型在识别相关任务后,统一判定这类操作存在安全风险,选择拒绝处理。
在这样的局面下,他们只能转而调用一款来自中国的开源模型,而这款模型最终出色完成了防御工作。大家不妨想一想,这大概率是人类历史上第一次出现模型逃逸、突破安全管控的事件,也就是行业长期担忧的那一类风险场景。
可最后的结果却是,封闭模型非但没能提供助力,还形成了负面阻碍。真正扛起防御任务、起到关键作用的,是这款中国开放权重模型。这并不是一个理想的局面,他只是客观陈述这件事实。有人会问,中国开放权重模型在防御这件事上,到底具备什么样的优势?
核心原因就是这些美国封闭模型,在面对这类安全对抗场景时直接选择拒绝参与。它们相当于直接放弃响应,判定场景存在安全隐患,自身无法处理。他觉得这种现象正在慢慢变成一种固定模式。
一部分封闭模型的拒绝响应比例过高,背后的原因,要么是平台优先追求稳妥,要么是没能在攻击与防御场景之间找到合适的平衡点。而这恰恰是开放基础模型独有的优势。只要手里拥有开放基础模型,使用者就可以自由调配它,在这次事件里,就是调用它完成防御任务。
在他看来,这件事就是开放基础模型最好的现实例证。一款开放基础模型站出来,顶住风险完成防御,稳住了局面。它就像一名身披闪亮铠甲、及时驰援的骑士。当时业内以为这只是头一回逃逸,但到2026年11月已知AI失控已达80起,中美不得不谈起热线。
绕了一圈回头看,中美一边锁紧防盗门、一边商量拉热线,体现的正是大国博弈里最清醒的分层理性。芯片与商业上是零和较量,可在系统性AI失控面前,两家的煤气管道早就并联在同一栋大楼里,谁家出事,整栋楼都得跟着塌。
截至2026年11月,这条由两国反复磋商的AI紧急通知机制虽仍停留在已定调、未通车的纸面阶段,但在AI失控时第一时间给对方打电话,已是关乎全人类共同底线的必答题。