核武器得以约束最真实的机制不是道德的觉醒，而是力量达到了恐怖平衡。

在1945年到1949年，美国是唯一拥有核武器的国家，杜鲁门和军方高层的逻辑是，既然我独步天下，为什么要自缚手脚？直到1949年苏联试爆原子弹，这种垄断才被打破，双方变成了平起平坐，美国才真正愿意坐下来谈判，最终催生了《部分禁止核试验条约》等一系列军控协议。等到中国也有了，世界慢慢安静下来了。

相互保证毁灭才能制止人类的疯狂，彻底的，唯一的。讽刺不？到目前为止，一百年左右，核武器是保障人类和平的最大功臣。当美苏都拥有毁灭对方十几次的能力时，双方都意识到先动手就是自杀。

需要明白的是，核武器的门槛极高（需要巨大的铀浓缩设施、需要庞大的国家工业底座），因此玩家极少，博弈来看，很容易达成寡头共治。

但AI不一样。

算力虽然昂贵，但算法开源，模型权重是可以通过网络泄露的。AI不需要像核武器那样依赖稀缺的重水或浓缩铀。而且，不仅仅是中美两个巨头，俄罗斯、欧洲、甚至一些科技巨头和恐怖组织，都在争抢入场券。一旦AI能力扩散，达成全球性监管协议将比核裁军难上一千万倍。而且，核试验可以被地震仪监测到，但AI模型的内在能力、隐蔽的网络攻击、甚至在对齐过程中的暗箱操作，极难被核查。

如果某一个巨头（比如美国或中国）在AI领域取得了代差级的碾压优势，就像1945年的美国拥有原子弹一样，那么国际社会连军控的谈判桌都摆不起来。处于绝对优势的一方，绝对不会停下脚步去等对手，因为赢者通吃的诱惑太大了。谁能拒绝？

最后就是，奥本海默式的善良，在力量平起平坐之前的窗口期，那就是彻头彻尾的捣乱。杜鲁门当时甚至在日记里骂奥本海默是个爱哭的科学家。奥本海默最终放弃自证，过上了隐居的生活，是因为他痛苦地意识到，人类的政治结构不认道德，只认力量。

今天，我们正处在AI的1945年。

尽管中美在竞争，但技术上仍有代差，且产业链深度绑定，无法像冷战那样完全脱钩。而且我们甚至不知道AI的原子弹试爆到底是什么样。（网络瘫痪？是生物武器？还是经济系统的瞬间崩溃？）。不知道毁灭的样子，人们就没有相互保证毁灭的恐惧。

没有恐惧，就不会有真心的刹车。所以，这次刹车，我觉得是不可能的。不用做梦了。这个世界还没有被狠狠撞过一次。人类的历史经验一再证明，我们通常只有撞得头破血流之后，才会去反思。

而AI的可怕之处在于，它的第一次撞击，全剧终，全员下线。