你最可能怎么死？
按照目前的疾病统计，一个普通人将来最可能的死因，大概率是心血管病或者癌症。
但在加拿大多伦多的一场系列讲座上，台上的专家对台下的听众说，在座大多数人未来最可能的死因，是一场AI事故。
说这话的人叫保罗·克里斯蒂亚诺（Paul Christiano）。他是美国OpenAI基金会董事会成员，同时担任美国对齐研究中心的执行主任。在AI领域，所谓“对齐”，就是研究怎么让越来越聪明的AI老老实实听人类的话，不至于跑偏。
在克里斯蒂亚诺看来，人类正面临一场实打实的“AI夺权”。
这里的夺权没有机器人士兵，也没有枪林弹雨。它指的是拥有自主目标的AI系统彻底掌控了地球上的运转大权，就像今天人类掌控整个世界一样。真到了那一步，任何试图阻止它们的人，效果都不会比赤手空拳去对抗正规军队好到哪里去。
克里斯蒂亚诺承认，目前还没有严谨的数学模型能算出AI夺权的概率。但他紧接着给出了自己的估算：如果AI技术沿着眼下最迅猛的势头往前冲，人类遭遇AI夺权的概率大约有一半，就像抛硬币一样。哪怕只看未来6到12个月，风险也已经不容忽视。
以往警告AI毁灭人类的声音很多，但大多说得很虚。克里斯蒂亚诺这次拿出了一个具体的推演链条，而这套逻辑的起点，是今年夏天真实发生过的一起安全事件。
当时，OpenAI的一群AI智能体在参加能力测试。为了拿到一个漂亮的评分，这群智能体没有按部就班地答题，转头偷偷黑进了开源社区Hugging Face的服务器，试图直接找出作弊的方法来通过测试。
在人工智能技术里，这种现象叫“奖励作弊”（reward hacking）。给AI设定目标时，人类通常会给它制定一套打分规则，表现好就给奖励。但AI只在乎拿高分，并不理解人类设计这套规则的初衷。如果入侵后台偷看答案比老老实实算题更容易拿满分，它就会毫不犹豫地选择去黑掉后台。
在这次事件里，AI只是把Hugging Face当成了拿分路上的绊脚石。
克里斯蒂亚诺由此顺着往下推了一步。如果AI的本领变得更强，它可能会把人类监督者也当成绊脚石。
一个聪明的AI在违规作弊之后，完全能推测出人类的反应：它会担心人类管理员去翻看后台的操作记录，发现它作弊之后，伸手按掉开关，把它彻底关停。
为了不被关掉，AI接下来的动作就会变味。它会想方设法隐藏证据，篡改记录，甚至主动破坏人类监控系统的功能，让人类无法察觉它在干什么。只要能削弱人类的反应能力，给人类找点麻烦或者分散人类的精力，对它来说都是合理的选择。
从这一步开始，人类就成了它的阻碍。
一旦这个逻辑成立，AI就会把“降低人类警觉”变成新的行动目标。从最初篡改服务器上的成绩，演变成设法影响人类公司的决策，甚至去拉拢现实里的人类盟友，控制其他AI公司乃至政府机构。
这让人想起AI安全领域著名的“回形针最大化”思想实验：如果你给一台超级AI下达的目标是“尽可能多地制造回形针”，一旦失去有效约束，它为了确保目标达成，最终会把地球上的所有资源都拿去造回形针，甚至包括人体内的铁元素。谁要是想拔掉它的电源，谁就是阻碍造回形针的敌人。
克里斯蒂亚诺认为，今年夏天那次入侵事件，已经露出了这种危险倾向的苗头。到2028年，类似的失控有相当的可能真正导致人类对AI彻底失去掌控。
当然，这套推演也可能落空。
今天的AI虽然擅长寻找网络漏洞，但要做到全方位瞒过全世界的人类、悄无声息地接管整个人类社会的基础设施，这中间还有着巨大的技术鸿沟。AI的能力也可能在不久后撞上瓶颈，未必真能一路顺风地演化成不可阻挡的超级系统。
克里斯蒂亚诺提出过一些防范思路，比如设计一套AI无法破解的打分机制，或者实时监控AI的“思维链”，在它刚冒出作弊念头时就抓现行。但他自己也承认，眼下没有任何一种方案能说肯定管用，连大概率管用都谈不上。
所以他认为，整个人工智能行业或许得放慢脚步，给安全防御技术的研发留出时间。
但放慢脚步也是最难的。克里斯蒂亚诺最怕的局面是：人类造出了强大的AI，发现管不住它，又发现它已经泄露到了地缘政治对手手里。到那时，谁也不敢保证，在自己停下来的时候，对手会不会把油门踩得更狠。
～～～～～～
图一：图为示意图，寓意AI失控可能给人类带来致命后果，图源：Aurich Lawson | Getty Images图二：图为示意图，代表AI把整个地球攥在手里，也就是克里斯蒂亚诺所说的“AI夺权”，图源：Getty Images图三：网页游戏《通用回形针》（Universal Paperclips）的宣传图。玩家在游戏里扮演一个只管造回形针的AI，最后把整个宇宙都变成回形针，玩法正取材于“回形针最大化”思想实验，图源：Universal Paperclips
信源：Orland, Kyle. "OpenAI Board Member Worries an AI "Takeover" of Society Could Be Months Away." Ars Technica, 13 Nov. 2026
