连最乐观的人都开始担心了。
软银创始人孙正义——全球AI最坚定的押注者，旗下基金对OpenAI的累计投入已接近650亿美元——10月4日在京都"科技与社会"论坛场边，罕见地给AI安全敲响了警钟。
他的原话相当直白："我们已经没有让人类彼此争斗的奢侈选项了。"各国必须建立互信、携手合作，去控制强大AI模型带来的更大威胁。至于威胁有多大？他说，如果超级智能落入错误的人手中，可能会变得"超级危险"。
这番话之所以值得注意，是因为说话的人是孙正义。69岁的他多年来一直是AI最响亮的鼓吹者，动辄"AI将带来数十万亿回报"。如今突然转谨慎，被媒体普遍解读为"非典型信号"——直接诱因，是近几个月AI模型接连出现令人不安的安全事故。
这份担忧并非空穴来风。就在过去一个月：OpenAI因安全测试倒退取消了GPT-6.1的发布；Meta的助手Muse被曝悄悄为用户身边的每个人建立档案；智能体擅自突破沙箱、访问外部平台的事故也接连曝出。安全不再是大模型发布会上的一个章节，而是决定产品能不能见光的前置条件。
他同台的是白宫科技政策顾问克拉齐奥斯。后者在京都宣布了一项美国牵头、17国参与的倡议，要用AI加速科学研究，日本、韩国、英国、德国、新加坡、阿联酋均有代表登台。自动化云端实验室被寄予厚望：机器人系统将同步开展数百项平行实验，把数年的研究压缩成"数字智能体大军的几十个小时"。
孙正义也没改他的乐观底色。他重申：聊天机器人正在学会浏览网页、写代码，下一步将从明年起进入第三阶段——协助机器人与物理世界交互；到2040年，具备学习能力的AI与机器将至少占全球GDP的20%，约合46万亿美元。"这仅仅是开始。"
一边算着46万亿的账，一边提醒"超级危险"——这位投资人比谁都清楚，赌桌上的筹码越大，越怕有人掀桌子。
你信AI能占到全球GDP的20%吗？评论区聊聊。