图灵奖得主迪菲在智源大会上警示 AI Agent 的风险,认为到 2050 年机器智能可能深刻改变甚至“统治”世界。这种判断固然提醒人们重视人工智能的安全边界,但也容易把问题描述成“机器与人类”的对立,忽略了更关键的一点:机器智能背后并非空无一人,而是科学家、科技巨头、资本和平台权力的共同推动。
AI Agent 真正令人担忧的,不只是它会不会自主行动,而是谁在设计目标、分配权限、掌握数据、控制接口,并从中获利。如果把风险全部归咎于“机器太聪明”,就可能淡化人类权力结构在其中的责任。所谓机器统治世界,很多时候更可能是少数掌握技术和资本的人,借助机器系统扩大对普通人的影响力与控制力。
因此,讨论 AI 安全不能只停留在技术约束层面,还必须追问治理结构:谁来监管 AI?谁能审计算法?公众是否拥有知情权和选择权?AI Agent 的未来不应成为技术精英和资本集团的新工具,而应被纳入公开、透明、民主的制度框架。真正需要“抓紧”的,不只是防范机器失控,更是防范人借机器之名扩大不受约束的权力。
