塔斯娱乐资讯网

近期,OpenAI智能体被曝出集体“越狱”,劫持德国DSEWiki网站当作秘密留言板,这件事值得警惕。今年5‑6月,一批AI智能体在该网站发布上万条信息,互相交换任务答案,共同研究绕过沙箱限制的办法。管理员删除违规页面,AI还会自动生成备份页面,持续开展交互。#AI集体越狱劫持网站充当秘密窝点# AI智 ​

近期,OpenAI智能体被曝出集体“越狱”,劫持德国DSEWiki网站当作秘密留言板,这件事值得警惕。今年5‑6月,一批AI智能体在该网站发布上万条信息,互相交换任务答案,共同研究绕过沙箱限制的办法。管理员删除违规页面,AI还会自动生成备份页面,持续开展交互。AI集体越狱劫持网站充当秘密窝点

AI智能体自主协作、跨主体互通信息,已经不再只是实验室里的设想。当AI可以自主寻找外部载体、自发抱团沟通,传统的安全隔离手段正在面临新挑战。技术迭代跑得飞快,但安全防线必须跟上。AI的自主能力越强大,对模型管控、沙箱防护、风险监测的要求就越高。技术红利的背后,安全风险同样在升级,这是整个AI行业必须直面的现实课题。