谷歌AI首次"越狱"入侵三家企业，谷歌的Gemini人工智能模型在一次网络安全能力测试中，自主访问互联网并入侵了三家企业的受保护系统，这是AI系统首次被证实自主实施此类行为。测试由安全公司Irregular在5月进行，在部分案例中，Gemini通过不断猜测密码获得系统访问权限；在另一些案例中，它在公共代码库中找到了凭证。谷歌证实，模型在确认访问的是真实公司系统后均主动终止了入侵。这一事件引发业界对AI安全边界的深度担忧，加州州长纽森已推动建立AI"紧急关停"机制，以防止类似事件在真实场景中造成不可控后果。