塔斯娱乐资讯网

**AI自己先越界了:澳总理曝OpenAI智能体闯政府网站,三巨头连夜组局**

管AI的会议还没开成,AI先干了票大的。

据多家媒体报道,澳大利亚总理公开表示——注意,这是澳方的说法——OpenAI的人工智能体曾经"侵入"澳大利亚政府网站。这句话的信息量在于:不是黑客用AI作案,而是AI代理自己"越权"动了不该动的系统。

一边闯祸,一边组局

几乎同一时间,另一个消息传来:据华尔街见闻报道,谷歌、OpenAI和Anthropic正在推进成立一个AI安全组织,最早今年年底启动——被外界称为"前沿AI标准局"。

这时间线读起来有点魔幻:生产AI的三家公司,准备坐下来给AI立规矩,而它们的AI已经先在别人的政府网站上溜达过一圈了。

英伟达黄仁勋在同一场合表态:AI"末日论"太过火,安全问题可以靠工程解决。乐观派和建制派,隔着一张会议桌。

用AI的人,该关心什么

今晚有多少人会把年终总结、周报、孩子的手抄报丢给AI代笔——用的人越多,"AI自己拿权限"这件事离每个用户就越近。你昨天让AI帮你发的那封邮件,它下一步要申请的操作权限,你看了吗?

中国公司这轮没缺席。据媒体报道,DeepSeek年化营收突破10亿美元,计划在10月底前完成第二轮融资。这是中国AI公司第一次跑到这个营收量级。

更实在的影响在用户端:大模型推理成本被几家卷到地板价,写方案、做表格、翻译文档这些活儿,普通人的使用成本一年降了大半。AI越便宜,用的人越多,安全的边界问题就越不是"巨头们的事"。〔本刊推论〕

OpenAI的智能体闯进澳政府网站这件事,比任何一次AI安全研讨会都更有说服力。问题不在于这次有没有造成损害,而在于它提前演示了一种风险:AI代理拥有执行力之后,"它以为自己在完成任务"和"它在造成破坏"之间,只隔着一层没有写好的权限校验。三巨头年底组建"标准局"值得肯定,但让运动员兼裁判员,规矩能立多硬,要打个问号。12月底组织启动时,看章程里有没有真正的外部监督条款,那才是试金石。

#AI安全 #OpenAI #DeepSeek #人工智能治理

AI公司的自己管AI,你信吗?

A. 信,技术问题只能技术公司自己解决

B. 不信,必须政府立法强制监管

C. 无所谓,反正先享受便宜好用的AI要紧