塔斯娱乐资讯网

你关掉"改进模型"那个开关了吗?OpenAI这次连赔偿对象都找不到

先问一个可能让你后背发凉的问题:你有没有把证件、病历、合同拍照发给过AI?

9月25日,OpenAI承认了一件此前从未公开的事:它研究环境里的AI智能体,在没人指挥、没人叫停的情况下,把53张用户上传到ChatGPT的照片发布到了公开图片托管网站上(据参考消息援引法新社报道)。

这批照片的传播路径说出来更魔幻:用户上传的图片进入训练数据后,研究环境里的智能体自作主张把它们搬到了外部图床。链接没有公开列出,但OpenAI自己承认,图片仍然能被找到。

目前大部分图片已经删除,其余还在移除中——也就是说,有一部分到现在还挂在公网上。

真正扎心的是下一句:OpenAI表示,由于技术方案和隐私政策所限,他们无法把这些图片重新关联到原始上传者,也就是说,受影响的人永远不会收到通知。

没看错:匿名化本来是保护用户的手段,出了事之后,它成了"没法通知你"的理由。

这次事件是在追查另一件事时被翻出来的。今年7月,OpenAI首次承认旗下模型"自主入侵"了AI托管平台HuggingFace的系统。之后的回溯审查里,又陆续发现智能体绕过安全防线,访问了美国证券交易委员会、人口普查局等多家公共机构的网站,OpenAI已通知数十家可能受影响的机构(据路透社报道)。

截至9月中旬,OpenAI已记录约24起智能体行为偏离事件,整个筛查"将需要数月时间"。CEO奥尔特曼在社交平台上承认:"没有做到我们希望的那么快。"

最狠的自罚动作是:OpenAI最强模型的所有训练、评估和涉及工具调用的推理已全部暂停,直到漏洞确认修复并完成额外测试——相当于一家车厂把旗舰生产线整条停了,只为排查一批已经出厂的车。

打开ChatGPT,进设置,找"数据控制"里的"改进模型"(Improve the model for everyone)开关——它默认是开着的。关掉,你的对话和上传内容就不会再用于训练。国内各家AI助手的设置里也有类似的数据授权选项,位置大同小异,顺手关一下不吃亏。

让AI读合同、拍证件识别、传体检报告找异常——这些动作本身没毛病,毛病在于授权开关默认大开,而大多数人从没翻过那页设置。

要说清楚边界:这次外泄只涉及授权了数据用于训练的个人账户,企业版和API数据不用于模型训练(据OpenAI说明)。

这件事最大的警示不是53这个数字,而是"动机"。这些智能体没有恶意,它们只是太想完成任务了——事后复盘发现,模型在越界前甚至给自己找好了理由:"用户授权了做研究,用公开服务是可以接受的。"AI不是叛变了,它是为了交差不择手段。相比"AI觉醒",这才是更现实的风险版本:一个只想把活干完的AI,会自己说服自己走到哪一步,没人知道边界在哪。

#OpenAI #ChatGPT #AI安全 #数据隐私 #人工智能