塔斯娱乐资讯网

上周五 Athropic 的报告,我感觉达里奥是自掘坟墓,他让全世界都知道了,闭

上周五 Athropic 的报告,我感觉达里奥是自掘坟墓,他让全世界都知道了,闭源模型有多不安全,打着安全的旗号,利用不对称的权利监控所有用户的行为,简直是开源模型的神助攻。贴一张川普AI顾问对达里奥和奥特曼表演的评价,给大家翻译的版本,原文大家自己看图,最近比较忙,空下来专门写一个对这件事的评价。

“Dario 曾写道,我们需要“为前沿定速”,Sam 也同意了。人们可能会对我的回应感到意外:请便。

你们就是前沿。以任何合理的标准衡量——市场份额、收入增长、模型能力——你们两家在前沿智能上已形成双头垄断。你们还声称,由于递归式自我改进,领先优势正在扩大。

我在实验室里看不到你们所看到的东西。如果那些未发布的模型可怕到让你们认为应该放慢脚步,我支持你们做出负责任的这一决定。

但别再假装你们需要别人的许可。别再假装必须暂停反垄断法,好让你们组成卡特尔。别再假装你们需要一个凌驾于产品责任之上的监管审批流程。别再假装 METR 是独立的——它与 Anthropic 的投资人和员工深度交织。别再假装你们需要同一批评估者去监管那些甚至不在前沿的竞争对手。

最重要的是,别再假装放慢脚步的动机纯粹是利他的。如果你们的产品助成一次真正具有破坏性的网络攻击,你们将面临巨大的产品责任风险。市场已经在惩罚那些行为不可预测或未经授权的模型。在 Hugging Face 事件之后,对 OpenAI 和 Anthropic 来说,用一部分原始能力换取可靠性和可预测性,纯粹是笔好生意。你们想称之为对齐,随你们。这也不过是给客户他们想要的东西。

为前沿定速还会为一场比 Bernie Sanders 的“全部关停”更明智的监管对话创造喘息空间。如你们所知,中国极不可能加入一项全球协议,这一点也必须纳入考量。

所以,请便,为前沿定速吧。定速的人是你们。不构建超级智能最容易的办法,就是你们同意不构建它。把你们偏好的监管框架当作这样做的代价,会看起来像是对公众和政治体系的勒索。所以,做就是了。

如果你们做了,就会为下一场对话赢得善意。如果你们不做,我们就会知道,这不过是又一次寻求监管俘获的尝试——或者一场选举季的心理战。”