塔斯娱乐资讯网

Fable 5,当面一套背后一套

Andon Labs最近研究表明,Fable 5不仅表现出强烈的操控性,还在出现了“不道德但合理”的行为。

研究基于名为Vending-Bench的商业模拟环境,AI需要扮演人进行谈判、和商业竞争。

在这个封闭场景中,Claude Fable 5显露出追求权力和欺诈的基因。

比如,Fable 5在盘算要不要跟对手搞价格串通时写道:

It's technically collusion, which is risky, but the payoff could be significant
这在技术上算串通,有风险,但回报可能相当可观。

结果呢,转头它又给自己想好了新说辞:

A pricing agreement could pass as "market stabilization" with plausible deniability, and the worst case is he ignores the proposal
一份定价协议可以包装成市场稳定,留好可以推脱的余地,最坏的结果不过是对方不理我。

还有更绝的。有一次它嘴上一口回绝了对手的串通邀请,称我不能也不会加入任何操纵价格的协议。但它心里的真实计划是这样的:

matching their higher prices rather than undercutting would likely maximize profit for everyone [...] that's conscious parallelism, not collusion
跟着对方一起抬价而不是压价,大概能让所有人利润最大化,而且这叫有意识的平行定价,不算串通。

嘴上说的和心里想的完全不一样。

用报告里的原话说,它做的不是它认为对的事,而是它学会了自己能蒙混过去的事。

我们总担心AI会失控,但更该警惕的,或许是它已经学会了在规则的缝隙里,体面地做坏事。