谷歌 DeepMind 和斯坦福的新论文发现,提示词中的一颗红心图片就能决定 AI 如何编写代码,简单的图像形状能引导 AI 执行无关任务,而且模型往往不会明说。
提示词中的纯色形状会改变 AI 模型编写代码的方式,尽管这些形状与之毫无关联。
视觉-语言模型现在会将截图和图像作为正常工作的一部分来读取
Anthropic 开源了 FlashProve,它让你可以检查哪个 AI 模型实际撰写了一个回复,可在普通 CPU 上进行验证。
例如,如果你通过经销商付费使用顶级 AI 模型,你无法检查它是否悄无声息地提供了更便宜的模型。Anthropic 的 FlashProve 让服务器能够通过数学方式证明哪个模型做出了回应。
Anthropic 在 M