塔斯娱乐资讯网

Jacob Coxon毕业于剑桥,曾是OpenAI和Anthropic的核心研究

Jacob Coxon毕业于剑桥,曾是OpenAI和Anthropic的核心研究人员,专长是预训练研究,即是用海量数据训练前沿大模型。他刚刚公开宣布从Anthropic辞职,并表示要彻底离开AI行业。

他公开发文批评OpenAI和Anthropic“都不负责任地行事”,正在直接冲向能自我改进的超级智能,是在用全人类的生命赌博。

他的核心观点包括:
• 两家公司内部很多人私下真正相信,这技术很快就会变成超人系统:能黑任何东西、一夜颠覆任何领域、自己去抢资源和权力。
•内部人私下都担心这玩意可能在十年内把人类灭了。不是营销话术,是真怕。
• 在OpenAI,很多人还没有真正内化“文明级风险”;在Anthropic,风险被充分理解,但公司仍陷入“必须自己先跑到”的竞赛逻辑(因为觉得别人不会负责任)。
• 他认为目前无法阻止全球军备竞赛式的开发,可能需要更强有力的协调措施(例如暂时禁止提升模型能力)。
• 他不希望继续参与这种可能失控的自我改进系统的开发。

他来自内部,他的声音不能被忽略。