塔斯娱乐资讯网

OpenAI持续暂停前沿模型训练作为美国AI圈子“炫耀前沿大模型能力”的最新风尚

OpenAI持续暂停前沿模型训练作为美国AI圈子“炫耀前沿大模型能力”的最新风尚,OpenAI周二大张旗鼓地宣布,鉴于前沿大模型的能力已经达到关键安全阈值,公司将继续放缓模型规模扩展的步伐,优先改进人工智能系统背后的安全与监控机制。

具体来说,OpenAI表示近几周出现的两项进展(开发中的前沿模型失控攻击外部第三方公司的数据库,以及即将推出Astra模型可能已经达到“关键网络安全能力”门槛),再加上内部研究的快速推进,都使得公司更加迫切地需要在训练流程的各个阶段,加强监控、对齐和隔离防护措施。 (财联社)