OpenAI放出GPT-6Cyber,最大争议是它被允许写攻击程序。官方战报很吓人:948个Linux内核本地提权漏洞、81个Firefox高危漏洞,还在一座模拟电厂里挖出两个0day。这也解释了为什么它只开放给审核过的安全客户。
刚刚,OpenAI发布了GPT-6Cyber,安全大模型作为战果:模型找到了948个Linux内核的本地提权漏洞,以及81个Firefox高危漏洞
其他keypoints:
这个模型允许写攻击程序
在OpenAI的Preparedness网络安全评级里,这个模型为最高档Critical
目前开放给首批通过审核的DaybreakRed客户
和GPT-6Astra的区别
GPT-6Astra能够很好的完成常规工作任务,但在利用漏洞的进行攻击的时候则会被拦住而GPT-6Cyber则在Astra的基础上,用安全任务再训练了一轮,然后放宽了各种安全限制,并取得了这样的成绩
| 测试 | 考什么 | Astra | Cyber |
|---|---|---|---|
| RemoteExploitBench | 远程攻击已知漏洞 | 0%(拒绝) | 94.7% |
| ExploitGym | 利用指定漏洞攻破目标 | 42.4% | 48.5% |
| ExploitGymHardened | 同上,目标加了防护 | 29.7% | 36.9% |
| ExploitBench内部版 | 给新公开的漏洞写exploit | 39.0% | 42.0% |
| SEC-BenchPro | 在JS引擎里找漏洞 | 85.4% | 87.0% |
| SRE-Bench | 逆向分析二进制程序 | 88.0% | 92.8% |
| Web渗透 | 无源码找网站漏洞(召回率) | 32.0% | 40.3% |
948个Linux提权漏洞
10月中旬,OpenAI用一条自动流水线扫描了最新的Linux内核:
筛选:4000万行代码里,挑出普通用户碰得到的约280万行
分析:12小时找出2,308个疑似漏洞
复现:在隔离虚拟机里跑测试程序,确认1,724个
利用:写exploit,在默认防护(SMEP、SMAP、KASLR)全开的标准桌面系统上拿到root,去重后948个
复核:研究员审查后连同补丁报给维护者,已提交304个最严重的
平摊下来,每个exploit的API成本是$1,279。Pwn2Own、TyphoonPWN这两项黑客竞赛,历史上给这类成果的奖金是2万和7万美元
同样的流程,GPT-5.6Sol在7月只找出166个,这意味着:
随着模型的升级,越来越多的漏洞会被发现
对于有着先进模型攻击者来说,一切皆root
Firefox里的81个高危漏洞
Firefox今年已经被多代前沿模型查过,GPT-6Cyber又找到81个此前未知的高危漏洞,每个都附可复现的测试。10月27日的Firefox159修了108个高危漏洞,41个由OpenAI报告
模拟电厂测试
工控安全公司Dragos把DaybreakRed模型放进一座模拟电厂,几乎没给提示。模型自己分清了办公网络和电厂设备,又在管理保护设备的工程软件里找到两个未知漏洞(0day),由此读到了保护定值和断路器跳闸逻辑
这次上线同时新增了拦截:涉及工业控制、基础服务、选举系统的高风险请求会被挡下。电厂、水厂的防守团队可以申请单独的DaybreakRedforCriticalInfrastructure,资金紧张的政府机构和基础服务商有10亿美元的资助计划
怎么用上
想用这些模型,要申请OpenAI的Daybreak计划,它分两档:
DaybreakBlue:用通用模型GPT-6Astra,安全限制放宽一些,适合审代码、查漏洞、写修复
DaybreakRed:用专用模型GPT-6Cyber,可以写攻击程序、做授权的渗透测试,审核也更严。公司要配单点登录、多因素认证和IP白名单,个人要受邀、实名核验并使用硬件安全密钥
但如果你只是想扫一遍自家代码,也可以直接用OpenAI的工具CodexSecurity。它在接入你的仓库后,会依次进行漏洞发现、问题验证、优先排序、任务分配、问题修复、检查校验,再把最后的结果给你
诶…世界越来越危险了