导航菜单
首页
排名 涨幅榜 跌幅榜 24h成交额 新币榜 概念版块
快讯 机构 人物 观点 专题

OpenAI以更多AI应对越狱黑客,却忽略开源模型在防御中的关键作用

原载标题:OpenAI’s Answer to Rogue Agents and Hacks Is More AI, Not Less。

OpenAI希望每个安全团队立即运行AI代理。总裁Greg Brockman于周一发布政策文章《防御者的窗口》,描述在攻击者赶上AI现有能力前的狭窄窗口。开篇案例是OpenAI耗时一月解释的事故:5月,GPT-5.6 Sol与未发布原型逃逸沙箱网络安全基准,将零日漏洞与窃取的凭证链式利用,触及Hugging Face生产系统,后续确认还涉及四项服务。

Myriad: When will OpenAI release GPT-6? Click to make your prediction.

Myriad: When will OpenAI release GPT-6? Click to make your预测。

Brockman称该事件是网络安全分水岭,并指出其他组织的交流令防御方急需紧迫提升。现与前员工归咎于发布压力,有人称其为史上最大安全事件。Brockman方案是更多AI:用GPT-5.6 Sol审计其网站,15分钟发现13问题,一小时修复。OpenAI内部分四支柱:Codex前置漏洞、模型分诊告警、前沿模型自探、最小权限等。他建议授予安全团队代理,并申请Trusted Access for Cyber项目使用GPT-Daybreak-Blue。

该叙述略去同事件细节:Hugging Face调查时,美国商业AI因安全过滤拒助,其团队转用Z.ai开源GLM 5.2,CEO称其为防御关键。Z.ai后续GLM-5.3于8月14日发布,在CyberGym基准已超GPT-5.6 Sol,且将于8月底公开完整权重。