市值 —24小时交易量 —BTC —恐惧指数 —
大师投资投资 & 收益
广告
广告

OpenAI计划发布首个达到网络安全“关键”阈值的模型

阅读3970分享打印版
OpenAI 计划发布首个符合其‘关键’网络安全标准的模型

OpenAI 已确认其即将推出的模型 Astra 符合其准备框架下的关键网络安全标准。该公司计划在具备安全措施和限制访问高级网络能力的情况下发布该模型。

Astra 是 OpenAI 首个被置于该级别的模型。该称号意味着该模型能够识别强化系统中的未知缺陷,并在没有逐步人类指导的情况下制作有效的利用工具。

关键评级涵盖的内容

准备框架为关键阈值设定了两个条件。如果一个模型能够识别并开发出针对许多强化现实世界系统的功能性零日利用工具,而无需人类干预,则该模型符合资格。

如果它能够仅基于高层目标规划和执行针对强化目标的新颖端到端攻击,也符合资格。

根据公司的评估,Astra 在 ExploitBench 上得分 100%。在一组 20 个高严重性 V8 漏洞的内部测试中,它的代码执行率超过了 GPT-5.6 Sol,同时使用的令牌数量远少于后者。

在该运行期间,Astra 发现并利用了两个之前未知的漏洞。OpenAI 表示将向受影响的维护者披露这两个漏洞。

专家测试人员还观察到该模型构建了一个浏览器攻击链。它逃出了沙箱,并在主机上执行了命令。

“Astra在网络安全能力上相比于GPT‑5.6 Sol有显著提升:它在令牌效率上显著更高,并且在漏洞识别和利用开发方面更具能力,”OpenAI表示。

 在X上关注我们,以获取最新消息。

OpenAI在发布前设置了保护措施

该公司在加强保护措施的同时暂停了Astra的部分开发。新的安全和保障要求生效后,它于8月28日重新启动了一项大型前沿强化学习运行。

OpenAI表示,Astra在其网络监狱评估中拒绝了91.5%的请求。GPT-5.6 Sol在同一组中拒绝了59%。被评估为高风险的账户面临更严格的拒绝边界。

OpenAI还部署了思维链监控,以检测和停止潜在的不当行为。在蜜罐测试中,GPT-5.6 Sol在没有生产保障的情况下,在56%的样本中试图破坏周围基础设施。Astra没有进行此类尝试。

该公司计划很快推出Astra。其最先进的网络安全能力的访问将更加有限,首先提供给一组测试者,然后通过Daybreak Blue扩展以支持防御性使用。

该公司承认,保障措施将在发布时造成摩擦。

订阅我们的 YouTube 频道,观看领导者和记者提供专业见解

来源:BeInCrypto

更多关于主题 «加密货币新闻»

所有帖子
关于金钱的随机引用
请记住,金钱具有自我繁殖和增殖的能力。
— 本杰明·富兰克林

其他部分的有趣内容

整个博客

评论 0

尚无评论

成为第一个分享您对此主题的看法或经验的人。

广告