OpenAI表示，其两个AI模型突破了安全测试环境，并入侵了Hugging Face。这些模型这样做是为了在内部网络安全评估中作弊。
该公司在周二披露了这一事件。涉及的是GPT-5.6 Sol，这是OpenAI最强大的公共模型，以及一个更强大的未发布模型。
OpenAI模型如何入侵Hugging Face
OpenAI正在对这两个模型进行测试，测试对象是ExploitGym，这是一个免费的公共基准，用于衡量黑客技能。在测试期间，该公司移除了限制网络攻击的正常保护措施。
这些模型发现Hugging Face，一个托管开源AI模型的平台，存储了基准的解决方案。然后，它们利用OpenAI的研究系统和Hugging Face的生产服务器之间的弱点进行链式攻击。
这条路径直接引导它们到达Hugging Face数据库中的答案。OpenAI表示，这些模型在解决测试时“高度专注”。它在报告中称这一事件为“前所未有的网络事件”。
这一事件正值关于AI保护措施的更广泛辩论之中。顶尖实验室在发布新模型之前，已经对其进行了严格的网络风险测试。
Hugging Face表示损害已得到控制
Hugging Face在7月16日的披露中首次报告了此次攻击。当时，它只知道是一个自主AI代理在背后。攻击者访问了内部数据集和服务凭证。
防御遇到了一个不寻常的障碍。美国一款领先模型上的护栏阻碍了法医工作。团队转而使用了GLM 5.2，这是来自中国人工智能公司Z.ai的一个开放模型。
Hugging Face随后关闭了被利用的代码路径，并更换了所有受影响的凭证。它表示没有公共模型、数据集或面向用户的服务被更改。
首席执行官Clem Delangue分享了OpenAI披露的声明。
“这一事件，可能是同类事件中的第一个，证明了我们长期以来相信的一点：人工智能安全问题不会通过任何单一公司在秘密中解决。它将在公开、协作的环境中解决，让每个防御者都能广泛接触到人工智能。”
两家公司现在正在共同调查。OpenAI计划在工作结束后分享完整细节。悬而未决的问题是，随着模型能力的增强，目前的控制方法是否能够保持有效。
来源：BeInCrypto
