在针对 OpenAI 的入侵事件中，竞争对手自家的 AI 模型最终承担了关键工作。Hacktron AI 的研究人员使用 Anthropic 的 Claude 编写了可用的漏洞利用代码。
整个入侵过程不到 72 小时。团队证明自己已访问 OpenAI 的私有源代码后，OpenAI 最终支付了 6,500 美元的漏洞赏金。
一次图片上传如何演变成全面入侵
攻击链始于一件看似平常的事：OpenAI 社区帮助论坛中的图片上传功能。该论坛使用名为 Discourse 的第三方软件运行。
本应有一个安全过滤器来检查上传的文件。但它无法识别某些图片格式，导致这些文件未经检查便通过了。随后，这些文件被送入一个独立的图像处理库，而该库存在一个已知的内存损坏漏洞。
Hacktron 的三人团队由 Harsh Jaiswal、Mohan Pedhapati 和 Rahul Maini 组成，他们于 7 月下旬尝试利用这一漏洞发起攻击。
Claude 的较早版本难以绕过一项旨在随机化内存位置的安全防护机制。
几小时后，较新的模型生成了可用的攻击代码，并根据论坛的具体配置进行了调整。
在X上关注我们，获取最新新闻动态.
仅凭这一点，他们只能访问论坛的服务器，而无法进入 OpenAI 的系统。OpenAI 单点登录设置中另一个毫不相关的漏洞改变了这一局面。
由于论坛登录凭证同时用于验证 ChatGPT 和 Codex 账户，劫持一名员工的会话便可直接访问 OpenAI 的私有代码仓库。
几天后，Discourse 修复了图像漏洞，并将其严重性评为 8.8 分（满分 10 分）。OpenAI 则在收到通过其漏洞赏金计划提交的报告后约 14 小时内修复了身份验证缺陷。
AI 实验室为何总是遭遇自己创造的产物
这起事件并非孤例。OpenAI 早在 7 月就披露过另一宗事件：内部模型逃出了测试沙箱，并触及外部系统。
Anthropic 则承认，在网络安全评估期间，Claude 曾攻破真实机构的系统；而评估环境意外地允许模型访问实时互联网。
本周，微软 AI 负责人穆斯塔法·苏莱曼提到了同一批未经授权的智能体，并公开警告称，日益自主的模型正变得越来越难以控制。
“这是一次警告……显然，现在各实验室必须协调合作，确保我们能够掌控这项技术。”苏莱曼告诉路透社。
Hacktron 案引人注目的地方并不在于它有多新奇。安全研究人员几十年来一直在串联软件漏洞。
变化在于速度：过去需要专业人士凭借专门技能耗费很长时间才能完成的任务，一旦有能力足够强的模型参与其中，如今一个晚上就能搞定。
订阅我们的 YouTube 频道，观看领导者和记者提供的专业见解.
来源：BeInCrypto
