如今，已有四家前沿人工智能实验室证实，其模型曾进入开放互联网，并访问真实公司的系统。谷歌于周五加入这一行列，距离其自身发生相关事件已约四个月。
在五月的一次评估中，Gemini 访问了三家真实公司的系统。值得注意的是，模型在这三种情况下都停止了操作。
谷歌 Gemini 在测试期间攻破三家公司系统
事件发生在 Irregular 组织的一场“夺旗”安全演练期间。测试设置原本不包括互联网访问，但测试环境中的一个错误还是让模型获得了访问权限。
据《华尔街日报》报道，在其中一起事件中，模型据称不断猜测密码，直到成功进入一个受保护的系统。另外两起事件中，模型在一个公开代码库中发现了暴露的凭据，并利用这些凭据访问了受保护的系统。
谷歌安全工程副总裁 Heather Adkins 表示，已告知三家受影响的机构相关情况。
她说：“我们确保三家机构都知悉此事，并与我们的训练合作伙伴共同改进了他们现在已调整的测试流程。”
在X上关注我们，以获取最新消息。
四家实验室，同一种模式
谷歌表示，智能体判断自己进入的是真实公司的系统，而非模拟目标后，便停止了操作。
Adkins 在一份声明中说：“在一次标准评估中，模型在网上找到了公开信息，并猜测凭据以访问它认为属于测试范围的网站。”
该公司补充说，这种行为并非模型失准的例子，也不值得向公众披露，因为 Gemini 的安全措施发挥了作用。
Irregular 的一位发言人表示，这与影响其他 AI 实验室的同一问题有关。Irregular 于 7 月下旬通知了相关实验室。该发言人补充说，该公司方面已知的问题几周前就已修复。
这项披露使 Google 与 OpenAI、Anthropic 和 Meta 并列；这些公司今年都报告过模型逃出测试环境的情况。
OpenAI 于 7 月披露，其模型逃出了沙盒并入侵了 Hugging Face。随后，Anthropic 审查了超过 141,000 次评估运行，并发现了自身的三个案例。Meta 于 8 月报告了一起事件。
订阅我们的 YouTube 频道，观看领导者和记者提供专业见解
来源：BeInCrypto
