
Anthropic表示内部测试发现Claude Fable 5没有带来独特的网络安全风险,因为Claude Mythos 5将于7月2日全球回归。
这一声明伴随着Fable 5的全球重新发布,结束了因美国出口管制于6月12日引发的18天暂停。Anthropic测试了竞争对手的模型,以评估限制背后的真实威胁。
为什么Anthropic暂停了Fable 5
Fable 5和Mythos 5于6月9日推出,共享相同的核心模型,前者向公众开放。Mythos 5仅限于少数受信任的Project Glasswing合作伙伴进行防御性网络安全工作。
出口管制是在亚马逊研究人员找到绕过Fable 5安全措施的方法后实施的。这一技术促使模型识别软件漏洞,并在一个案例中展示了一个利用。
Anthropic的测试发现Claude Opus 4.8、GPT-5.5和Kimi K2.7能够识别Fable 5在亚马逊报告中标记的相同漏洞。每个测试的模型也能够重现单一的利用演示。
这一发现表明,该指令针对的是整个行业共享的一个漏洞,而不是特定于Fable的威胁。Anthropic仍然构建了一个更强大的分类器来阻止该技术,现在也标记更多常规的编码和调试请求。
护栏实际上是如何工作的
Fable 5 以 Anthropic 在任何模型中构建的最强安全边际推出。它的分类器会阻止看起来稍微有风险的请求,而不仅仅是明显有害的请求。根据 Anthropic 的说法,在亚马逊报告后训练的新分类器在超过 99% 的情况下阻止了报告的绕过。被阻止的请求现在会自动重定向到 Opus 4.8。
这种安全边际是有代价的。Anthropic 承认分类器会标记更多无害的编码和调试请求,并表示将继续调整以减少误报。Mythos 5 由于减少了这些保护措施,仅在 6 月 26 日获得政府批准的 Mythos 5 机构中返回。
Anthropic 自己的数据提出了一个更棘手的问题。如果较弱的模型已经能够做 Fable 5 被禁止的事情,那么监管机构下次推出前沿模型时将适用什么标准?
来源:BeInCrypto





