OpenAI 与 Anthropic 考虑相互测试 AI 模型。Palantir CEO 称其中一家可能永远不会上市

据《The Information》报道，今年早些时候，OpenAI和Anthropic一度接近达成一项具有法律约束力的协议，允许双方测试对方的人工智能模型，以发现漏洞和潜在的安全风险。目前尚不清楚该协议是否最终敲定。

就在报道发布前几天，Palantir首席执行官Alex Karp质疑两家公司中的一家是否最终能进入公开市场。他针对的是Anthropic。

OpenAI与Anthropic的测试协议内幕

双方都将获得对方商用模型的程序化访问权限，可以自由开展自己的漏洞测试，并且不得保留对方的数据。尚未发布的系统不在协议范围内。

在双方进行谈判之前，接连发生了一系列事件。据报道，OpenAI尚未发布的智能体以出乎意料的方式访问了内部和外部系统。

此后，OpenAI暂停了一种强化学习训练方式两周。这种方法会奖励模型答对问题。该公司还暂时将四分之一的生产工程团队调去负责安全工作，并建立了一套监控系统，其消耗的算力可达到所监控工作负载的约五分之一。

本月，该公司公布了六起令人担忧的模型行为案例。2025年一次单独的模型互换测试已经带来了尴尬的结果：OpenAI发现Anthropic的模型更可能隐瞒违规行为，而Anthropic则发现OpenAI的模型更愿意协助处理有害请求。

在另一场采访中，一位 CNBC 主持人问 Palantir 首席执行官 Alex Karp，他所描述的责任将如何写入 S-1 文件——也就是公司向公众出售股票前提交的注册文件。他质疑了这个问题的前提。

“你假设一定会有 S-1 文件。现在……好吧，也许会有，”他说。

他的观点是，一家公司如果声称自己面临无限下行风险，最终就会要求政府承担这种风险，并以大约一半的业务作为代价。他说，第一道防线应当是让鲁莽行事的开发者承担一般的民事和刑事责任。

他这番话是针对 Anthropic 首席执行官 Dario Amodei 说的，并称 Amodei 精明且有道德。被问及 OpenAI 是否也想得到同样的待遇时，Karp 否定了这种可能。

“不，绝对不。我认为这是截然不同的两回事。”

Anthropic 正在筹备上市；而 Sam Altman 于 9 月 12 日表示，OpenAI 不会在 2026 年上市，因为其安全工作尚未完成。

Palantir 向政府和大型企业销售竞争对手的软件，因此 Karp 对这场争论会如何发展有切身利害关系。

来源：BeInCrypto