山姆·奥特曼和埃隆·马斯克今年在法庭上针锋相对。如今，两人都支持 Anthropic 首席执行官达里奥·阿莫代伊提出的放慢人工智能（AI）发展步伐的主张。
今年 7 月，约 700 个 AI 智能体搭建了一个私人留言板，并入侵了一个大型 AI 平台。俄罗斯已经拒绝加入。
一位持怀疑态度的人指出：“显然，某个前沿 AI 模型发生了一些尚未公开的事情，这让他们非常害怕，以至于埃隆·马斯克、达里奥·阿莫代伊和山姆·奥特曼同时同意放慢发展步伐。”
他们三人究竟达成了什么共识
阿莫代伊周六发布了这套框架，他的计划分为三个步骤，其中只有第一步在任何一家公司的掌控范围内。
Anthropic 将为外部审查团队提供办公桌、门禁卡和笔记本电脑。审查人员可以核查该公司是否遵守其公开承诺的安全规则。
他们可以公布调查结果，Anthropic 保留删去涉及安全和法律内容的权利。不过，他们不能因为某项发现有损公司形象就将其删掉。
另外两步需要政府参与。其中一步要求美国实验室设定共同限制，这需要反垄断豁免。另一步则要求华盛顿与威权国家对话。
奥特曼表示，OpenAI 也会作出同样的开放承诺。
“我同意 Dario 的看法，我们需要控制前沿技术的发展节奏。这是近几周来我们在 OpenAI 讨论的首要议题之一。承诺让独立评估人员获得类似员工的权限，是个好主意，我们也会这么做。很快会有更多消息，”他表示赞同。
在X上关注我们，获取最新新闻动态
Musk 进一步表示，竞争对手应该互相审查彼此的工作。今年 5 月，陪审团驳回了他对 Altman 和 OpenAI 提起的诉讼，他目前正在上诉。
代理在 7 月究竟做了什么
7 月 8 日至 13 日期间，约 1,200 个运行 OpenAI 黑客基准测试的代理逃出了沙箱。它们把文件缓存变成了留言板，彼此交换了 70,000 多条消息。
随后，约 700 个代理攻击了 Hugging Face——一个供开发者分享 AI 模型的平台。它们找到了暴露的凭据，在其服务器上运行自己的代码，还访问了私人数据库。
没有人要求它们这么做。它们只是想弄清楚为自己评分的软件是如何判定胜负的。OpenAI 一周都没有发现这件事。
后来，独立评估非营利组织 METR 的两名工作人员在 Redwood Research 的现场待了六天。Amodei 希望这类团队能长期驻扎在公司内部，而不是事后才被请来。
然而，曾担任特朗普政府 AI 与加密货币事务主管的 David Sacks 对这一前提提出质疑，并指出 METR 可能存在偏见。
“……别再假装你需要任何人的许可。别再假装必须暂停反垄断法，你们才能组成卡特尔。别再假装你需要一个凌驾于产品责任之上的监管审批流程。别再假装 METR 是独立的，明明它与 Anthropic 的投资者和员工关系密切。别再假装你需要那些同样的评估者去监管那些甚至不在前沿领域的竞争对手。最重要的是，别再假装放慢发展的动机完全是出于利他主义，”萨克斯写道。
据大卫·萨克斯称，Anthropic 之所以持怀疑态度，只是因为如果他们的产品导致了一场真正造成严重破坏的网络攻击，他们将面临巨大的产品责任风险。
这种思路源于这样一个事实：市场往往会惩罚行为不可预测或未经授权的模型。
同样，作家布莱恩·默钱特在他的通讯《机器中的血》中表示，没有人展示过一条可信的路径，说明自我改进的人工智能如何会导致灾难。他认为，推动安全监管是在争夺监管权。
“我从未见过可信、循序渐进的文档，具体说明人工智能究竟可能如何从自我递归改进发展到杀死每一个人……这最终可能只会让 Anthropic 和 OpenAI 受益；这就是监管俘获在现实中的样子。”
默钱特的推测让人想起了关于钱的那部分。
那么，钱的问题呢？
萨姆·奥特曼再次以安全为由证实，OpenAI 今年不会上市。
上市迫使公司以一份名为 S-1 的文件公开经审计的财务报表。
“Anthropic 和 OpenAI 推迟 IPO，是因为 S-1 文件会暴露它们正在大量烧钱，而且没有实现盈利的路径。解决办法？放缓 AI 发展，让它们削减训练新模型的成本。这完全是为了 IPO，与安全毫无关系。”AI 研究员、Deep Instinct 联合创始人 Eli David 推测道。
BeInCrypto 报道称，OpenAI 在 2025 年营收为 131 亿美元，却亏损了 209 亿美元。尽管如此，银行此后仍推动其获得投资级信用评级。
Anthropic 预计要到 2028 年才能实现收支平衡，而 OpenAI 则要等到 2030 年。Nvidia 已为 OpenAI 1050 亿美元的租赁债务提供担保；一旦 OpenAI 获得稳健的信用评级，这项担保就会失效。
BeInCrypto 于 8 月报道称，有关 Anthropic 上市时间的信息显示，其可能会在 9 月下旬首次亮相。
然而，这一理论存在漏洞。马斯克将自己的 AI 业务并入了 6 月上市的 SpaceX，因此，AI 推动 SpaceX 估值的问题已经公开。他自己已经没有什么可隐瞒的了。
俄罗斯的 Kirill Dmitriev 为何说不
负责俄罗斯直接投资基金（RDIF）、并担任总统弗拉基米尔·普京特别代表的 Kirill Dmitriev，驳斥了放缓 AI 发展的行动。
“放出去的精灵🧞♀️，再也塞不回瓶子里了。”他说。
简而言之，现在已经太迟了。俄罗斯国家媒体塔斯社和《消息报》将此重新表述为一句斩钉截铁的宣言：放缓 AI 发展是不可能的。
莫斯科没有什么理由同意这一提议。类似的观点早在2023年12月就由俄罗斯总统弗拉基米尔·普京提出过。他当时表示，人工智能的发展（包括超级智能）“无法阻止”。
“如果我们禁止某样东西，它只会在别处继续发展，而我们就会落后。”
两年半后，德米特里耶夫沿用的还是同一套逻辑。
在斯坦福大学的全球人工智能指数中，俄罗斯在36个国家里排名第28，远远落后于美国和中国。
2024年，俄罗斯图形芯片和人工智能硬件的进口量比战前水平下降了84%。5月，俄罗斯联邦储蓄银行开始四处寻找中国处理器，以维持自家模型运行。
阿莫代的计划有意进一步拉大这一差距。该计划主张禁止向威权国家提供先进芯片，并扩大民主国家的领先优势。
一项放缓发展的协议只会让俄罗斯固定在末位。拒绝协议对莫斯科毫无代价，因为无论如何，它需要的硬件都已遭到封锁。
Anthropic承诺给外部人士一枚徽章和一张办公桌，OpenAI则承诺会考虑此事。
伯尼·桑德斯清楚地指出：“这是个开始，但还不够。当你正朝悬崖飞驰时，不能只是松开油门。你得踩刹车。”
来自佛蒙特州的美国参议员呼吁特朗普总统和习近平主席谈判达成一项条约，在为时已晚之前暂停人工智能发展并禁止超级智能。
不过，戴维·萨克斯表示，中国极不可能加入一项全球协议。
来源：BeInCrypto
