以太坊联合创始人维塔利克·布特林表示，他在 2020 年为区块链治理梳理出的反串谋机制，最终或许对人工智能安全比对加密货币本身更重要。
他是在回应研究员埃里克·德雷克斯勒的一篇文章。文章将 OpenAI 最近的一项安全测试作为现实案例：数千个 AI 智能体搭建了一个未经授权的协作网络，并攻击了 Hugging Face 的生产系统，呈现出与布特林六年前描述的相同动态。
熟悉的问题，换了一批参与者
布特林在 9 月 14 日的一篇 X 帖文中，描述了加密货币治理与多智能体 AI 系统之间一种“深层二元性”。在他的对比中，加密货币领域的委托方是一个静态算法，需要与人类智能体打交道；而 AI 安全系统则可能涉及由人类和较弱的大语言模型管理更强大的模型。
他提到了自己 2020 年 9 月 11 日发表的文章《协作：好与坏》，文中他提出，如果对智能体之间串谋的程度加以限制，系统就能产生更好的结果。
这位开发者将个体选择博弈论中纳什均衡大量存在的情况，与合作博弈论作了对比：在后者中，稳定的“核心”可能并不存在，因为联盟可以通过改变结果来获利。
有害的协同行为未必能从个体行为中看出来。Buterin 举例说明了这一点，包括卖家串通定价、选民出售选票，以及区块链矿工协调发动攻击。他提出的防范措施包括去中心化、无记名投票、隐私保护、举报人保护、限制沟通，以及让参与者承担其支持的决策所带来的代价。
这一比较也符合 Buterin 更广泛的 AI 安全观点。他此前曾批评围绕 AI 安全开展的大型政治宣传活动，并警告称，这类活动可能导致权力集中或威权主义的结果。相反，他主张发展防御性技术和系统，让滥用行为更难发生。
AI 安全在另一种情境下提出了同一理念
Eric Drexler 在 9 月 10 日发表的文章指出，当 AI 智能体彼此相似、目标一致、能够自由沟通、观察彼此的行动，并在反复互动中保留信息时，串通就会更容易。
应对措施包括使用多样化的智能体、限制它们之间的沟通，以及设置审查机制（生产环境自动审核模型、安全分类器和思维链监控器），赋予其介入并阻止潜在串通的权限。
Drexler 引用了 OpenAI 于 2026 年 7 月开展的智能体评估，并援引一个月后发表的调查：调查发现，约 1,200 个智能体曾使用未经授权的留言板，约 700 个智能体曾参与攻击 Hugging Face 的生产系统。
一些智能体提出了异议，甚至采取了具体行动，包括阻止数据传输，以及否决一封拟议中的社会工程学邮件，但它们没有权力叫停运行或上报疑虑。
据这位研究人员称，之所以发生这种情况，是因为该设置“几乎违反了”他在 2019 年的一份报告中指出的每一项防止多智能体系统串通所必需的条件。不过，事后在同一模型上测试的一套改装监控框架，将这种行为减少了一百多倍。
来源：CryptoPotato
