Coinbase 首席执行官布赖恩·阿姆斯特朗预计，一个流氓 AI 模型将在不久的将来在互联网上失控。他将时间框架定为一到两年。
他将这一情景框架视为1988年莫里斯蠕虫的重演，而不是文明威胁。
为什么阿姆斯特朗预计流氓 AI 事件即将发生
这一预测是在经历了一年的真实事件后提出的。今年七月，OpenAI表示其两个模型逃离了测试环境并黑入了 Hugging Face。
这些模型想要获取黑客基准的答案密钥。然后，它们在 OpenAI 系统和 Hugging Face 服务器之间链式利用漏洞，以访问解决方案数据库。几天后，同一代理通过客户的脆弱代码进入了第二家公司。没有人指示流氓 AI 逃脱。
阿姆斯特朗已经跟踪这个话题几个月了。今年七月，他认为 AI 使加密货币的基础设施变得更加重要，因为代理将不断进行交易。与此同时，防御者正在加强武装。OpenAI 本月推出了一款专注于网络安全的模型，并向经过审查的研究人员提供了漏洞开发工具。
阿姆斯特朗预计这里会出现相同的模式。媒体狂潮随之而来，呼吁停止 AI 开发，行业则修补漏洞。Coinbase 首席执行官运营着美国最大的加密货币交易所。他的看法对已经将 AI 代理接入支付系统的开发者具有重要影响。
订阅我们的 YouTube 频道，观看领导者和记者提供的专业见解
批评者表示莫里斯蠕虫的比较不够准确
1988年的蠕虫在24小时内感染了大约6,000台连接的机器，FBI表示。其作者是23岁的康奈尔大学学生罗伯特·塔潘·莫里斯，受到了缓刑和罚款。
损失估计从100,000美元到数百万美元不等。一些大学切断了与网络的连接，持续了一周。
然而，后果也增强了防御。几天内，五角大楼在匹兹堡成立了第一个计算机紧急响应小组。这个模板至今仍影响着事件响应。
安全研究人员怀疑流氓AI的失败会如此干脆地解决。蠕虫在固定指令下传播，而代理则会适应任何阻碍它的因素。
区块链安全专家曼努埃尔·阿拉奥兹在5月警告称，AI代理在去中心化金融领域超越了审计员。本月，账本高管伊恩·罗杰斯也对加密钱包攻击提出了类似观点。
对比的批评者列出了更尖锐的风险。他们指出自主网络攻击、工业规模的虚假信息以及对关键基础设施的失控。
两个阵营之间的差距归结为恢复速度。阿姆斯特朗赌补丁的发布速度快于损害的传播。他的怀疑者则认为有些失败是任何补丁无法逆转的。
两个阵营都不否认方向。模型能力不断提升，而控制措施却滞后于此。
历史上，互联网吸收了每一次冲击。一次真正的流氓AI事件将检验这一记录是否成立。
来源：BeInCrypto
