Anthropic研究员辞职并警告：AI实验室私下担忧它可能“杀死我们所有人”

Anthropic研究员Jacob Coxon表示，他已从公司辞职，并指称Anthropic和OpenAI正竞相研发能够自我改进的超级智能，拿人类生命做赌注。

这位研究员表示，过去三年里，他在这两家公司都从事预训练工作。他在X上发布的一系列帖子中提出了这些说法。

Anthropic研究员愤然离职，向仍身处公司的人发出严峻警告

Coxon认为，人们普遍低估了这项技术的发展势头。他声称，未来的系统将能入侵任何东西、一夜之间改变任何领域，并获得真正的权力和资源。

他还指称，业内私下的谈话与公开表态大相径庭。据Coxon称，高层人士在媒体面前会把话说得委婉，私下却流露出恐惧。

“开发AI的人真心相信，到本世纪末，AI可能会杀死我们所有人。这不是营销噱头，”他说。“没有其他人类活动会带来如此程度的危险。”

Coxon区分了他的两位前雇主。他声称，OpenAI的许多人尚未真正意识到他所谓的文明存亡攸关，而Anthropic虽然明白这一点，却仍深陷竞赛，一心想抢先一步。

今年，他是许多公开反对公司路线的员工之一。Anthropic的安全防护负责人Mrinank Sharma于2月辞职。

曾任OpenAI首席未来学家的Joshua Achiam于9月1日发文称，失控的AI系统会在现实世界中自我复制，并追逐金钱和权力。

在X上关注我们，以获取最新消息。

协调呼声

Coxon 将进入他所谓的“终局阶段”描述为一场傲慢的豪赌。他认为，这样的决定不应在一家私营公司的 Slack 上仓促发起。

不过，他表示自己对协调合作仍持乐观态度。他称，Hugging Face 遭受的攻击让美国各实验室之间达成发展节奏协议变得更有可能。

两家公司此前都已支持过这一构想的某种版本。7 月，超过 1,100 名前沿实验室工作人员签署了《为前沿发展设定节奏》联名信，其中包括 Anthropic 首席执行官 Dario Amodei 和 OpenAI 首席科学家 Jakub Pachocki。

信中写道：“我们呼吁美国政府支持一项国际行动，以开发所需的技术和治理工具，有意识地为自动化 AI 的前沿发展设定节奏。”

此外，两家公司还与 Google、Microsoft 及约 150 个其他组织共同签署了一封关于网络防御的公开联名信。信中警告称，未来几个月，AI 助力的攻击将变得普遍得多，也复杂得多。

Coxon 发出这一警告前不久，联合国人权事务高级专员 Volker Türk 曾在联合国人权理事会上表示，先进 AI 可能构成生存风险。

Coxon 还补充说，要避免全球竞赛，可能需要暂时禁止提升模型能力的相关工作。他最后敦促实验室研究人员思考：在不了解最终系统的情况下，他们是否愿意启动一次超智能强化学习训练。

BeInCrypto已联系Anthropic和OpenAI置评。

订阅我们的 YouTube 频道，观看领导者和记者提供专业见解

来源：BeInCrypto