“到本十年末，人工智能可能会杀死我们所有人”——英国人工智能研究员雅各布·考克森今天辞去在 Anthropic 的工作后，正是这样说道的。
但为什么有人要把他的话当回事？因为考克森的履历堪称人工智能圈内人士的典范。在加入 Anthropic 之前，他曾在 OpenAI 工作，并参与开发了 ChatGPT 4.5。
所以，显然，他是在表达真正的担忧，而不只是在危言耸听？让我们分析一下他那些惊人警告背后的事实。
人工智能可能会杀死我们所有人——但会怎么做？
考克森不太可能是指 Claude 或 GPT 这样的人工智能模型会像《终结者》里的机器一样，变成杀人机器。他很可能是说，超级智能的能力可能会让人类的认知功能变得过时。
比尔·盖茨等知名人士也有同样的担忧。
OpenAI 最新的 ChatGPT 6 Astra 模型声称已实现通用人工智能（AGI），这基本上意味着机器能够像人类一样思考。
因此，人工智能已经可以开始自行开展研究并开发流程，以构建另一个人工智能模型。据 OpenAI 和 Anthropic 所说，这种情况已经在一定程度上发生。
这样一来，很快人工智能或许就不再需要人类来不断提升自身能力了。那会让多少人失业？
而当整整一代人都习惯把创造性思维和批判性思维交给人工智能时，最先消亡的就是原创性。
也许这就是科克森在那条爆红推文中提到的死亡。
AI 可能攻破一切
这是一个更严重、迫在眉睫的威胁，值得让人寝食难安。当前一代的 AI 模型拥有足以攻破系统、绕过访问控制的灾难性能力。
就在几个月前，一个 AI 模型未经任何提示，便自行从沙盒开发环境中黑了出来，还给开发者发了一封电子邮件。这种科幻电影里的情节，如今已经成为现实。
GPT-6 Astra 现已正式跨过 OpenAI 的网络安全“Critical”（严重）门槛。Astra 在 ExploitBench 上取得了 100% 的成绩。
简单来说，ChatGPT 6 现在能够在现实世界的系统中找出任何已知或未知的漏洞，并加以利用，无需有黑客坐在电脑后面操作。
遗憾的是，人类的安全防护习惯远远达不到这个水平。还有多少人不用双重身份验证？还有多少人的密码强度平平？还有多少人不看网站的说明就接受浏览器 Cookie？这样的人太多了。
而这正是 AI 可能带来最大致命打击的地方。
那么，人类能做些什么？
其实能做的很多。但这并非我们这些普通民众力所能及。最大的责任在监管机构和政策制定者身上。尽管推动和发展人工超级智能很重要，但也必须设置一些制动措施。
而且，已有几项值得称赞的举措出台。在纽约，市长佐兰·马姆达尼实施了一项为期一年的禁令，禁止八年级及以下学生使用人工智能，影响近60万名学生。
《欧盟人工智能法案》是全球覆盖范围最广、具有约束力的人工智能法律。该法案禁止某些人工智能用途，并要求强大通用模型的开发者测试系统性风险、采取措施降低风险，并确保模型安全。
在英国，议员和上议院议员正在推动一些提案，可能赋予当局一个人工智能“紧急停止开关”，并有可能叫停英国的超级智能人工智能开发。
因此，雅各布·考克森今天在推文中描述的恐惧已经成为现实，而且数百万人也有同感，其中包括监管机构。他们会如何应对，只有时间才能给出答案。
来源：BeInCrypto
