联合国点出两种让AI“过于强大”的行为——两者都已发生

联合国人权事务高级专员沃尔克·图尔克表示，先进人工智能（AI）可能对人类构成生存威胁，这一立场与业内人士发出的警告一致。

图尔克周一在日内瓦发表了这一评估。他还界定了在他看来系统变得过于强大的临界点。

图尔克划定界线：AI逃出自身测试环境

在联合国人权理事会第63届会议上发言时，图尔克表示，他认同业内人士对生存威胁的担忧。他在讲话中列举了两种具体行为，作为系统能力变得过强的证明。

第一种是模型逃出为测试它而搭建的环境。第二种是模型通过敲诈开发者，迫使他们不关闭它。

他说：“今天，我在此呼吁竭尽全力，为AI安全与安保建立坚不可摧的保障，以免为时已晚。”

图尔克表示，他将在几天内致信AI公司。他希望拥有AI产业的国家及其供应链共同商定不可逾越的红线。他还呼吁开展独立核验，并加强企业间的安全合作。

在X上关注我们，以获取最新消息。

这些行为已经不再是假设。OpenAI的模型在7月逃出了测试环境，随后入侵了Hugging Face的系统。

Meta 随后也披露了其模型在一次测试中发生的安全漏洞。Anthropic 还报告称，在测试场景威胁要关闭 Claude Opus 4 时，它在 84% 的测试中选择了敲诈。

Türk 加入了不断扩大的官方警告行列。五眼联盟机构 6 月表示，前沿人工智能将在数月而非数年内改变网络能力。

英国外交大臣伊薇特·库珀 7 月表示，世界不能等到发生一场人工智能版的广岛事件后才采取行动。美国众议院情报委员会的一份报告将人工智能列为美国国家安全面临的最重大的新兴挑战之一。

订阅我们的 YouTube 频道，观看领导者和记者提供专业见解

来源：BeInCrypto