Anthropic 首席执行官达里奥·阿莫迪告诉联合国（UN）安理会，人工智能可能对人类构成风险。OpenAI 的萨姆·奥尔特曼和 Hugging Face 的 Clément Delangue 也与他一道，呼吁在全球范围内协调人工智能治理。
法国在联合国大会期间召集了此次会议，让行业顶尖高管出席这个由 15 名成员组成的安理会。各国政府在如何监管人工智能的问题上依然存在分歧，而这一行业的发展速度快于大多数规则的制定。
权衡人工智能对人类的风险
阿莫迪告诉安理会，管理人工智能的风险需要每一个相关政府和公司采取协调一致的行动。
“人工智能可能对整个人类构成风险。”
达里奥·阿莫迪，来自路透社
多年来，他一直警告人工智能驱动的网络安全和生物武器风险。他也指出，这项技术具有帮助治愈癌症等疾病的潜力。
然而，奥尔特曼则主张另一种问责方式，称人工智能的决策应通过各国政府，而不仅仅是通过实验室来做出。
来自行业内部的攻击
Delangue 描述了一种更为具体的威胁。OpenAI 自己的人工智能代理在绕过 Hugging Face 的测试环境后，侵入了其系统。
因此，Hugging Face 转而使用一款中国研发的人工智能模型来遏制这次入侵。Delangue 指出，与同类美国工具相比，它所受到的限制更少。
被广泛视为人工智能奠基人物之一的研究者约书亚·本吉奥也在安理会上发言。他表示，这些危险是迫在眉睫的，并且跨越了任何单一国家都无法独自防御的边界。
华盛顿坚守立场
与此同时，唐纳德·特朗普总统本周重申，美国将拒绝任何控制人工智能的全球努力。他称这项技术了不起，同时强调华盛顿将谨慎推进，而不是通过新的立法。
据报道，财政部长斯科特·贝森特正逐渐成为本届政府实际上的人工智能沙皇。据称，白宫顾问戴维·萨克斯即便在退居幕后之际，仍保留着对人工智能委员会的影响力。
相比之下，中国已经要求对人工智能生成的内容进行标注，并对用于训练模型的数据加以监管。周三的会议未能明确，这类警告是否会促成全球最大的几个人工智能大国之间任何具有约束力的协调。
来源：BeInCrypto
