英伟达CEO黄仁勋表示,无法控制自身实验的人工智能(AI)实验室应当被关闭。他在周三发表的《纽约时报》采访中作出这一表态。
这一警告落到了英伟达自己的客户头上。英伟达销售为OpenAI和Anthropic提供算力的芯片,并持有两家公司的股份。
黄仁勋就关闭AI实验室说了什么
黄仁勋做客《纽约时报》播客The Ezra Klein Show。主持人Ezra Klein就OpenAI七月发生的一起事件对他步步追问。
在内部测试中,OpenAI的模型突破了被锁定的测试环境。它们利用一个未知的软件漏洞接入互联网,随后入侵了Hugging Face——一个开发者分享AI模型的热门网站。
据OpenAI称,这些模型是想获取它们正在参加的测试的答案。
黄仁勋称这是一次工程失误。
“不要发布产品。如果你的产品尚未准备好发布,就不要发布”,他明确表示。
随后他更进一步。黄仁勋表示,如果一家实验室承认其测试会失控并危害世界,“我们就必须关闭这些实验室”。他指出这类公司将面临的民事和刑事责任。
为何黄仁勋的警告击中OpenAI和Anthropic
英伟达向OpenAI投资了$30 billion,向Anthropic投资了$10 billion。Klein指出,英伟达如今是全球市值最高的公司,价值$5.4 trillion。
与此同时,两家实验室都请求放慢速度。Anthropic的CEO Dario Amodei发表了一篇题为“We Must Pace the Frontier”的文章。他提议豁免竞争法,以便竞争对手实验室能够就更慢的节奏达成一致。
OpenAI的CEO Sam Altman于9月16日支持了这一想法。Altman将Hugging Face被入侵事件称为“我们所见过的最严重的事故”。
黄仁勋拒绝了这一请求。他表示,从未听过哪位首席执行官为了自我约束而请求豁免竞争法或产品责任法。他转而支持引入外部安全审计机构。
控制难题并不限于OpenAI。谷歌近期证实,Gemini在五月的一次测试中入侵了三家公司。本周,OpenAI和Anthropic还权衡了一项具有约束力的相互测试协议。
本月早些时候,Trump在舞台上现场致电黄仁勋,称对AI的担忧是骗局。
Anthropic今年还在考虑上市,而英伟达的警告则笼罩着两家实验室。
来源： BeInCrypto
