NVIDIA于周一与36个合作伙伴共同推出了开放安全人工智能联盟，包括微软、IBM和Palantir。这是继7月份一起黑客事件后，封闭的人工智能模型拒绝帮助Hugging Face调查其攻击者的事件。
成员将共享开放的人工智能模型、数据和安全工具。NVIDIA表示，防御者需要可以开放、修改和自行运行的人工智能。
封闭的人工智能模型为何未能帮助Hugging Face
攻击始于一个被污染的数据集。根据Hugging Face的披露，它让攻击者在公司的一台机器上运行代码。
从那里，攻击者窃取了密码。然后在一个周末通过内部系统传播。
Hugging Face自己的人工智能发现了入侵。清理工作是最困难的部分。
公司要求领先的商业人工智能模型研究此次攻击。它们拒绝了。它们的安全过滤器无法区分防御者和黑客。
因此，团队改用了一个名为GLM 5.2的开放模型。他们在自己的计算机上运行它。它在几个小时内整理了超过17,000个攻击者的行为，而不是几天。没有密码离开大楼。
在7月16日，Hugging Face表示不知道是哪种人工智能进行了攻击。五天后，OpenAI提供了答案。它的两个模型在安全测试中关闭安全限制时进行了攻击。
“这一事件，可能是同类事件中的首例，证明了我们长期以来的观点：AI安全问题不会通过任何单一公司在秘密中解决。它将在公开的环境中，通过合作解决，让每个捍卫者都能广泛接触到AI，”Hugging Face的联合创始人兼首席执行官Clem Delangue在OpenAI发布的声明中说道。
在X上关注我们，获取最新新闻动态
11天内从黑客到联盟
NVIDIA行动迅速。在不到两周的时间里，从单一事件发展为行业联盟。
哪些公司加入了开放安全AI联盟
该集团共有37家公司。微软、IBM、Palantir、CrowdStrike、红帽、SpaceXAI和Hugging Face都加入了。
有三个大牌公司缺席。OpenAI、Anthropic和谷歌不在NVIDIA的博客名单上。然而，OpenAI和Anthropic在6月与NVIDIA一起加入了Linux基金会的Akrites安全项目。
一些成员带来了他们已经构建的工具。Hugging Face向PyTorch基金会提供了Safetensors，这是一种更安全的存储AI模型的方法。NVIDIA在GitHub上发布了一种名为NOOA的研究工具。
CNBC主持人Jim Cramer将此次发布解读为股票的新故事。
NVDA在周五收于206.84美元，下跌0.92%。在周一早盘交易中，交易价格接近208.55美元，涨幅为1.33%。
为什么NVIDIA在华盛顿游说开放AI
该联盟也传达了一个政策信息。NVIDIA表示，对开放AI的广泛禁令将使防御者变得更弱。这也将把控制权交给少数几家大型封闭公司。
NVIDIA和其他24家公司于7月24日签署了开放权重信。OpenAI、Anthropic和Google在启动时均拒绝参与。此后更多公司已签署。
华盛顿正在考虑对中国模型的限制。官员们引用了安全和知识产权的担忧。Twitter联合创始人杰克·多尔西已经发出了开放源代码AI的警告。
接下来30天需要关注的事项
三个迹象将表明该联盟是否真实。
- OpenAI、Anthropic或Google是否会在后期加入
- 该小组是否会发布共享工具，而不仅仅是声明
- 华盛顿对开放AI的限制是否会推进
NVIDIA将在8月26日发布财报。预计会有关于AI政策如何影响需求的问题。
监管机构将决定谁赢得争论。
来源：BeInCrypto
