NVIDIA 免费提供强大的人工智能 — 并从中赚取比竞争对手更多的收益

NVIDIA 最近发布了 Nemotron 3 Ultra —— Nemotron 3 系列中最大的开放 AI 模型。发布于 2026 年 6 月 4 日:该模型的权重、训练数据和训练方法都在免费许可下公开可用。该模型旨在用于长期运行的自主代理和复杂推理。
与 ChatGPT 或 Claude 等封闭旗舰产品不同,Nemotron 3 Ultra 可以下载、在您自己的数据上进行微调,并在您自己的基础设施上运行。这里的赌注不是在于最大智能,而是在于开放性、效率和对模型的控制。
想要更多独家新闻和分析吗?订阅我们的电报频道,在聊天中讨论新闻并分享您对最新市场事件的看法!
是什么让该模型的架构特别
Nemotron 3 Ultra 不仅仅是一个 «放大的变压器»。它的核心是一个混合架构,由三种不同的方法组成:Mamba-2 层、注意力层(Attention)和潜在专家混合(Latent MoE)—— 一种将每个查询仅路由到模型内部相关 «专家» 的机制。
Mamba-2 层快速且经济地处理长文本:它们的成本随着长度线性增长,而不是像通常的注意力机制那样呈雪崩式增长。注意力层则准确地在内存中保持大量文本。而 Latent MoE 在将数据传递给专家之前进行压缩,因此每个专家都能狭窄而精确地工作,而无需额外的计算。
总的来说,该模型大约有5500亿个参数,但每个令牌处理时仅大约使用550亿个参数。因此,它的思维方式像一个庞大的系统,而在成本方面则表现得像一个更紧凑的系统。结合100万个令牌的上下文窗口和每秒超过300个令牌的速度,这提供了五到六倍的吞吐量和大约30%的任务成本降低。
来源:BeInCrypto