NVIDIA 最近发布了 Nemotron 3 Ultra —— Nemotron 3 系列中最大的开放 AI 模型。发布于 2026 年 6 月 4 日：该模型的权重、训练数据和训练方法都在免费许可下公开可用。该模型旨在用于长期运行的自主代理和复杂推理。
与 ChatGPT 或 Claude 等封闭旗舰产品不同，Nemotron 3 Ultra 可以下载、在您自己的数据上进行微调，并在您自己的基础设施上运行。这里的赌注不是在于最大智能，而是在于开放性、效率和对模型的控制。
想要更多独家新闻和分析吗？订阅我们的电报频道，在聊天中讨论新闻并分享您对最新市场事件的看法！
是什么让该模型的架构特别
Nemotron 3 Ultra 不仅仅是一个 «放大的变压器»。它的核心是一个混合架构，由三种不同的方法组成：Mamba-2 层、注意力层（Attention）和潜在专家混合（Latent MoE）—— 一种将每个查询仅路由到模型内部相关 «专家» 的机制。
Mamba-2 层快速且经济地处理长文本：它们的成本随着长度线性增长，而不是像通常的注意力机制那样呈雪崩式增长。注意力层则准确地在内存中保持大量文本。而 Latent MoE 在将数据传递给专家之前进行压缩，因此每个专家都能狭窄而精确地工作，而无需额外的计算。
总的来说，该模型大约有5500亿个参数，但每个令牌处理时仅大约使用550亿个参数。因此，它的思维方式像一个庞大的系统，而在成本方面则表现得像一个更紧凑的系统。结合100万个令牌的上下文窗口和每秒超过300个令牌的速度，这提供了五到六倍的吞吐量和大约30%的任务成本降低。
来源：BeInCrypto
