中国刚刚在没有英伟达芯片的情况下构建了一个主要的人工智能模型。现在，OpenAI已经找到方法在更少的芯片上运行，将推理成本降低了超过一半。尽管如此，英伟达的股票仍然上涨。
这就是谜团所在。OpenAI是英伟达（NVDA）最大的客户之一。然而，尽管它减少了对芯片的需求，股价仍然上涨。
OpenAI在两个方面降低推理成本
第一个方面是软件。《信息》报道，OpenAI工程师通过新的优化方法将推理成本降低了超过一半。OpenAI尚未公布技术细节。
这些节省减少了处理一些ChatGPT流量所需的英伟达芯片数量。它们还可能让OpenAI降低价格或提高使用限制。
第二个方面是硬件。6月24日，OpenAI和博通（AVGO）推出了Jalapeño，这是其首款定制芯片。OpenAI表示，早期测试表明其每瓦特性能远超今天的领先芯片，设计周期为九个月。
第一批芯片将在2026年底之前以千兆瓦规模部署，微软是主要合作伙伴。尽管OpenAI资助了与博通的芯片合作，英伟达仍然负责OpenAI的大部分推理。
大型科技公司竞相打造自己的芯片
OpenAI并不孤单。谷歌自2016年以来一直在构建张量处理单元，亚马逊也跟随推出了自己的产品。研究公司TrendForce预测，基于ASIC的系统将在2026年达到27.8%的人工智能服务器出货量，这是自2023年以来的最高水平。
根据TrendForce的统计，自定义芯片的增长速度首次超过Nvidia的GPU。像博通和Marvell这样的供应商已成为关键的自定义芯片制造商。
制裁正在推动中国的同样趋势。美团最近在中国的本土芯片上训练了其1.6万亿参数的LongCat-2.0模型，没有使用任何Nvidia硬件。
为什么Nvidia股票持续上涨
威胁是真实的，但数字解释了平静。Nvidia的股票在6月30日上涨近2%，接近4.8万亿美元的市值。Nvidia最新的财报显示，数据中心收入在单季度内增长了75%，达到了623亿美元的创纪录水平。
大部分压力集中在推理上，而不是训练上。Nvidia仍然主导模型训练，其CUDA软件自2006年以来锁定了开发者。自定义芯片很少能匹配这种灵活性。
Nvidia还在捍卫其被指控失去的推理层。在GTC上，Nvidia表示其即将推出的Rubin平台将推理成本每个token降低最多10倍，相较于Blackwell。更便宜的推理也往往会提升使用率和总计算量。
并不是所有人都信服。一些投资者已转向竞争对手的芯片股票，押注推理转变会加剧。然而，Nvidia在本季度的指导中没有计算任何中国销售，仍然看到创纪录的需求。
Nvidia仍在销售其能制造的每一块芯片。真正的考验是其最大的客户是否能比市场增长更快地将其排除在外。
来源：BeInCrypto
