维塔利克·布特林力推本地 AI：你的笔记本电脑能取代 ChatGPT 吗？

以太坊联合创始人 Vitalik Buterin 表示，本地人工智能（AI）很快就能处理日常任务中的很大一部分。他在自己的笔记本电脑上运行了阿里巴巴的 Qwen3.8-Flash-Next，并公布了速度测试结果。

与 ChatGPT 不同，这种设置完全不会连接云服务器。模型就在设备上，由设备自行处理请求并给出答案。

Vitalik Buterin 的本地 AI 测试显示，速度已达到实用水平

他的笔记本电脑搭载了 AMD 的 Strix Halo 芯片。大多数电脑会将任务分配给处理器和独立显卡，两者各自使用独立的内存池。Strix Halo 则将两者集成在同一块硅片上，并让它们共享一个内存池。

这种设计很重要，因为 AI 模型必须先装入内存才能运行。普通显卡通常只有 8 到 24 GB 内存，远远不足以容纳这么大的模型。Strix Halo 设备最高配备 128 GB 内存，芯片的两部分都可以使用。因此，一台笔记本电脑就能容纳一个直到最近还需要服务器硬件才能运行的模型。

他公布的速度足以应付日常工作。较短的提示词能以舒适的阅读速度得到回复。但当提示词长达数万字时，输出速度就会变慢，因此超长文档仍是它的薄弱环节。

阿里巴巴于 8 月 26 日发布了该模型的开放权重。团队称，该模型拥有 1250 亿个参数，但每次只激活 60 亿个参数，因此内存需求较低。

Buterin 将其称为 Qwen3.8-Flash，不过阿里巴巴提供下载的版本名为 Qwen3.8-Flash-Next。它更大的同系列型号 Qwen3.8-Max 在 8 月的基准测试中取得了亮眼成绩。

Buterin 认为，除了纯粹的速度之外，本地运行还有另一重好处。模型在设备上作答，因此服务提供商永远不会收到请求。

对于要求更高的任务，他提出了一种分工方案：本地模型先处理力所能及的部分，再从要传给更大型托管系统的内容中剔除敏感细节。

“用本地模型来协调对强大模型的查询，这样你的查询就不会泄露个人信息”

实际操作中，本地模型会从提示词中提取姓名、钱包地址或私有代码，然后只传递剩下的问题。这种筛查可以减少离开设备的信息，但无法保证不会有敏感内容漏出去。

这一主张与他一贯的立场相符。在欧盟聊天管控之争期间，他曾警告监控风险；出于类似原因，加密货币用户也一直在推动对智能体施加更严格的限制。

一项于 5 月提起的集体诉讼指控 OpenAI 将 ChatGPT 用户的查询内容分享给 Meta 和 Google。

前沿模型仍由云服务提供商掌控。但本地性能每提升一点，就有更多日常任务可以从他们的服务器上转移出去，而价格低廉的共享内存硬件也在不断普及。

尚待解答的问题是，人们愿意为了掌控权而牺牲多少能力。

来源：BeInCrypto