国模配国芯：10 万张国产芯片扛下全球流量，智谱 GLM-5.3 全链路国产算力落地

一、一句话：发生了什么

8/26 晚，智谱 AI 揭晓匿名爆火的「Ox Alpha」（社区称「牛来」）——就是刚开源的多模态 MoE 模型 GLM-5.3-Flash（320B 总参/18B 激活/1M 上下文/MIT 协议），并披露一个更炸的细节：从匿名测试到正式发布后的全部线上推理流量，100% 由超过 10 万张中国国产加速芯片承载，一张英伟达 GPU 都没用。这是国产 AI 芯片第一次不以实验室基准测试露面，而是直接扛住海外开发者随机、高并发、长上下文的生产级流量洪峰。北京市科委 · 腾讯新闻·晚点

二、事件脉络：从匿名「牛来」到亮旗开源

三、核心看点：10 万张国产卡怎么扛住全球流量

智谱未点名芯片具体型号，据《晚点》《科创板日报》从供应链了解，大概率是 华为昇腾 + 海光 DCU + 摩尔线程三家异构混编：昇腾扛主计算、海光补双精度与显存带宽、摩尔线程填图形多模态编解码；租现成国产智算中心而非自购硬件。腾讯新闻·晚点

3.1 工程细节：给国产芯片「定制」推理引擎

• 自研高带宽互联：为克服单张芯片算力与内存容量相对有限的短板，用自研高带宽互联网络把十万级芯片连成集群。
• 专用推理引擎：在开源推理引擎 SGLang 基础上自建，采用 EPD（Encode-Prefill-Decode）分离式架构——把多模态编码、prompt 预填充、逐 token 解码拆成可独立调度、独立扩缩容的三个工作池；配合 W8A8 量化、INT8/FP8/BF16 混合缓存量化、节点内张量并行等「算力换带宽、通信换显存」的优化组合拳（国产芯片瓶颈正是内存容量与带宽）。
• 性能结果：与同一硬件初始基线相比，端到端服务性能提升 3 倍；智谱称硬件效率和单 token 成本已达到与主流英伟达 GPU 相当的水平。
• 「模型优化系统」飞轮：这套推理引擎的构建本身由 GLM-5.3 驱动的基础设施智能体加速完成——Agent 协助工程师开发算子、诊断性能瓶颈、改进部署栈，形成「模型优化系统，系统承载模型」的正向循环。

3.2 日吞吐逼近 100 万亿 token：真实生产级验证

匿名测试期间，320B 参数模型在完全免费状态下每天承受约 100 万亿 token 流量，全部跑在国产芯片上。SemiAnalysis 点评：「继 OpenAI 自研推理芯片 Jalapeño 宣布之后，英伟达 CUDA 护城河再度受到考验。」腾讯新闻·晚点

四、第二现场：海光 DCU Day 0 适配腾讯 Hy4 preview

「国模配国芯」不止智谱一家。8/30，海光信息宣布深算 DCU 率先完成腾讯 Hy4 preview 的 Day 0 适配——发布当天即支持推理全流程，展示国产算力对国产旗舰大模型的落地承接能力。快科技

对照来看，OpenAI 自研芯片 Jalapeño（8/25 Hot Chips 亮相，详见此前的热点解读）证明「美国模型公司自研芯片可行」，而智谱与海光则给出「中国模型 + 中国芯片」的另一条自主路线——两条路都在松动英伟达的垄断底座。

五、信号解读：为什么现在是个拐点

• 从「适配 Demo」到「生产洪峰」：以前国产算力的叙事总停留在「适配某款芯片」「能跑通某个模型」；智谱这次把生产流量整个切上去了——10 万张卡、100 万亿 token/日、全球开发者随机负载，「国产算力能扛生产」第一次有了真实数据。
• 成本结构改写盈利公式：国产大模型厂商普遍「增收不增利」（MiniMax 上半年营收 +283% 但亏损翻倍至 2.93 亿美元）。如果推理成本能被国产算力打下来，盈利路径会清晰得多——「国产芯片降本」正成为资本市场买单的新叙事（智谱港交所股价 8/27 涨超 8%）。
• SemiAnalysis 的「CUDA 护城河」判词：继 Jalapeño 之后，国产芯片集群的规模化验证让「英伟达独大」的叙事再松动一层。但注意：这是推理侧的挑战，训练侧英伟达地位短期仍稳固。
• 与开源主线的合流：GLM-5.3 全量权重采用「分级开源」定制许可、腾讯 Hy4 开源、加上海光 Day 0 适配——开源权重 + 国产算力，正在形成「中国 AI 自主双轮」，这正是 8 月新华网综述里「开源热度持续攀升」的另一面。

六、一句话总结

智谱用 10 万张国产芯片扛下全球生产级流量，把「国模配国芯」从实验室 Demo 推到了真实洪峰验证；海光 Day 0 适配腾讯 Hy4 再添一把火。推理侧「英伟达独大」的叙事被中美两条自研/国产路线同时松动——训练侧的国产替代，是下一仗。