3360亿晶体管！性能怪兽-英伟达 Rubin GPU 架构全面拆解解析

英伟达 Rubin GPU 架构全面拆解：相对 Blackwell 智能体 AI 性能提升 10 倍，集成 3360 亿晶体管

英伟达已完整披露其 Rubin AI GPU 架构，相对 Blackwell 在智能体（Agentic）时代实现大幅跃升。

英伟达用 Rubin GPU 重塑数据中心，带来全球最快 AI 性能

Rubin GPU 是英伟达下一代数据中心平台的核心；这款芯片历经数年打造，如今终于进入全面供货阶段。首批 Rubin AI 平台已落地全球多家大型科技公司，英伟达也到了该完整公开架构细节的时候——正是这些设计造就了这颗将塑造智能体格局的强力 AI 芯片。

图：极端软硬协同平台在智能体场景下的交付能力对比——Rubin NVL72 + Vera 相对 Blackwell NVL72 + x86 可支持 10 倍智能体、2 倍工具调用。

据英伟达称，相对 Blackwell，Rubin 芯片在单位能耗下的智能体吞吐提升 10 倍，主要依托三大架构变化：

·增强型 Tensor Core，精度能力扩展

·全新 HBM4 内存子系统

·第三代 Transformer Engine

不过先从架构拆解入手，看看芯片内部。

Rubin 架构拆解：数百亿晶体管级巨兽

英伟达 Rubin 芯片采用台积电 3nm（N3P）制程，使用两颗光罩极限尺寸（reticle-limited）的管芯，以实现其高密度与高效率特征。两颗管芯通过英伟达高带宽接口（NV-HBI）封装在同一统一封装内。整颗芯片共集成 3360 亿晶体管，比 Blackwell GB300 多 62%。

每颗 Rubin GPU 内部有 8 个 GPC（Graphics Processing Cluster，图形处理集群），合计 224 个 SM（Streaming Multiprocessor，流式多处理器）和 896 个 Tensor Core。按此平均约为每个 GPC 28 个 SM、112 个 Tensor Core；但从框图看，GPC 分两类，一类 30 个 SM，另一类 26 个 SM。

图：架构概览——1,800 GB/s 一致性 CPU–GPU 接口；896 个 Tensor Core，50 PF NVFP4；288 GB HBM4（最高 22 TB/s）；经 NVLink Switch 3,600 GB/s。

每颗管芯有 4 个 GPC，连接两大块去中心化大容量 L2 缓存、Gigathread Engine、四个 HBM 通道（每管芯 4096 位）以及 NVLink 接口。芯片还集成 PCIe Gen6 控制器以对接主机 CPU；NVLink v6 IO 与 NVLink 交换机相连，带宽为 3600 GB/s。MIG 控制器可将 GPU 划分给多任务负载，另有 NV-DEC 用于加速解码。

图：Blackwell 与 Rubin 的 NVLink 通信对比——Rubin 通过计数器更新等方式加速通信。

芯片还通过 TEE-I/O 支持机密计算（Confidential Computing），在 AI 工作流中保护静态、传输中与使用中的数据安全。

市面上最快的 HBM4：更快数据搬运

内存方面，英伟达 Rubin 采用最新 HBM 标准 HBM4。在当今 AI 场景中，更快的数据搬运已至关重要；Rubin 全力配置 288 GB 容量，由八个 12 层堆叠（12-Hi）组成（每堆叠 36 GB，每颗 DRAM 3 GB）。这些堆叠峰值带宽达 22 TB/s，是目前市面上最快的 HBM4 方案。

英伟达还采用新一代增强型 Tensor Memory Accelerator（TMA），在片内高效搬运高度复杂的数据；同时 NVLink 6 提供 3600 GB/s 的 scale-up 带宽，支撑全互联 GPU 间通信。NVLink-C2C 接口提供 1800 GB/s 的 CPU 到 GPU 通信；PCIe Gen6 ×16 通道为主机 CPU 连接提供 256 GB/s 带宽。

图：Rubin 内存带宽最高可达前代约 2.8 倍——Rubin（HBM4）22 TB/s，Blackwell / Blackwell Ultra（HBM3e）均为 8 TB/s。

HBM4 助力 token 生成

Rubin 的 HBM4 面向功耗与算力效率最大化设计，带来更快的解码与 token 生成能力。多数现代负载长时间处理长上下文、大 KV 缓存以及交互式 token 生成，使带宽更加关键。相对 Blackwell 内存方案 2.8 倍的提升（22 TB/s 对 8 TB/s），HBM4 方案带来：

·容量：支撑模型常驻、更大上下文窗口、更大 KV 缓存与更高并发，减少不必要的 KV 缓存换出（offload）。

·带宽：支撑逐 token 生成阶段——模型权重与 KV 状态必须快速搬运，才能让计算引擎保持忙碌。

·内存子系统：TMA 与内存局部性策略帮助软件高效使用内存子系统，使复杂数据布局也能达到较高实际带宽。

HBM4 放大了 Rubin 的能力，对支撑数万亿参数级模型、在不必费力换出 KV 缓存的情况下拉长上下文，以及更高并发与长视野推理负载都很关键。

增强型 Tensor Memory Accelerator：加速 MoE 与 token

Rubin 还搭载增强型 Tensor Memory Accelerator（TMA）。随着 MoE 模型中专家数量增加，TMA 能高效定位并搬运专家权重。通过改进的描述符（descriptor）处理，TMA 降低数据搬运开销，让软件路由与执行更高效。Inline Descriptor 也更新了对 TMA 的支持：内核可为共享同一布局的张量保留一份统一描述符，并在运行时直接在 TMA 指令中覆盖内存指针、步长等字段。

图：Blackwell 与 Rubin 的内存管理对比——Blackwell 每个专家需要一份 MoE 描述符；Rubin 可在所有专家间共享一份 MoE 描述符。

结果是：即使专家数量增加，MoE 模型扩展也更高效。芯片可以把更多时间用于推理计算，从而获得更高吞吐。

更快的 Tensor Core，更高吞吐

增强型 Tensor Core 被加到每时钟周期吞吐翻倍。做法是把 Tensor Core 沿 K 维一次可处理的数据量加倍。这对吞吐受限内核以及内存/延迟受限内核都有帮助。

英伟达解释，更大 K 维的好处是减少 K 循环迭代次数。例如，在 Blackwell 上需要 4 次 K 迭代的 GEMM，在 Rubin 上只需 2 次即可完成。

图：K 维指令吞吐翻倍——相对 Blackwell，Rubin 完成 K 维所需的迭代次数减少。

注意力（attention）也有改进：将激活稀疏与自适应压缩结合，并提高 softmax 吞吐。注意力流水线先做稠密 QK^T 计算，生成中间注意力分数。

随后 Rubin 可将该中间数据从 Tensor Memory 加载为结构化的 2:4 稀疏压缩形式，同时生成非零值及高效使用所需的元数据，从而降低分数的写回代价与存储需求。这样后续注意力阶段可在更少数据上运算，同时仍保持模型其余部分期望的稠密输出格式。

图：Rubin 自适应压缩稀疏——稀疏特性应用于 Transformer 块中的 attention 与 MLP，以及 Tensor Core 上的稀疏运算与相关元数据。

相对基线 Blackwell，Rubin 的指数（exponential）吞吐能力也有提升。相对 GB200，Rubin 提供每时钟每 SM 2 倍的 FP32 吞吐，与 GB300 相同；BF16/FP16 吞吐相对基线 Blackwell（GB200）为 4 倍，相对 Blackwell Ultra（GB300）为 2 倍。

Rubin 还支持依赖内核之间更细粒度的协同。消费端工作可以在所需输入数据就绪后更早启动，而不必等更大一批生产端工作全部完成。

图：细粒度内核重叠——Blackwell 与 Rubin 在线程块依赖关系上的对比。

结果是 GPU 时间线更紧凑，空闲空隙减少，依赖内核之间的重叠更好。这对智能体推理尤其有价值：激活沿模型顺序流动，内核间延迟会直接反映到每用户每秒 token 数上。

DSX MaxLPS：能效上的渐进提升

对当今 AI 数据中心而言，另一个关键因素是能效。Vera Rubin NVL72 属于顶尖系统，并引入一些新手段来拓展能效，例如功率导向（power steering）以及带储能的智能功率平滑（Intelligent Power Smoothing），纳入同一执行域，目标是在固定功率包络内最大化有用 token 产出。

图 9：GPU 功率曲线——功率平滑技术可压低 EDP 尖峰，并通过电容维持更平稳的交流输入。

瞬态尖峰会拖累整体吞吐，让 AI 工厂中可用容量被“闲置”。为此，Vera Rubin 系统配备基于荷电状态（SoC，state-of-charge）的智能功率平滑电源，吸收这些瞬态波动，使平均功耗相对上一代约降低 10%。它们还将 50 ms 峰值功率降低 20%，形成更平滑的功率曲线，并能支撑最大功率需求。

面向 AI 工厂，英伟达 DSX OS（含 DSX MaxLPS）覆盖 GPU、机架、液冷与工作负载，提供调度、生命周期管理与健康自动化等运维层能力，使在相同功率预算内可多部署约 40% 的 GPU，从而提高每次部署的吞吐。

图：启用 DSX MaxLPS 时，相同功率预算内最多可多部署约 40% GPU；未启用时存在“浪费的 AI 工厂潜力”。

上述能力合在一起，使 Rubin 成为 AI 数据中心的顶尖芯片，并将开启面向未来 AI 能力的新征程——覆盖智能体 AI 工作流，以及更往后的形态。

来源：https://wccftech.com/nvidia-rubin-gpu-architecture/

AI重构EDA 技术大会（8月18日 上海） 欢迎报名参会