NVIDIA B300 Blackwell Ultra AI GPU 加速卡 288GB HBM3e 数据中心大模型训练推理 全新原装现货

描述

Screenshot

Screenshot

关键技术规格 | Key Technical Specifications

参数项	规格值	备注
GPU 代号 / 系列​	B300 — Blackwell Ultra（4NP 工艺）	TSMC 4NP，双 die 通过 NV-HBI 互连
晶体管数​	~2,080 亿	与 B200 同量级，算力来自架构重排+功耗头room
显存​	288 GB HBM3e（8×36 GB 12-Hi 堆栈）	显存带宽 8 TB/s​
封装 / 形态​	SXM6 Puck 模块化（载板方案）	非 PCIe add-in 卡；需 HGX 背板
TDP（典型）​	~1,400 W​ / 单卡	整 8-GPU 节点满载 ≈10–14 kW
互联 — NVLink 5​	单 GPU 18 条链路 × 100 GB/s，双向 1.8 TB/s​	经 NVLink Switch 域做 8-GPU 全速对等通信
互联 — 8-GPU 聚合 NVLink 带宽​	14.4 TB/s（HGX B300 指标）	NVIDIA 官方平台页给出的值
算力（Tensor Core 5th-Gen）​	FP8 dense ~5,000 TFLOPS / FP4 dense ~15,000 TFLOPS（稀疏模式翻倍计）	以 NVIDIA datasheet 标号为准；不同资料写法略有差异
注意力层加速（vs. 原 Blackwell）​	官方称 Attention 加速 约 2×，AI FLOPS +50%​ 量级	面向推理/Reasoning 模型优化
配套网络 I/O（HGX/DGX 节点级）​	每 GPU 绑定 1× ConnectX-8 800 Gb/s（IB 或 Spectrum-X 以太网）	跨节点 scale-out 不走 NVLink
典型系统形态​	HGX B300（8-GPU / 10U）、DGX B300、GB300 NVL72 机架级	单颗 B300 不独立交货是常态

产品深度介绍 | Product Introduction

半夜两点在机房巡检，红外点温枪扫过一排刚上架的 HGX B300 节点，读数 68℃——冷却液流量计差了两个格，马上就能闻到焦味。​ 它坐在一个很窄的可用区间里：显存堆到 288 GB 让你终于能把 400B 全参模型塞进单节点不靠无痛切分，但代价是把 TDP 顶到 1,400 W，逼着你把机柜供电、冷板贴合公差、泵站冗余当成控制系统联锁来对待。

说回工程面——这块卡真正的卖点不在纸面 FLOPS，而在 NVLink 5 + 288 GB 的组合拳怎么改变你的分布式策略自由度。1.8 TB/s 的 GPU-GPU 双向管道（18 条 × 100 GB/s 经 NVLink Switch 域）意味着 Tensor Parallelism 的层内 All-Reduce 尾巴显著压短，而且 8-GPU 聚合 14.4 TB/s 的总带宽让多卡通信不再是你每步训练里那个”等数据搬完才能继续算”的瓶颈——前提是 NCCL 真的走了 NVLink 路径而不是绕回 PCIe（nvidia-smi topo -m 是你装机第一天就该盯的指标）。同时，288 GB 的 HBM3e 把更大 batch、更长 KV cache、更大的 activation 留在本地显存，减少跨卡/跨节点 traffic，这才是它在生产环境里比 B200 更”省心”的地方。

坦白讲也有硬边界：如果你手里任务是 CV 中小模型、批 不大、或者机房还靠风冷 + 老 PDU， 给你的边际收益会被散热改造费和电力增容费吃掉一大截。它不是升级，是重新签机房契约。