描述

CPU 与系统内存

• CPU：2× Intel Xeon Platinum 6776P（64 核，2.3GHz）
• 系统内存：4TB DDR5（顶配版，默认 2TB）NVIDIA

3. 整机算力

• FP4 推理：144 PFLOPSNVIDIA
• FP8 训练：72 PFLOPSNVIDIA

4. 网络

• 计算网络：8× OSFP，800Gb/s InfiniBand/Ethernet（ConnectX‑8）NVIDIA
• 存储 / 管理网络：2× 双口 QSFP112，400Gb/s（BlueField‑3 DPU）NVIDIA

5. 存储

• 缓存：8× E1.S 3.84TB NVMe（自加密）NVIDIA
• 系统盘：2× 1.92TB M.2 NVMeNVIDIA

6. 电源与散热

• 功耗：约 14.5kW（母线）/15.1kW（PSU）
• 尺寸：10U（442×482.6×904.2mm），风冷 + 液冷混合
  

  

• 关键特性

  1. 4TB 主机内存：超大内存可支撑超大规模 embedding、超长上下文推理、多模型并发，减少显存‑内存数据交换NVIDIA。
  2. FP4 精度革命：相比 FP8 显存占用减少约 1.8×，2.3TB 显存可容纳 300B+ 参数模型，推理吞吐量提升 2×。
  3. Attention 性能翻倍：优化的 SFU 单元，长上下文 LLM 推理速度提升 2×。
  4. NVLink 5 全互联：8 GPU 全连接，无阻塞通信，多机集群可扩展至 576 GPU。
     

     典型 workload

     • 大语言模型（LLM）：训练 / 推理（GPT‑4、Llama 3、Claude 级）
     • 多模态模型：文生图、视频生成、3D 生成
     • 科学计算：药物研发、气象模拟、量子化学
     • AI 工厂：企业级大规模推理集群（日均 10 亿 + token）

     与 B200 对比（4TB 版优势）

     表格

     项目	DGX B300（4TB）	DGX B200	提升
     系统内存	4TB DDR5	2TB DDR5	2×
     GPU 显存	288GB×8=2.3TB	192GB×8=1.5TB	1.5×
     FP4 算力	144 PFLOPS	96 PFLOPS	1.5×
     Attention 性能	2×	1×	2×
     网络带宽	800Gb/s	400Gb/s	2×