Serveur GPU NVIDIA HGX B300 Cartes graphiques 2,1 To 16 × GPU NVIDIA Blackwell Ultra 270 Go HBM3E 7,7 To/s

Spécifications techniques                                                                                 HGX B300

GB300 NVL72

GPU Blackwell Ultra | CPU Grace

72 | 36

8 | 0

Cœurs de CPU

2 592 cœurs Arm Neoverse V2

-

Cœur tensoriel FP4 total1

1 440 PFLOPS | 1 080 PFLOPS

144 PFLOPS | 108 PFLOPS

Cœur tensoriel FP8/FP6 total2

720 PFLOPS

72 PFLOPS

Mémoire rapide totale

37 To

2,1 To

Bande passante mémoire totale

576 To/s

62 To/s

Bande passante totale du commutateur NVLink

130 To/s

14,4 To/s

Spécifications individuelles du GPU Blackwell Ultra

Cœur tensoriel FP41

20 PFLOPS | 15 PFLOPS

18 PFLOPS | 14 PFLOPS

Cœur tensoriel FP8/FP62

10 PFLOPS

9 PFLOPS

Cœur tensoriel INT82

330 TOPS

307 TOPS

Cœur tensoriel FP16/BF162

5 PFLOPS

4,5 PFLOPS

Cœur tensoriel TF322

2,5 PFLOPS

2,2 PFLOPS

FP32

80 TFLOPS

75 TFLOPS

Cœur tensoriel FP64/FP64

1,3 TFLOPS

1,2 TFLOPS

Mémoire GPU | Bande passante

279 Go HBM3E | 8 To/s

270 Go HBM3E | 7,7 To/s

GPU multi-instances (MIG)

7

Moteur de décompression

Oui

Décodeurs

7 NVDEC3

7 nvJPEG

Puissance de conception thermique (TDP) max.

Configurable jusqu’à 1 400 W

Configurable jusqu’à 1 100 W

Interconnexion

NVLink de cinquième génération : 1,8 To/s

PCIe Gen6 : 256 Go/s

Options de serveur

Partenaire NVIDIA GB300 NVL72 et systèmes certifiés NVIDIA™

Partenaire NVIDIA HGX B300 et systèmes certifiés NVIDIA

1. Spécification en Sparse | Dense

2. Spécification en sparse. La spécification Dense est la ½ de la spécification sparse affichée.

3. Les formats pris en charge offrent les accélérations suivantes par rapport aux GPU H100 : 2x H.264, 1,25x HEVC, 1,25x VP9. AV1