GPU构架（GPU   Architecture）

NVIDIA Hopper

GPU存储（GPU Memory）

96 GB HBM3

GPU存储器带宽（GPU Memory Bandwidth）

4.0 TB/s

INT8 | FP8 Tensor   Core*

296 | 296 TFLOPS

BF16 | FP16 Tensor   Core

148 | 148 TFLOPS

TF32 Tensor Core

74 TFLOPS

FP32

44 TFLOPS

FP64

1 TFLOPS

RT Core

N/A

MIG

Up to 7 MIG

L2缓存（L2 Cache）

60 MB

媒体解码器（Media   Engine）

7 NVDEC

7 NVJPEG

功率（Power）

400 W

外形尺寸（Form Factor）

8-way HGX

传输速率（Interconnect）

Pce Gen5 x16：128GB/s

NVLink：900GB/s

Availability

PS：Nov 2023

MP：Dec 2023