在 GTC 2022 上，NVIDIA发布了基于全新 NVIDIA Hopper GPU 架构的全新 NVIDIA H100 Tensor Core GPU。正如英伟达所说，这是一款专为超级计算机设计的 GPU，专注于 AI 性能，并通过架构更新和工艺改进，将其性能和效率提升到了一个新的水平。

　　NVIDIA H100 拥有800 亿个晶体管，与上一代 A100 相比，性能提升 6 倍，MMA 提升 2 倍。这款 GPU 是 CoWoS 2.5D 晶圆级封装，单芯片设计，采用台积电 4nm 工艺制造，但它是为 NVIDIA 定制的版本，不同于一般的 N4 工艺。

　　Nvidia 尚未公布 H100 的核心数量和时钟。据了解，GH100全芯片配备8组GPC、72组TPC、144组SM，共计18432个FP32 CUDA核心。它采用第四代Tensor Core，共576个，配备60MB L2缓存。但是，并非所有这些都在实际产品中打开。其中，SXM5版本启用了132组SM，共计16896个FP32 CUDA cores，528个Tensor Cores，50MB L2 cache，而PCIe 5.0版本启用了114组SM，FP32的数量CUDA 核心只有 14,592 个。此外，SXM5版本的TDP达到700W，PCIe 5.0为350W。

　　Nvidia表示，H100的FP64/FP32计算性能为60 TFlops，FP16计算性能为2000 TFlops，TF32计算性能为1000 TFlops，都是A100的三倍。此外，NVIDIA在Hopper架构上改进了对FP8运算的支持，使其计算性能达到4000 TFlops，是A100的6倍。

　　据英伟达介绍，H100支持英伟达第四代NVLink接口，可提供高达900GB/s的带宽。同时，H100还支持不使用NVLink接口的系统，取而代之的是PCIe 5.0，带宽为128GB/s。Nvidia表示，H100是第一款支持PCIe 5.0标准的GPU，也是第一款使用HBM3的GPU。它最多支持6个HBM3，带宽为3TB/s，是使用HBM2E的A100的1.5倍。默认内存容量为 80GB。

　　Nvidia 还添加了新的 DPX 指令，旨在加速动态编程，以帮助更广泛的算法，包括路线优化和基因组学。Nvidia 表示，这些算法的执行速度比其上一代 GPU 快 7 倍，比基于 CPU 的算法快 40 倍。Hopper 架构还提高了安全性，与 A100 相比，第二代多实例 GPU (MIG) 技术可提供大约 3 倍的计算容量和大约 2 倍的每个 GPU 实例的内存带宽。

　　NVIDIA H100 可广泛部署于各类数据中心，将面向全球云服务提供商和计算机制造商提供，预计将于今年第三季度开始供货。