英伟达NVIDIA H100 80G GPU显卡
目前英伟达提供了数种不同的H100计算卡,分别为H100 PCIe、H100 SXM和H100 NVL(双GPU版本)。其中普通的H100配备了80GB的HBM2E,PCIe和SXM5版本都有,H100 NVL则有着188GB的HBM3,对应每个GPU为94GB。近日更新的PCI ID列表显示,英伟达很快会为H100带来94GB和64GB的SXM版本,其中前者还会有针对中国市场的版本,型号为H800L 94GB。
64GB很好理解,但是94GB并不是寻常的数字,与H100 NVL的情况类似,英伟达并没有解释这种容量具体如何配置的。去年还有报道称,英伟达还准备了一款120GB的PCIe版本,不过至今还没有得到官方的确认,有可能只是在实验室测试的工程样品,终不会出现在任何市场。
完整的GH100芯片配置了8组GPC、72组TPC、144组SM、共18432个FP32 CUDA核心,采用了第四代Tensor Core,共576个,并配有60MB的L2缓存。不过实际产品中没有全部打开,其中SXM5版本中启用了132组SM,共16896个FP32 CUDA核心,528个Tensor Core以及50MB的L2缓存,而PCIe 5.0版本则启用了114组SM,FP32 CUDA核心数量只有14592个。暂时不清楚拥有更大显存的H100的核心规格,估计会延续现有的配置。