NVIDIA GH200 CPU+GPU超級芯片大升級！史無前例282GB HBM3e內存

快科技8月9日消息，NVIDIA官方宣布了新一代GH200 Grace Hopper超級芯片平臺，全球首發采用HBM3e高帶寬內存，可滿足世界上最復雜的生成式AI負載需求。

NVIDIA 2022年3月推出了Grace Hopper超級芯片，首次將CPU、GPU融合在一塊主板上，不過直到今年5月份才量產。

其中，Grace CPU擁有72個Armv9 CPU核心、198MB緩存，支持1TB/s高帶寬的LPDDR5X ECC內存，還支持PCIe 5.0。

Hopper GPU則采用臺積電4nm定制工藝，800億晶體管，集成18432個CUDA核心、576個Tenor核心、60MB二級緩存，支持6144-bit HBM高帶寬內存，此前版本配備的是96GB HBM3。

雙路配置的系統中，兩顆新一代GH200超級芯片可帶來144個CPU核心、8PFlops(8千萬億次浮點計算每秒) AI性能、282GB HBM3e內存，容量是現在的3.5倍，而高達10TB/s的帶寬也是現在的3倍。

基于NVLink高速總線，GH200超級芯片還可以繼續拓展互連，GPU可以訪問全部的CPU內存，雙路配置下總容量可達1.2TB。

NVIDIA沒有透露采用的HBM3e來自哪家供應商，很可能是SK海力士。

首批基于GH200超級芯片的系統將在2024年第二季度出貨。

順帶一提，AMD Instinct MI300A、MI300X AI加速器分別配備128GB、192GB HBM3，后者帶寬超過5TB/s。