700W功耗性能猛獸 售價超24萬元 NVIDIA稱H100顯卡全面投產

最近幾個月來以ChatGPT為代表的AI大火，也導致了訓練AI用的NVIDIA加速顯卡備受追捧，黃仁勛也多次推薦大家購買A100顯卡，不過這并不是NVIDIA最新最強的AI卡，去年發(fā)布的H100才是性能猛獸。

至于黃仁勛為何不重點推H100加速卡，主要是這款顯卡之前產量不多，但在日前的GTC 2023大會上，黃仁勛宣布H100已經全面投產，并部署在多家客戶的云計算服務中，包括微軟的Azure、谷歌、甲骨文等客戶數(shù)據(jù)中心。

H100加速卡與2022年3月份的GTC大會上發(fā)布，采用Hopper架構，GH100大核心，臺積電4nm制造工藝、CoWoS 2.5D封裝技術，集成800億個晶體管，核心面積814平方毫米。

它擁有18432個CUDA核心、576個Tensor核心、60MB二級緩存，支持6144-bit位寬的六顆HBM3/HBM2e，支持PCIe 5.0，支持第四代NVLink總線。

H100計算卡有SXM、PCIe 5.0兩種樣式，其中SXM版本15872個CUDA核心、528個Tensor核心，PCIe 5.0版本14952個CUDA核心、456個Tensor核心，功耗最高達700W。

性能方面，F(xiàn)P64/FP32 60TFlops(每秒60萬億次)，F(xiàn)P16 2000TFlops(每秒2000萬億次)，TF32 1000TFlops(每秒1000萬億次)，都三倍于A100，F(xiàn)P8 4000TFlops(每秒4000萬億次)，六倍于A100。

售價方面，H100的官方建議價一直沒公布，但日本市場之前預售的價格是475萬日元，約合人民幣24.2萬元，比A100的價格至少翻倍了。