HBM（高帶寬內存）技術展望：2024年及以后

HBM（高帶寬內存）技術是即將到來的“內存內計算/處理”時代的一種“近內存計算（Near Memory Computing）/處理”階段。由于人工智能/機器學習的高需求，三星、SK海力士和美光這三大內存制造商正在HBM技術的開發上競相角逐。HBM是一種具有高帶寬和寬通道的3D堆疊DRAM器件，這意味著它非常適合高性能計算（HPC）、高性能圖形處理單元（GPU）、人工智能和數據中心應用所需的高能效、高性能、大容量和低延遲內存。因此，對于內存制造商而言，硅通孔（TSV）工藝集成和3D HBM DRAM芯片堆疊技術是最重要的關鍵詞。隨著HBM DRAM制造商為每一代產品開發和采用新技術，我們預計即將推出的HBM4（2025-2026年）和HBM4E（2027-2028年）器件將擁有48GB甚至64GB，16Hi和1.6TB/s或更高。

在HBM技術和產品方面，英偉達推出了配備HBM2E和HBM3器件的Hoper H100 Tensor Core GPU、Grace Hopper GH100和GH200。請參考SK海力士在市場上所有世代（HBM1、HBM2、HBM2E、HBM3、HBM3E和HBM4）HBM DRAM芯片的功能摘要[1]。自2013年以來，SK海力士發布了用于AMD和英偉達GPU的HBM芯片。帶寬從HBM Gen1的約1 Gbps和HBM Gen2的2 Gbps，增加到HBM2E的3.6 Gbps，再到現在的HBM3的6.4 Gbps和HBM3E的9.6 Gbps。
對于Gen1和Gen2 HBM器件，SK海力士在HBM DRAM芯片堆疊中采用了TC-NCF方法，而對于Gen3和Gen4則采用了MR-MUF工藝。SK海力士在此基礎上進行了更多優化，并為Gen5開發了先進的MR-MUF以改善散熱。即將推出的Gen6 HBM4可能會結合使用這種技術和新的混合鍵合技術。