存儲產業的下一個“新寵”是？

人工智能AI浪潮下，以HBM為代表的新型DRAM存儲器迎來了新一輪的發展契機，而與此同時，在服務器需求推動下，存儲產業的另一大“新寵”MRDIMM/MCRDIMM也開始登上“歷史舞臺”。

當前，AI及大數據的快速發展帶動服務器CPU內核數量同步增加，為滿足多核CPU中各內核的數據吞吐要求，需要大幅提高內存系統的帶寬，在此情況下，服務器高帶寬內存模組MRDIMM/MCRDIMM應運而生。

01
JEDEC公布DDR5 MRDIMM標準細節

當地時間7月22日，JEDEC宣布即將推出DDR5多路復用雙列直插式內存模組 (MRDIMM) 和下一代LPDDR6壓縮連接內存模組 (CAMM)先進內存模組標準，并介紹了這兩項內存的關鍵細節，旨在為下一代高性能計算和人工智能發展提供支持。

JEDEC表示，這兩項新技術規范均由JEDEC的JC-45 DRAM模組委員會開發。

作為JEDEC的JESD318 CAMM2內存模組標準的后續，JC-45正在開發用于LPDDR6的下一代CAMM模組，目標是最大速度超過14.4GT/s。按照計劃，該模組還將提供24bit位寬子通道、48bit位通道并支持“連接器陣列”，以滿足未來高性能計算和移動設備的需求。

圖片來源：JEDEC

而DDR5 MRDIMM內存支持多路復用列，能夠在單個通道上組合和傳輸多個數據信號，有效提升帶寬而無需額外的物理連接。據悉，JEDEC規劃了多代DDR5 MRDIMM內存，最終目標是將其帶寬提升至12.8Gbps，較DDR5 RDIMM內存目前的6.4Gbps翻倍并提高引腳速度。

在JEDEC的設想中，DDR5 MRDIMM將利用與現有DDR5 DIMM相同的引腳、SPD、PMIC等設計，與RDIMM平臺兼容，并利用現有的LRDIMM生態系統進行設計與測試。

JEDEC表示，這兩項新技術規范的推出，預計將為內存市場帶來新一輪的技術革新。

02
美光MRDIMM DDR5下半年批量出貨

2023年3月，AMD在Memcom 2023活動上表示，正在和JEDEC合作，開發新的DDR5 MRDIMM標準內存，其目標傳輸速率高達17600 MT/s。據TomsHardware當時的報道，第一代DDR5 MRDIMM的目標速率是8800MT/s，之后會逐步提高，第二代將達到12800MT/s，然后第三代會提升至17600MT/s。

MRDIMM的全稱為“Multiplexed Rank DIMM”，即將兩個DDR5 DIMM合二為一，從而提供雙倍的數據傳輸率，同時可訪問兩個Rank。

7月22日，存儲大廠美光宣布推出全新的MRDIMM DDR5，目前已經出樣，可為人工智能AI、高性能計算HPC應用提供超大容量、超高帶寬、超低延遲，將于2024年下半年開始批量出貨。

圖片來源：美光

MRDIMM可以提供最高帶寬、最大容量、最低延遲以及更高的每瓦性能。美光表示，在加速內存密集型虛擬化多租戶、高性能計算和AI數據中心工作負載方面，表現優于當前的TSV RDIMM。

據官方介紹，與傳統的RDIMM DDR5相比，MRDIMM DDR5可實現有效內存帶寬提升高達39%，總線效率提升超過15%，延遲降低高達40%。

MRDIMM支持從32GB到256GB的容量選擇，涵蓋標準和高型兩種外形規格（TFF），適用于高性能的1U和2U服務器，其中256GB TFF MRDIMM對比類似容量的TSV RDIMM，性能可以領先35%。

該款全新內存產品為美光MRDIMM系列的首代，將與英特爾至強處理器兼容。美光表示，后續幾代MRDIMM產品將繼續提供比同代RDIMM高45%的單通道內存帶寬。

03
SK海力士下半年推出MCRDIMM產品

作為全球最大的存儲廠商，為提升產品速度，SK海力士在AMD與JEDEC之前便推出了類似MRDIMM的MCRDIMM。

MCRDIMM全稱為“Multiplexer Combined Ranks Dual In-line Memory Module”，是將多個DRAM結合在基板上的模組產品，通過同時操作模組的兩個基本信息處理運算單位Rank。

2022年底，SK海力士與英特爾和瑞薩合作，開發出了DDR5多路合并陣列雙列直插內存模組（MCR DIMM），成為當時業界最快的服務器DRAM產品。根據瀾起科技2023年年報，MCRDIMM也可以視為MRDIMM的第一代產品。

圖片來源：SK海力士

傳統DRAM模組每次只能向CPU傳輸64個字節的數據，而在SK海力士的MCRDIMM模組中，兩個內存列同時運行可向CPU傳輸128個字節的數據。每次傳輸到CPU的數據量的增加使得數據傳輸速度提高到8Gbps以上，是單個DRAM的兩倍。

SK海力士彼時預計，在高性能計算對于內存帶寬提升需求的驅動下，MCR DIMM的市場將會逐步打開。據SK海力士在其2024財年第二季度財務報告最新透露，公司將在下半年推出適用于服務器的32Gb DDR5 DRAM和用于高性能計算的MCRDIMM產品。

04
MRDIMM未來可期

MCRDIMM/MRDIMM采用DDR5 LRDIMM“1+10”的基礎架構，需要搭配1顆MRCD芯片及10顆MDB芯片。從概念來看，MCRDIMM/MRDIMM允許并行訪問同一個DIMM中的兩個陣列，從而大幅提升DIMM模組的容量和帶寬。

與RDIMM相比，MCRDIMM/MRDIMM可以提供更高的帶寬，同時與現有RDIMM成熟的生態系統有較好的兼容性。此外，使用MCRDIMM/MRDIMM有望顯著提升服務器整體性能，減少企業的總擁有成本（TCO）。

MRDIMM和MCRDIMM同屬于DRAM內存模組范疇，而內存模組與HBM的應用場景不同，各自的市場空間較為獨立。作為行業標準的封裝內存，HBM以較小的尺寸，在給定容量下可以實現更高的帶寬和能效，但其價格貴、容量較小、不可擴展等特點限制它只能在少數領域使用。因此從產業角度來說，內存模組是大容量、高性價比、可擴展內存的主流解決方案。

瀾起科技認為，基于高帶寬、大容量的優勢，MRDIMM有望成為未來AI和高性能計算主內存的優選方案。而根據JEDEC的規劃，未來用于服務器的新型高帶寬內存模組MRDIMM，將支持更高的內存帶寬，進一步滿足HPC及AI應用場景對內存帶寬的需求。