Rambus通過9.6 Gbps HBM3內存控制器IP大幅提升AI性能
作為業界領先的芯片和IP核供應商,致力于使數據傳輸更快更安全,Rambus Inc.(納斯達克股票代碼:RMBS)今日宣布Rambus HBM3內存控制器IP現在可提供高達9.6 Gbps的性能,可支持HBM3標準的持續演進。相比HBM3 Gen1 6.4 Gbps 的數據速率,Rambus HBM3內存控制器的數據速率提高了50%,總內存吞吐量超過1.2 TB/s,適用于推薦系統的訓練、生成式AI以及其他要求苛刻的數據中心工作負載。
本文引用地址:http://www.104case.com/article/202312/453669.htmRambus HBM3控制器模塊圖
Rambus IP核部門總經理 Neeraj Paliwal 表示:“大語言模型要求高性能內存技術的不斷進步,使得HBM3成為AI/ML訓練的首選內存。依靠Rambus的創新和卓越的工程技術,我們的HBM3內存控制器IP可提供業界領先的9.6 Gbps性能。”
IDC內存半導體副總裁 Soo-Kyoum Kim 表示:“HBM 是更快速且更高效的處理大型 AI 訓練和推理集的關鍵內存技術,比如用于生成式 AI 的訓練和推理。對于像Rambus這樣的 HBM IP供應商來說,持續提高性能來支持滿足市場苛刻要求的領先 AI 加速器的意義重大。”
HBM采用創新的2.5D/3D架構,為AI加速器提供具有高內存帶寬和低功耗的解決方案。憑借極低的延遲和緊湊的封裝,HBM已成為AI訓練硬件的首選。
Rambus HBM3 內存控制器 IP 專為需要高內存吞吐量、低延遲和完全可編程性應用而設計。該控制器是一種高度可配置的模塊化解決方案,可根據每個客戶對尺寸和性能的獨特要求進行定制。對于選擇第三方HBM3 PHY的客戶,Rambus還提供HBM3控制器的集成與驗證服務。
Rambus HBM3內存控制器從即日起提供許可證。
評論