新聞中心

        EEPW首頁 > 網絡與存儲 > 業界動態 > Rambus通過GDDR7內存控制器IP推動AI 2.0發展

        Rambus通過GDDR7內存控制器IP推動AI 2.0發展

        作者: 時間:2024-04-23 來源:EEPW 收藏

        作為  行業領先的接口和安全數字 IP 產品組合的最新成員, 內存控制器將為下一波AI推理浪潮中的服務器和客戶端提供所需的突破性內存吞吐量。

        本文引用地址:http://www.104case.com/article/202404/457983.htm

        面向的內存解決方案

        代表著生成式AI革命性世界的到來。借助大語言模型(LLM)及其衍生模型的巨大增長創建新的多模態內容。多模態意味著可以將文本、圖像、語音、音樂、視頻等混合輸入到模型中,從而創建出這些以及其他媒體格式的輸出,例如根據圖像創建3D模型或根據文本提示創建視頻等。

        LLM的參數規模已超過萬億,數據集樣本規模也已達到數十億。訓練LLM需要巨大的算力,這離不開最新高性能內存解決方案的支持。

        通過增強AI推理能力

        AI 2.0訓練流程的輸出結果是一個推理模型,該模型可根據用戶提示創建新的多模態內容。由于準確性和保真度會隨著模型規模的擴大而提高,因此推理模型的規模也在不斷擴大。隨著AI推理變得越來越普遍,并從數據中心向邊緣和終端移動,這就促使整個計算領域需要更加強大的處理引擎和量身定制的高性能內存解決方案。

        GPU一直是推理引擎的首選,在服務器和臺式機等邊緣和終端應用中,GPU一直使用的是GDDR6內存。但GDDR6的數據傳輸速率已達到標準NRZ信號的實際極限——24Gbps。為了滿足未來GPU的帶寬需求,需要使用新信號機制的新一代GDDR。而使用PAM3信號的內存可將數據傳輸速率提高至40 Gbps或以上。

        面向AI 2.0的半導體IP

        作為AI 2.0的首選半導體IP供應商,提供業界領先的HBM、PCIe和CXL控制器 IP,現在更提供業界首個GDDR7。Rambus GDDR7控制器為GDDR7存儲器的實現提供了功能齊全且具有高帶寬效率的解決方案。它支持40 Gbps的運行速度,為GDDR7存儲器設備提供160 GB/s的吞吐量,較業界吞吐量最高的GDDR6控制器(同樣來自Rambus)提高了67%。Rambus GDDR7控制器實現了適用于最先進AI加速器、圖形和高性能計算(HPC)應用的GDDR內存部署。

        Rambus半導體IP總經理Neeraj Paliwal表示:“AI 2.0工作負載對帶寬提出了前所未有的高要求,因此提供更高的內存性能變得至關重要。借助我們開創性的GDDR7控制器IP解決方案,設計人員可以快速利用最新一代GDDR存儲器的優勢,實現業界領先的吞吐量。”

        IDC內存半導體副總裁Soo-Kyoum Kim表示:“GDDR7內存的性能較GDDR6大幅提升。對任何希望充分利用GDDR7優化的速率和延遲特性的人來說, Rambus GDDR7控制器IP將成為重要的工具。”

        Rambus GDDR7控制器的主要特點:

        ●   支持包括PAM3和NRZ信號在內的所有GDDR7鏈路功能

        ●   支持多種GDDR7設備尺寸和速率

        ●   專門針對各種流量情況進行優化,可實現高效率和低延遲

        ●   靈活的AXI接口支持

        ●   低功耗支持(自刷新、休眠自刷新、動態頻率縮放等)

        ●   可靠性、可用性和可維護性(RAS)功能,例如端到端數據路徑奇偶校驗、存儲寄存器奇偶校驗保護等

        ●   全方位的內存測試支持

        ●   對現有第三方PHY的集成支持

        ●   使用最新的GDDR7 VIP和內存供應商內存模型進行驗證

        Rambus GDDR7現已上市。



        評論


        相關推薦

        技術專區

        關閉
        主站蜘蛛池模板: 房山区| 汝南县| 监利县| 青海省| 茂名市| 余干县| 四子王旗| 曲松县| 奉化市| 噶尔县| 法库县| 长乐市| 遂平县| 蒲城县| 天水市| 汉中市| 岳池县| 东源县| 章丘市| 乡宁县| 报价| 江阴市| 陵川县| 湄潭县| 梧州市| 汤原县| 乌什县| 博白县| 承德县| 绵阳市| 壶关县| 临清市| 中卫市| 威海市| 深水埗区| 龙江县| 康定县| 崇信县| 图们市| 景德镇市| 孝感市|