Rambus高速GDDR6 PHY打通AI應用的數據瓶頸

幾年前當AI剛開始流行之時，很多人預測AI應用最大的瓶頸將是存儲器的讀取和寫入速度，這會嚴重影響訓練和推斷的效率，以及做出相應反饋的速度。特別是2023年以來，以ChatGPT為代表的生成式AI讓人們看到了智能世界的無限可能，而如何有效地采集、存儲、傳輸、處理數據和模型則成為實現高質量AI的關鍵，這就需要高速傳輸技術的革新。

無論是云端AI訓練還是向網絡邊緣轉移的AI推理，都需要高帶寬、低時延的內存。鑒于GPU已經成為目前人工智能訓練和推理中的核心處理單元，邁向高性能GDDR6內存接口已是大勢所趨。近日，半導體IP和芯片供應商Rambus推出業界領先24Gb/s GDDR6 PHY，致力于通過進一步提升傳輸速度解決AI訓練和推理面臨的存儲焦慮問題。

Rambus致力于使數據傳輸更快更安全，關注產品的產品和方案的易用性，通過一站式的解決方案以及完善的服務機制，使產品方案變得更容易在客戶端集成使用。產品方面，Rambus的內存接口芯片不斷提高數據中心內存模塊的速度和容量，數據安全方面，Rambus有著豐富的安全IP產品線，對用于靜態數據和動態數據安全保護都有專門的產品方案，包括安全信任和MACsec和Ipsec等等，整體來說，Rambus的產品應用領域聚焦于服務器、主內存、智能網卡、網絡服務和交換機，以及面向未來的內存擴展和池化等市場。“ChatGPT等AIGC應用與我們公司的產品組合是非常契合的。”Rambus大中華區總經理蘇雷說，他特別談到于中國市場，中國目前AI應用和部署走在世界前列，Rambus希望更多、更緊密地支持中國公司在AI產業的發展，“Rambus面對中國客戶的需求，有最好的技術、最快的響應和最好的技術支持來服務中國市場。”

Rambus GDDR6 PHY以及控制器的配套產品，可以實現業界領先的24Gb/s數據傳輸速率，作為全新的一個行業標桿，將為AI推理等應用場景帶來巨大性能優勢和收益。除性能之外，該組合另一大優勢是對功耗的管理。當設備在高速和高帶寬環境下運行時，良好的功耗管理非常重要。

在系統層面設計的考量方面，如果要確保系統在24Gb/s環境下運行，需要良好的系統級信號完整性。Rambus信號完整性的工程師，也會與客戶進行非常緊密的從設計初期開始的合作，能夠確保客戶運行系統的時候達到最高的性能。另外，Rambus提供的產品已經實現了PHY以及控制器的完整集成。在客戶收到產品之后，可以直接對這些子系統進行定制化應用。

Rambus IP核產品營銷高級總監Frank Ferro介紹，AI推理應用對帶寬的需求通常在200到500Gb/s的范圍之間波動，每一個GDDR6設備的帶寬都可以達到96Gb/s，因此通過將4-5個GDDR6設備組合在一起，就能輕松滿足500Gb/s及以下的帶寬需求。如果用到一個HBM3設備，基本上會把這個帶寬需求的數字翻倍，能夠達到接近800Gb/s的帶寬，而這超過了AI推理本身所需要的400到500Gb/s帶寬，會使成本增加3~4倍。在這種條件下，HBM并非一個經濟高效的選擇，GDDR6則是一個更好的替代。他特別建議按需選擇HBM或是GDDR6內存，對于對高帶寬和低延遲有很高要求的AI訓練場景，HBM可能是更好的選擇；對于需要更大容量、更高帶寬的AI推理場景，GDDR6會是更合適的選擇。

Rambus的產品實現了PHY和控制器的完整集成，其內存接口系統包括PHY物理層、控制器、DRAM和客戶端ASIC，其中，PHY的物理層與DRAM直接相連，接口由兩個16位插槽組成，共32位，另一側的DFI接口與內存控制器連接，控制器會直接接入整個系統的邏輯控制。Rambus會提供下圖中的藍色部分——即完整的子系統（與Rambus GDDR6數字控制器IP相結合），使得客戶可以根據場景所需進行定制化使用。此外，Rambus可以保障良好的系統級信號完整性和電源完整性（SI/PI），并且支持LabStation開發環境，能夠快速建立系統，進行特性分析和調試。

如今，GDDR在AI/ML場景（如AI推理等）中有著廣泛的使用，還會應用于圖形計算、網絡等場景。與DDR相比，GDDR在帶寬、速度、功耗等方面有著顯著優勢，吸引了更多的客戶將其結合到各類先進設計中。作為系統級解決方案的一部分，Rambus GDDR6可以為AI/ML、圖形和網絡應用提供高效益、高帶寬、低延遲的內存接口解決方案。同時，RambusGDDR6 PHY還有著更優的功耗管理表現。

Rambus通過領先的高性能內存和互聯解決方案以及硬件級安全，支持下一代數據中心的發展。其產品應用領域聚焦于服務器主內存、人工智能和網絡加速器、智能網卡、網絡存儲、網絡交換機以及內存擴展和池化等。蘇雷介紹，Rambus有著豐富的接口IP產品組合，同時也提供像DDR、LPDDR以及HBM等產品，并非常關注SerDes產品的開發，主要聚焦于PCIe和CXL接口，會開發配套的PHY及控制器。Rambus的HBM產品擁有領先的市占率，同時其HBM3產品已經能夠提供高達8.4Gbps/s的數據傳輸速率。