AMD Instinct加速器系列亮相Computex 2024
加入技術交流群
AMD董事長兼首席執行官麗莎Su博士在Computex主題演講中公布了AMD Instinct加速器系列的重大進展。該公司宣布了加速器的擴展多年路線圖，承諾每年改進AI性能和內存功能。這標志著人工智能和數據中心工作負載的創新新時代。
本文引用地址：http://www.104case.com/article/202406/459558.htm
AMD Instinct MI325X加速器
更新的路線圖以新的AMD Instinct MI325X加速器開始，該加速器將于2024年第四季度上市。該加速器具有288GB的HBM3E內存和每秒6 TB的內存帶寬。它采用通用基板服務器設計，確保與AMD Instinct MI300系列兼容。
MI325X擁有業界領先的內存容量和帶寬，性能分別是競爭對手的2倍和1.3倍。它提供了比競爭對手高1.3倍的計算性能，使其成為AI工作負載的強大工具。
下一代：MI350和MI400系列
繼MI325X之后，AMD Instinct MI350系列將采用全新的AMD CDNA 4架構，預計將于2025年推出。該系列將在AI推理性能方面帶來實質性飛躍，預計與AMD Instinct MI300系列相比將增加35倍。MI350X加速器將保持通用基板設計，采用先進的3nm工藝技術，支持FP4和FP6 AI數據存儲器，并具有高達288GB的HBM3E內存。
由AMD CDNA“Next”架構驅動的AMD Instinct MI400系列將于2026年發布。
AMD Instinct MI300X加速器的采用和影響
AMD Instinct MI 300 X加速器已被主要合作伙伴和客戶廣泛采用，包括Microsoft Azure、Meta、Dell Technologies、HPE、Lenovo等。AMD數據中心加速計算公司副總裁布拉德·麥克雷迪（Brad McCredie）強調了MI 300 X加速器的卓越性能和價值主張，并指出了它們在推動人工智能創新方面的重要作用。他說：“隨著我們每年更新產品的節奏，我們堅持不懈地推進創新步伐，為人工智能行業提供領導能力和性能，我們的客戶希望推動數據中心人工智能培訓和推理的下一次發展。
AMD AI軟件生態系統的進步
AMD ROCm 6開放軟件堆棧不斷成熟，使AMD Instinct MI 300 X加速器能夠為流行的大型語言模型（LLM）提供令人印象深刻的性能。在使用八個AMD Instinct MI 300 X加速器和運行Meta Llama-3 70 B的ROCm 6的服務器上，客戶可以實現比競爭對手高1.3倍的推理性能和令牌生成。
此外，在Mistral-7 B上，一臺配備ROCm 6的AMD Instinct MI 300 X加速器在推理性能和令牌生成吞吐量方面的表現可超過競爭對手1.2倍。
AMD與最大的AI模型庫Hugging Face的合作進一步強調了生態系統的穩健性。Hugging Face每晚測試700，000個最受歡迎的型號，以確保在AMD Instinct MI300X加速器上實現無縫功能。AMD還在繼續其與流行的AI框架（如PyTorch、TensorFlow和JAX）的上游工作，以確保廣泛的兼容性和增強的性能。
關鍵路線圖亮點
在主題演講中，AMD公布了AMD Instinct加速器路線圖的最新年度節奏，以滿足對人工智能計算不斷增長的需求。這確保了AMD Instinct加速器將繼續推動下一代前沿AI模型的開發。
- AMD Instinct MI325X加速器：將于2024年第四季度推出，該加速器將配備288GB HBM3E內存，每秒6 TB的內存帶寬，以及行業領先的內存容量和帶寬。與競爭對手相比，它的計算性能提高了1.3倍。
- AMD Instinct MI350系列：預計在2025年，MI350X加速器將基于AMD CDNA 4架構，并使用先進的3nm工藝技術。它將支持FP4和FP6 AI數據庫，并包括高達288GB的HBM3E內存。
- AMD Instinct MI400系列：計劃于2026年推出，該系列將利用AMD CDNA“Next”架構，引入新特性和功能，以增強AI訓練和推理性能。
廣泛的行業采用
對AMD Instinct MI300X加速器的需求持續增長，眾多合作伙伴和客戶利用這些加速器來處理要求苛刻的人工智能工作負載。
AMD在Computex 2024上推出了擴展的Instinct加速器路線圖，標志著該公司在人工智能和數據中心戰略的重要里程碑，展示了其技術創新和市場競爭力，同時也為未來的產品發展和生態系統建設奠定了基礎。
評論