最新MLCommons結果公布：第五代至強可擴展處理器AI成果分享

近日，MLCommons公布了針對AI推理的MLPerf v4.0基準測試結果。其中，內置了英特爾^?高級矩陣擴展（英特爾? AMX）的第五代英特爾^?至強^?可擴展處理器（以下簡稱“第五代至強”）在測試中表現優異，進一步彰顯了英特爾致力于通過豐富且具有競爭力的解決方案推動 “AI無處不在”的承諾。截至目前，英特爾仍是唯一一家提交MLPerf測試結果的CPU廠商。與第四代至強在MLPerf推理v3.1基準測試中的結果相比，第五代至強的測試結果平均提升1.42倍。

英特爾公司副總裁兼數據中心與人工智能事業部產品管理總經理Zane Ball表示：“我們將持續提升CPU和加速器等廣泛產品組合在行業基準測試中的AI性能。此次全新的MLCommons結果顯示，我們提供的AI解決方案能夠滿足客戶不斷變化、多樣化的AI需求。同時，至強處理器也為客戶提供了可快速實現AI部署，且極具性價比的選擇。”

英特爾產品迄今為止在多輪MLPerf基準測試中均所展示出領先的訓練及推理性能，該測試結果亦為客戶樹立了可用于評估產品AI性能的行業標準。

關于第五代至強的測試結果：

與第四代至強在MLPerf推理v3.1性能基準測試中的表現相比，經由硬件及軟件優化的第五代至強性能平均提升1.42倍。其中，針對具備連續批處理（continuous batching）等軟件優化的GPT-J模型，與v3.1的測試結果相比，第五代至強的性能提升約1.8倍；同樣，得益于MergedEmbeddingBag以及基于英特爾AMX的其他優化，DLRMv2的測試結果顯示出約1.8倍的性能提升和99.9的準確率。

第五代英特爾^?至強^?可擴展處理器

與此同時，英特爾非常自豪地與包括思科、戴爾、廣達、Supermicro和緯穎科技在內的廣大OEM伙伴們展開合作，助力其提交基于自身產品的MLPerf測試結果。英特爾不僅于2020年開始提交基于第四代至強的測試結果，同時至強可擴展處理器亦是參與MLPerf測試的產品中，眾多加速器的主機CPU。

此外，第五代至強可在英特爾^?開發者云平臺上進行評估。該環境中，用戶可以進行小型及大規模AI訓練（譬如大語言模型或生成式AI）、運行大規模的推理工作負載，以及管理AI計算資源等。