紅帽與AMD強化戰略合作,為混合云中的AI及虛擬化拓展客戶選擇
全球領先的開源解決方案提供商紅帽公司和AMD(納斯達克股票代碼:AMD)近日宣布建立戰略合作,旨在推動AI能力發展,并優化虛擬化基礎設施。通過此次深化合作,紅帽與AMD將拓展客戶在混合云環境中的選擇——從部署經過優化、高效的AI模型,到更具成本效益地實現傳統虛擬機(VM)的現代化升級。
本文引用地址:http://www.104case.com/article/202507/471944.htm隨著AI的引入導致工作負載需求和多樣性持續增加,企業必須具備滿足這些不斷增長需求的能力和資源。然而,典型的數據中心主要專注于傳統IT系統,幾乎沒有余力支持AI等密集型工作負載。為滿足這一需求,紅帽與AMD正攜手,將紅帽行業領先的開源解決方案與AMD全面的高性能計算架構產品組合結合起來。
AMD與紅帽:推動更高效生成式AI的實現
紅帽和AMD正將紅帽AI的強大能力與AMD基于x86架構的處理器及GPU架構的產品組合相結合,為AI驅動的工作負載提供優化、成本高效且生產就緒的環境。
AMD Instinct GPU現已全面支持紅帽OpenShift AI,為客戶提供在混合云環境中部署AI所需的高性能處理能力,且無需極高的資源需求。此外,使用AMD Instinct MI300X GPU與紅帽企業Linux AI,紅帽與AMD在Microsoft Azure ND MI300X v5上進行了測試,成功演示了在單個虛擬機(VM)上跨多個GPU部署的小型語言模型(SLM)和大型語言模型(LLM)的AI推理能力,減少了橫跨多個虛擬機部署的需求,降低了性能成本。
為了進一步提升性能加速和調優能力,紅帽與AMD正在上游vLLM社區開展合作,以推動更高效的AI推理。通過這些上游的激活措施,紅帽與AMD旨在提供:
AMD GPU性能提升:通過將AMD內核庫上游化并優化Triton內核及FP8等組件,紅帽與AMD正在提升密集型和量化模型的推理性能,使vLLM在AMD Instinct MI300X加速器上實現更快速、更高效的執行。
增強的多GPU支持:通過提升集合通信和優化多GPU工作負載,可為更具可擴展性和能效的AI部署打開大門,這對需要跨多個GPU進行分布式計算的工作負載尤為有利,可減少瓶頸并提升整體吞吐量。
擴大的vLLM生態系統合作:紅帽、AMD與IBM等其他行業領導者之間的交叉協作,有助于加速上游開發,推動vLLM項目與AMD GPU優化的持續改進,進而為依賴AMD硬件進行AI推理和訓練的vLLM用戶帶來益處。
基于在vLLM社區中的此次合作,AMD Instinct GPU將原生支持紅帽AI推理服務器(Red Hat AI Inference Server)——紅帽的企業級vLLM發行版,為用戶帶來一個開箱即用、強大、可靠且可擴展的AI推理服務器。作為vLLM項目的頂級商業貢獻者,紅帽致力于在企業選擇的硬件上部署vLLM時實現兼容性,其中包括AMD Instinct GPU。在AMD Instinct GPU上運行vLLM使企業能夠在經過驗證和測試的GPU硬件上部署任何開源AI模型,獲得出色的優化效果和性能表現。
AMD EPYC?處理器還可實現端到端的AI性能,是托管GPU驅動系統的理想選擇。這有助于提升每臺GPU服務器的性能和投資回報率(ROI),即使面對最嚴苛的AI工作負載也不例外。
重塑現代數據中心
通過優化現有數據中心布局,企業能夠更高效、更便捷地重新配置資源以推動AI創新。紅帽OpenShift虛擬化是紅帽OpenShift的一項功能,它為企業提供了一條簡化路徑,使其能夠以云原生應用平臺的便捷性和速度來遷移和管理虛擬機工作負載。紅帽OpenShift虛擬化已針對AMD EPYC處理器完成驗證,能夠充分利用AMD EPYC處理器卓越的性能與能效,無論在混合云的哪個位置,都能確保性能和效率,同時為通向云原生未來架設橋梁。
基于AMD EPYC處理器的紅帽OpenShift虛擬化可助力企業優化在領先服務器(如戴爾PowerEdge、HPE ProLiant和聯想ThinkSystem產品等)上的應用部署。在升級傳統數據中心時,紅帽OpenShift虛擬化能夠實現虛擬機與容器化應用在本地、公有云或混合云中的統一管理。這有助于實現更高的基礎設施整合率,從而顯著降低硬件、軟件許可及能源層面的總體擁有成本(TCO)。此外,該方案還可以具有額外優勢:使IT團隊能夠更高效地管理當前關鍵工作負載,同時釋放資源與能源以應對當前及未來的AI工作負載需求。
支持證言
紅帽高級副總裁兼首席產品官Ashesh Badani
“充分實現AI的價值意味著企業必須擁有選擇和靈活性,以優化其IT基礎設施來應對規模需求帶來的嚴苛挑戰。我們與AMD擴展合作,為尋求為未來不斷演變的IT環境做好準備的企業提供了更廣泛的選擇,從在高性能CPU架構和虛擬化平臺上實現現有投資的現代化,到通過下一代硬件加速器和開源AI技術為生產級AI做好準備。”
AMD執行副總裁及首席商務官Philip Guido
“隨著企業客戶工作負載日益多樣化和嚴苛,他們需要可擴展的解決方案。通過將紅帽行業領先的開源平臺與世界一流的AMD Instinct GPU和AMD EPYC CPU相結合,我們正提供客戶所需的性能和效率,以加速AI、虛擬化和混合云創新。”
評論