紅帽與Run:ai為混合云優化人工智能工作負載
全球領先的開源解決方案提供商紅帽公司與人工智能(AI)優化和編排領域的領導者Run:ai今日宣布展開合作,將Run:ai的資源優化功能集成到紅帽OpenShift AI中。此合作通過簡化AI操作和優化底層基礎設施,使企業能夠充分利用AI資源。在一個可靠的MLOps平臺上,企業可以高效地構建、調整、部署和監控AI應用和模型,從而最大化人力和硬件資源的效用。
本文引用地址:http://www.104case.com/article/202405/458818.htmGPU是推動AI工作流程的核心計算引擎,支持模型訓練、推理和實驗等。鑒于這些專用處理器的高昂成本,特別是在分布式訓練和推理場景中。紅帽與Run:ai正聯合提供解決方案,通過在紅帽OpenShift AI上部署經認證的Run:ai OpenShift Operator,滿足GPU資源優化的關鍵需求,幫助用戶在任何場景下擴展和優化其AI工作負載。Run:ai的云原生計算編排平臺在紅帽OpenShift AI上提供的幫助包括:
● 利用專用工作負載調度程序,解決AI工作負載的GPU調度問題,輕松確定關鍵任務工作負載的優先級,并確保分配足夠資源支持這些工作負載。
● 通過部分GPU使用和監控功能,根據設定的優先級和策略動態分配資源,提升基礎設施效率。
● 改善對共享GPU基礎設施的控制和可見性,為IT、數據科學和應用開發團隊提供更便捷的訪問和資源分配方式。
Run:ai的認證OpenShift Operator現已可用。展望未來,紅帽和Run:ai計劃繼續加強合作,在紅帽OpenShift AI上為Run:ai引入更多集成功能。此舉旨在提供更無縫的客戶體驗,并進一步加速AI模型向生產工作流的轉移,實現更高的一致性。
支持證言
Steven Huels,紅帽副總裁兼AI事業部總經理
“隨著AI采用率的提高和對GPU需求的增加,企業需優化其AI平臺,以充分利用運營和基礎設施,無論這些資源位于混合云的哪個部分。通過與Run:ai的合作,讓企業能夠在不犧牲AI/ML平臺的可靠性或寶貴的GPU資源的情況下,在任何必需的地方最大限度地擴展AI工作負載?!?/p>
Omri Geller,Run:ai首席執行官兼創始人
“我們很高興能與紅帽OpenShift AI合作,增強AI運營的能力和潛力。通過利用紅帽OpenShift的MLOps優勢和Run:ai在AI基礎設施管理方面的專業知識,我們正在為企業AI設立新標準,提供無縫的可擴展性和優化的資源管理。”
評論