作者：Arm 基礎設施事業部軟件工程師 Nobel Chowdary Mandepudi生成式人工智能 (AI) 正在科技領域發揮關鍵作用，許多企業已經開始將大語言模型 (LLM) 集成到云端和邊緣側的應用中。生成式 AI 的引入也使得許多框架和庫得以發展。其中，PyTorch 作為熱門的深度學習框架尤為突出，許多企業均會選擇其作為開發 AI 應用的庫。通過部署 Arm Kleidi 技術 ，Arm 正在努力優化 PyTorch，以加速在基于 Arm 架構的處理器上運行 LLM 的性能
Arm 控股有限公司（納斯達克股票代碼：ARM，以下簡稱“Arm”）近期宣布通過將 Arm? Kleidi 技術集成到 PyTorch 和 ExecuTorch，賦能新一代應用在 Arm CPU 上運行大語言模型 (LLM)。Kleidi 匯集了最新的開發者賦能技術和關鍵資源，旨在推動機器學習 (ML) 技術棧中的技術協作和創新。通過這些重要進展，Arm 致力于為任一 ML 技術棧的開發者提供更為順暢的體驗。 Arm 戰略與生態部開發者技術副總裁 Alex Spinelli 表示：“Arm 正與領先的云服
京ICP備12027778號-2 北京市公安局備案：1101082052 京公網安備11010802012473