博客專欄

        EEPW首頁 > 博客 > 為解決算力問題,中企選擇“多芯片混合”訓練AI模型

        為解決算力問題,中企選擇“多芯片混合”訓練AI模型

        發布人:芯智訊 時間:2024-07-28 來源:工程師 發布文章

        image.png

        7月4日消息,據Digitimes報道,為解決人工智能(AI)芯片算力問題,中國AI公司正實施“多芯片混合”的策略來提高在AI計算方面的能力的同時,進一步避免供應鏈安全問題。

        多芯片混合計算的方法有諸多優勢,包括利用多個不同型號的GPU并行訓練,來共同提高大語言模型(LLM)訓練速度,因同時可以處理更多數據,可更好利用內存,中國廠商可以降低對于更昂貴的英偉達(NVIDIA)芯片的依賴,進而降低成本。

        自2022年10月以來,受美國持續升級的限制政策的影響,中國獲取國外高性能AI芯片受到了極大的限制。因此,目前也依然存在著一些灰色渠道,但是供給量還是比較有限的。同樣,雖然中國本土也有一些AI芯片,但是性能和產能也都比較有限。

        傳聞稱,目前中國公司已經開始開發“多芯片混合”技術,將不同芯片組成一個訓練集群,包括百度和阿里巴巴都在研究這項解決方案。例如,百度在其 2024 年財報電話會議上宣布,它可以組合來自不同供應商的 GPU 并將其用于 AI 訓練。另一家中國大型科技公司阿里巴巴自 2021 年以來一直致力于“一云多芯片”解決方案。但也面臨諸多挑戰,例如需要像NVIDIA NVLink這樣的高速構架,確保不同的加速器能高效通信。不過,阿里云已經開始轉向使用基于以太網的高性能網絡。

        編輯:芯智訊-林子


        *博客內容為網友個人發布,僅代表博主個人觀點,如有侵權請聯系工作人員刪除。



        關鍵詞: 芯片

        相關推薦

        技術專區

        關閉
        主站蜘蛛池模板: 宾川县| 柯坪县| 五家渠市| 青铜峡市| 石嘴山市| 莱州市| 德安县| 宁蒗| 通河县| 潞西市| 永寿县| 含山县| 中方县| 祁阳县| 佛山市| 新泰市| 赤壁市| 淮南市| 秦皇岛市| 宿州市| 石家庄市| 桦甸市| 科技| 浦北县| 来安县| 洛川县| 泗阳县| 绵阳市| 南京市| 城步| 太康县| 庄河市| 辰溪县| 萨迦县| 靖安县| 黔江区| 綦江县| 子长县| 兴仁县| 中超| 台中县|