新聞中心

        EEPW首頁 > 智能計算 > 業(yè)界動態(tài) > AI 芯片供應(yīng)問題緩解,消息稱部分公司開始轉(zhuǎn)售英偉達 H100 GPU

        AI 芯片供應(yīng)問題緩解,消息稱部分公司開始轉(zhuǎn)售英偉達 H100 GPU

        作者: 時間:2024-02-27 來源:IT之家 收藏

        IT之家 2 月 27 日消息,據(jù)報道,用于人工智能 () 和高性能計算 (HPC) 應(yīng)用的 交貨周期大幅縮短,從之前的 8-11 個月縮減至僅 3-4 個月。這導(dǎo)致一些囤貨的公司正在試圖出售其過剩的 H100 80GB 處理器,因為現(xiàn)在從亞馬遜云服務(wù)、谷歌云和微軟 Azure 等大型公司租用芯片更加方便。

        本文引用地址:http://www.104case.com/article/202402/455761.htm

        據(jù) The Information 報道稱,由于稀缺性降低以及維護未使用庫存的高昂成本,一些公司正在轉(zhuǎn)售其 或減少訂單,這與去年爭相搶購 Hopper GPU 形成鮮明對比。盡管芯片可用性改善且交貨周期顯著縮短,但報道稱,對 芯片的需求仍然超過供給,尤其是一些訓(xùn)練大型語言模型 (LLM) 的公司,例如 Open

        云服務(wù)提供商(CSP)例如亞馬遜 AWS 提供按需租用 的服務(wù),緩解了部分需求壓力,縮短了等待時間。

        然而,由于訓(xùn)練大型語言模型需要成千上萬的 GPU,因此此類公司仍面臨供應(yīng)瓶頸,有時需要等待數(shù)月才能獲得所需的處理能力。因此, H100 等處理器的價格并未下降,公司仍保持著高利潤率。

        IT之家注意到,隨著芯片供應(yīng)瓶頸的緩解,買家行為也發(fā)生了轉(zhuǎn)變。企業(yè)變得更加注重價格和采購 / 租賃的合理性,傾向于選擇更小的 GPU 集群并關(guān)注其業(yè)務(wù)的經(jīng)濟可行性。

        由于替代方案(例如 AMD 或 AWS 的處理器)的性能和軟件支持不斷加強,再加上對 AI 處理器更加謹(jǐn)慎的支出,AI 領(lǐng)域可能迎來更加平衡的市場格局。




        關(guān)鍵詞: 英偉達 H100 GPU AI

        評論


        相關(guān)推薦

        技術(shù)專區(qū)

        關(guān)閉
        主站蜘蛛池模板: 西乌珠穆沁旗| 宣化县| 西贡区| 惠东县| 洞口县| 青冈县| 昌宁县| 南汇区| 阿坝县| 浮山县| 齐河县| 略阳县| 城步| 图们市| 南投县| 阿合奇县| 仪征市| 荆门市| 西林县| 荔浦县| 衡阳县| 辽阳县| 丰宁| 镇安县| 贵港市| 冷水江市| 尤溪县| 林西县| 大理市| 星子县| 满城县| 横山县| 河北区| 平乐县| 文安县| 赣州市| 广州市| 砚山县| 咸阳市| 平利县| 麟游县|