傳字節已向英偉達下10億美元大單!AI服務器需求“爆表”
導讀:近日據鳳凰網消息,今年春節后,擁有云計算業務的中國各互聯網大公司都向英偉達下了大單,其中字節今年向英偉達訂購了超過10億美元的GPU,另一家大公司的訂單也至少超過10億元人民幣。
圖:英偉達H100加速卡
據一位接近英偉達的人士稱,字節跳動目前已經到貨和沒到貨的A100與H800加速卡總計有10萬塊。其中H800今年3月才開始投產。據估計,僅字節跳動一家公司今年的訂單可能已接近英偉達去年在中國銷售的商用GPU總和。
一名字節人士透露,字節在2020年6月GPT-3發布后曾借助V100計算卡訓練過一個數十億參數的生成式語言大模型,但由于參數規模有限,這個模型生成能力一般,字節當時看不到它的商業化可能性故不了了之。
另一位阿里云人士表示阿里也曾在2018-2019年積極采購GPU,當時采購量至少達到上萬塊規模,包括V100和T4計算卡,其中約十分之一送到了達摩院用作AI技術研發,這也用在了2021年發布的萬億參數大模型M6中。
圖:英偉達H100真身
消息人士提到,字節、阿里等大公司主要是和英偉達直接談采購,因為代理商和二手市場難以滿足其龐大需求,而英偉達會按目錄價,根據采購規模給出一定的折扣。
目前NVIDIA在售的加速卡至少有9款型號,其中用于AI語言大模型訓練的4款高性能型號分別是V100、A800、A100及H100。
其中推出較早的V100加速卡至少10000美元,人民幣約合6.9萬元,對中國市場“特供”的A800售價12000美元,人民幣8.3萬元,A100售價在1.5萬美元,人民幣至少10.35萬元,現任“旗艦”H100加速卡官方售價3.65萬美元,人民幣超過25.2萬元。
同時,對AI的巨大需求也體現在云服務器代工供應鏈。
圖:搭載8組H100的計算陣列
近日,全球服務器電源和代工大廠臺達董事長表示,各大廠進入AI軍備競賽,初期急單很多,“Google、Meta和中國大陸的廠商都很急,下半年訂單一直進來”,同時預計這波需求會在今年第4季到明年發酵。
另一家AI服務器代工大廠英業達預計,內建4或8顆GPU的AI伺服器產品明年起出貨量至少有兩位數增長。
鴻海集團內負責AI服務器業務的鴻佰科技規劃新增五到六條生產線,以應對AI服務器客戶要求,除既有客戶微軟與亞馬遜之外,Meta、蘋果等大客戶也將加入今年出貨行列。
*博客內容為網友個人發布,僅代表博主個人觀點,如有侵權請聯系工作人員刪除。