AI 芯片:一場燒錢的瘋狂競賽
眾所周知,企業,尤其是超大規模企業和云計算構建商,都希望可以利用生成式人工智能,目前他們正在花費巨資購買人工智能加速器和相關芯片,以創建人工智能訓練和推理集群。
本文引用地址:http://www.104case.com/article/202407/461342.htm不過,你想要試著算一算到底花了多少錢卻很困難。因為很難劃清人工智能芯片與構成系統的周邊設備之間的界限。估算人工智能市場規模的部分問題在于,沒有人真正知道服務器在制造和銷售之后會發生什么,以及它被用來做什么。舉例來說,你怎么知道一臺裝載了 GPU 的機器到底做了多少 AI 工作或 HPC 工作?
早在 12 月份假期結束時,筆者就深入研究了 IDC 的 GenAI 支出預測,該預測非常吸引人,因為它將 GenAI 工作負載與其他類型的 AI 區分開來,并討論了構建 GenAI 系統所需的硬件、軟件和服務支出。當然,筆者也提到了 AMD 首席執行官蘇姿豐在 2022 年和 2023 年就各類數據中心人工智能加速器(包括 GPU 和所有其他芯片)提出的最初和修訂后的總目標市場。
要提醒大家的是,蘇姿豐表示,數據中心 AI 加速器的目標市場總額在 2023 年約為 300 億美元,到 2027 年底將以約 50% 的復合年增長率增長到 1500 億美元以上。但一年后,隨著 12 月 "Antares "Instinct MI300 系列 GPU 的發布,GenAI 熱潮驟然升溫,蘇姿豐表示,AMD 預計 2023 年數據中心 AI 加速器的市場規模為 450 億美元,到 2027 年將以超過 70% 的復合年增長率增長,達到 4000 億美元以上。
這還僅僅是加速器,而不是服務器、交換機、存儲和軟件。New Street Research 的 Pierre Ferragu 團隊在科技領域做了很多工作,他們在推特上發布了一份關于 4000 億美元數據中心加速器 TAM 可能如何細分的報告。
這是一個非常大的數字,它假定在 TAM 預測期結束時,人工智能服務器、存儲和交換機的銷售額約為 1 萬億美元。
從 2024 年開始,筆者從富國銀行股票研究公司(Wells Fargo Equity Research)董事總經理兼技術分析師亞倫-瑞克斯(Aaron Rakers)那里獲得了 GPU 的銷售預測,并在電子表格中找到了一些樂趣。該模型涵蓋了從 2015 年到 2022 年的數據中心 GPU 銷售情況,并對 2023 年(預測時數據中心 GPU 銷售尚未結束)和 2027 年進行了預測。富國銀行的預測模型也早于 AMD 最近幾個月做出的修訂預測,AMD 稱 2024 年 GPU 銷售收入將達到 40 億美元。
無論如何,富國銀行的模型顯示,2023 年 GPU 的銷售額為 373 億美元,全年出貨量為 549 萬臺。出貨量幾乎翻了一番,其中包括各種 GPU,而不僅僅是高端 GPU。GPU 收入增長了 3.7 倍。根據預測,2024 年的數據中心 GPU 出貨量將達到 685 萬塊,同比增長 24.9%,收入將達到 487 億美元,同比增長 28%。根據預測,2027 年的 GPU 出貨量將達到 1351 萬個,數據中心 GPU 銷售額將達到 953 億美元。在這個模型中,英偉達在 2023 年的收入市場份額為 98%,到 2027 年才下降到 87%。
最近,Gartner 和 IDC 都發布了一些關于人工智能半導體銷售的統計和預測,我們不妨對它們進行一下了解,以便嘗試估計一下人工智能芯片市場的現狀,以及若干年后可能出現的情況。
從 Gartner 開始。將近一年前,Gartner 發布了一份關于 2022 年人工智能半導體銷售額的市場研究報告,并對 2023 年和 2027 年的銷售額進行了預測;幾周前,Gartner 又發布了一份修訂版預測報告,對 2023 年的銷售額進行了預測,并對 2024 年和 2028 年的銷售額進行了預測。第二份報告的市場研究還包含一些統計數據,這里將其添加到下表中。
Gartner 公司副總裁兼分析師 Alan Priestly 表示,到 2026 年,所有售出的個人電腦芯片都將是人工智能個人電腦芯片,因為所有筆記本電腦和臺式機 CPU 都將包含某種神經網絡處理器。
用于加速服務器的 AI 芯片是關注的重點,這些芯片的收入(假設不包括其所附帶的 HBM、GDDR 或 DDR 內存的價值)在 2023 年為 140 億美元,預計在 2024 年將增長 50%,達到 210 億美元。但在 2024 年至 2028 年期間,服務器用人工智能加速器的復合年增長率預計僅為 12% 左右,銷售額將達到 328 億美元。Priestly 表示,像 TPU 以及亞馬遜網絡服務的 Trainium 和 Inferentia 芯片(僅舉兩例)這樣的定制 AI 加速器在 2023 年只推動了 4 億美元的收入,到 2028 年也只能推動 42 億美元的收入。
如果人工智能芯片的價值占計算引擎價值的一半,而計算引擎的價值占系統成本的一半,那么這些相對較小的數字加起來,就可以從數據中心的人工智能系統中獲得相當大的收入。
現在,讓我們來看看 IDC 是如何看待人工智能半導體和人工智能服務器市場的。該公司幾周前發布了這張有趣的圖表。
在這張圖表中,IDC 將 CPU、GPU、FPGA、定制 ASIC、模擬設備、內存和其他用于數據中心和邊緣環境的芯片的所有收入匯總在一起。然后,再剔除計算、存儲、交換機和其他設備的收入,因為這些設備適用于人工智能訓練和人工智能推理系統。這不是所有系統的價值,而是系統中所有芯片的價值;因此不包括機箱、電源、冷卻、主板、立卡、機架、系統軟件等。如圖所示,該圖表包含 2022 年的實際數據,并仍在估算 2023 年至 2027 年的數據。
在 IDC 的這份分析中,半導體的人工智能部分從 2022 年的 421 億美元增長到 2023 年的預計 691 億美元,2022 年到 2023 年的增長率為 64.1%。IDC 認為,今年的人工智能芯片收入(這并不僅僅指 XPU 的銷售額,而是指數據中心和邊緣的人工智能系統中的所有芯片內容)將增長 70%,達到 1,175 億美元。如果計算 2022 年至 2027 年的數字,IDC 預計數據中心和 AI 系統中的 AI 芯片內容的總收入將以 28.9% 的年復合增長率增長,到 2027 年達到 1933 億美元。
該圖表的博文發表于 5 月底,是基于 2 月份的一份報告。在那篇文章中,IDC 添加了一些服務器收入的數字,將人工智能服務器與用于其他工作負載的服務器區分開來。
IDC 預計,2023 年全球服務器銷量將下降 19.4%,僅略低于 1200 萬臺,但由于人工智能服務器的平均售價非常高,人工智能服務器的收入(基于去年對 2022 年人工智能服務器收入 98 億美元的估計)增長了 3.2 倍,達到 313 億美元,占市場份額的 23%。IDC 預計,到 2027 年,AI 服務器將帶動 491 億美元的銷售額。IDC 沒有透露其對 2027 年服務器收入的最新預測,但正如這里所顯示的那樣,截至 2023 年底,這一數字為 1891.4 億美元。
順便提一下,在 IDC 劃分服務器市場時,使用 CPU 上的原生矩陣或矢量引擎在 CPU 上進行人工智能運算的機器不被視為加速型,無論如何,筆者認為對 2027 年人工智能服務器收入的預測過低,或者對 2027 年整體服務器收入的預測過高,或者兩者兼而有之。到 2027 年,具有某種加速功能的人工智能服務器的收入占比或將略低于一半,而且筆者假設數據中心將出現大量的加速和生成式人工智能。
評論