大模型迭代引發(fā)一體機市場熱潮，IDC啟動大模型推理算力系列研究

2025年1月以來，中國市場 AI 創(chuàng)企深度求索開發(fā)的 AI開源 大模型 DeepSeek的爆火引起廣泛關(guān)注，近期DeepSeek等大模型的迭代也推動了一體機產(chǎn)品的密集發(fā)布，吸引了包括服務(wù)器、云服務(wù)、行業(yè)應(yīng)用開發(fā)、大模型技術(shù)供應(yīng)商等多方參與，根據(jù)IDC統(tǒng)計，市場上已迅速有接近百家廠商推出AI一體機產(chǎn)品。

未來AI算力市場服務(wù)模式如何演變？AI一體機有哪些市場機會？基于市場上的普遍問題，IDC進行了總結(jié)，旨在為技術(shù)供應(yīng)商和行業(yè)用戶提供參考：

中國市場AI算力服務(wù)的模式

DeepSeek等大模型的迭代推動了AI算力服務(wù)模式的更新升級，一方面，用戶端對AI算力建設(shè)提出新的需求，包括算力效率提升、推理需求增加、供應(yīng)方式多樣化等；另一方面，供應(yīng)側(cè)，AI算力基礎(chǔ)設(shè)施服務(wù)模式也不斷創(chuàng)新。中國市場的AI算力建設(shè)，走出了一條具備中國特色的差異化路線。

當前提供AI計算服務(wù)的模式主要有以下幾種：

●   公有云算力服務(wù)：在公有云上提供算力基礎(chǔ)設(shè)施，即公有云廠商的AIaaS服務(wù)。

●   智算中心：由政府牽頭，國資平臺發(fā)起智算中心項目，由集成商作為總包，智算中心廠商參與建設(shè)。建成之后可供地方政府、企業(yè)訓(xùn)練、調(diào)優(yōu)與部署AI應(yīng)用。

●   私有云：由企業(yè)自主采購、自主建設(shè)AI私有云，支撐內(nèi)部的模型訓(xùn)練與部署。

●   AI一體機：主要用于支撐本地部署AI應(yīng)用。

AI一體機的市場機會

AI一體機，是專為AI大模型應(yīng)用和部署而設(shè)計的集成計算設(shè)備，通常包含CPU/GPU等算力組合、存儲器、操作系統(tǒng)、AI平臺軟件及各類模型算法、推理服務(wù)等軟硬組件。從去年開始，AI一體機市場上主要產(chǎn)品形態(tài)包含訓(xùn)推一體機、推理一體機等，訓(xùn)推一體機具備開箱即用、私有化部署等特性，支持完整的AI模型開發(fā)流程（包括訓(xùn)練和推理部署等多個環(huán)節(jié)）。也有部分推理一體機，專注于高效能推理場景。目前搭載DeepSeek的AI一體機方案存在差異，能支持運行蒸餾版、滿血版V3/R1模型，但Deepseek一體機的實際應(yīng)用效果仍有待觀察，有些行業(yè)用戶則結(jié)合自己的應(yīng)用場景考量優(yōu)先選擇預(yù)制了參數(shù)規(guī)模更小的大模型、成本更低的一體機做嘗試，預(yù)計能夠滿足一些行業(yè)的應(yīng)用需求。

由于DeepSeek事件，帶動了整個中國市場對AI應(yīng)用的樂觀發(fā)展預(yù)期，如果在驅(qū)動更多企業(yè)（尤其是中小等長尾企業(yè)）部署AI的假設(shè)下，AI一體機市場將會迎來進一步發(fā)展。隨著基礎(chǔ)大模型開啟另一開發(fā)新范式，大模型從千億參數(shù)向行業(yè)精調(diào)模型演進，AI一體機通過軟硬一體的集成解決方案，能夠?qū)崿F(xiàn)特定場景的私有化部署，縮短部署周期，降低中小企業(yè)大模型的使用門檻。對于一些具備大量敏感數(shù)據(jù)的用戶，私有化部署確保數(shù)據(jù)安全處理/避免敏感信息外流，能夠滿足教育/科研、政務(wù)與公共服務(wù)、制造、能源、醫(yī)療、金融等領(lǐng)域的一些應(yīng)用需求。

IDC啟動大模型推理算力系列研究

隨著AI應(yīng)用的不斷落地，算力建設(shè)的重點也將從以支持訓(xùn)練為主開始轉(zhuǎn)向越來越多的支持推理。在此背景下，IDC啟動大模型推理算力系列研究。主要包含下列研究報告：

●   《中國大模型推理計算指數(shù)研究報告，2025》：希望從大模型推理的角度，幫助用戶建立推理算力選型的參考、驗收的標準以及持續(xù)運營的支持。如下表所示，技術(shù)能力、服務(wù)能力、規(guī)模化能力、供應(yīng)鏈以及安全，將是我們考量的維度。

●   《中國AI大模型訓(xùn)推一體機市場分析與品牌推薦，2025》：AI大模型一體機市場囊括了服務(wù)器、云服務(wù)、行業(yè)應(yīng)用開發(fā)、大模型技術(shù)供應(yīng)商等多方參與，市場以往更關(guān)注基礎(chǔ)功能和性能，今年可能更強調(diào)成本、效果更佳的AI模型能力集成、軟硬件協(xié)同優(yōu)化和行業(yè)定制化、安全性等。IDC將啟動市場追蹤與品牌推薦研究，輔助行業(yè)用戶更好的選型AI大模型一體機產(chǎn)品。

免責(zé)聲明

本文中的內(nèi)容和數(shù)據(jù)均來源于IDC所發(fā)布的報告，所有內(nèi)容及數(shù)據(jù)均為我公司所有。未經(jīng)IDC書面許可，任何機構(gòu)和個人不得以任何形式翻版、復(fù)制、刊登、發(fā)表或引用。