新聞中心

        EEPW首頁(yè) > 網(wǎng)絡(luò)與存儲(chǔ) > 市場(chǎng)分析 > AI SSD采購(gòu)容量預(yù)計(jì)突破45EB

        AI SSD采購(gòu)容量預(yù)計(jì)突破45EB

        作者: 時(shí)間:2024-08-13 來(lái)源: 收藏

        根據(jù) TrendForce 集邦咨詢(xún)最新的《Enterprise 》研究報(bào)告,由于 AI 需求大幅升溫,最近兩季 AI 服務(wù)器相關(guān)客戶(hù)向供應(yīng)商進(jìn)一步要求加單 Enterprise (企業(yè)級(jí)固態(tài)硬盤(pán))。上游供應(yīng)商為了滿足 在 AI 應(yīng)用上的供給,加速制程升級(jí),開(kāi)始規(guī)劃推出 2YY 產(chǎn)品,預(yù)期于 2025 年量產(chǎn)。

        本文引用地址:http://www.104case.com/article/202408/461945.htm

        TrendForce 集邦咨詢(xún)表示,AI 服務(wù)器客戶(hù)對(duì)供應(yīng)商加單的情況,導(dǎo)致 Enterprise SSD 合約價(jià)于 2023 年第四季至 2024 年第三季間的累積漲幅超過(guò) 80%。

        TrendForce 集邦咨詢(xún)?cè)趫?bào)告中指出,SSD 應(yīng)用于 AI 推理服務(wù)器,可在推理過(guò)程中協(xié)助調(diào)整、優(yōu)化 AI 模型,尤其 SSD 可以實(shí)時(shí)更新數(shù)據(jù),以便微調(diào)推理模型結(jié)果。AI 推理主要提供檢索增強(qiáng)生成 (RAG, Retrieval-Augmented Generation) 和大型語(yǔ)言模型 (LLM, Large Language Model) 服務(wù),而 SSD 可以?xún)?chǔ)存 RAG 和 LLM 參考的相關(guān)文檔和知識(shí)庫(kù),以生成含有更豐富信息的響應(yīng)。此外,隨著更多生成信息是以影片或相片顯示,其數(shù)據(jù)存儲(chǔ)量也相應(yīng)增加,因此,TLC/QLC(四層單元閃存)16TB 以上等大容量 SSD 便成為 AI 推理主要采用的產(chǎn)品。

        現(xiàn)在大家都知道,想要大模型有更高質(zhì)量的輸出,就需要高質(zhì)量的數(shù)據(jù),而且是大量的高質(zhì)量數(shù)據(jù)。所以,存儲(chǔ)系統(tǒng)的第一個(gè)作用就是:承擔(dān)起存儲(chǔ)大量數(shù)據(jù)的能力。

        有人預(yù)測(cè)數(shù)據(jù)集會(huì)呈指數(shù)級(jí)增長(zhǎng),如此多的數(shù)據(jù),說(shuō)到底還需要服務(wù)器和存儲(chǔ)來(lái)承擔(dān),如果還是用機(jī)械硬盤(pán),則需要非常多的硬件系統(tǒng),這對(duì)于數(shù)據(jù)中心空間,能耗和散熱都是挑戰(zhàn)。

        而如果換成 SSD 閃存存儲(chǔ)后,其單位能耗可以輸出更高的性能,有助于省電。同時(shí),更高的單盤(pán)容量可以減少硬件系統(tǒng)數(shù)量,進(jìn)而減少數(shù)據(jù)中心機(jī)房空間占用,省下更多成本。

        在 AI 同樣非?;馃岬谋泵赖仁袌?chǎng)上,對(duì)高容量 SSD 的需求正在快速上升。企業(yè)和數(shù)據(jù)中心正在尋求大容量的存儲(chǔ)解決方案來(lái)應(yīng)對(duì)不斷增長(zhǎng)的 AI 相關(guān)數(shù)據(jù)。

        AI 的場(chǎng)景大致分為模型訓(xùn)練和推理兩大部分。

        其中,訓(xùn)練主要在數(shù)據(jù)中心內(nèi)部完成,涉及的主要操作包括數(shù)據(jù)攝取(Ingest)、Checkpoint 創(chuàng)建等。當(dāng)然,需要?dú)w檔的數(shù)據(jù)也都存放在資源充裕的數(shù)據(jù)中心里。而推理既可以在數(shù)據(jù)中心內(nèi)部完成,也可以在近邊緣和遠(yuǎn)邊緣端完成。

        數(shù)據(jù)準(zhǔn)備的過(guò)程主要發(fā)生在數(shù)據(jù)中心和近邊緣端,也會(huì)有少部分發(fā)生在遠(yuǎn)邊緣端??梢哉f(shuō),幾乎所有場(chǎng)景中都離不開(kāi)存儲(chǔ)的支持,都需要存儲(chǔ)具有處理大量數(shù)據(jù)的能力,都需要有盡可能高的讀寫(xiě)性能。

        此時(shí),閃存存儲(chǔ)的優(yōu)勢(shì)就非常明顯。

        在 AI 浪潮的推動(dòng)下,美國(guó)頂級(jí)科技公司的數(shù)據(jù)中心正加速?gòu)?HDD 轉(zhuǎn)向企業(yè)級(jí) SSD。比如:大型科技公司如特斯拉在擴(kuò)大 AI 服務(wù)器建設(shè)時(shí),紛紛選擇增加 SSD 的采購(gòu)量,以滿足日益增長(zhǎng)的數(shù)據(jù)處理需求。

        AI SSD 需求位元年增率超過(guò) 60%,供應(yīng)商加快大容量產(chǎn)品開(kāi)發(fā)

        2024 年 AI 服務(wù)器 SSD 市場(chǎng)除了 16TB 以上產(chǎn)品需求自第二季大幅上升,隨著 NVIDIA H100、H20 和 H200 等系列產(chǎn)品到貨,相關(guān)客戶(hù)進(jìn)一步加大 TLC 4、8TB Enterprise SSD 訂單需求。根據(jù) TrendForce 集邦咨詢(xún)預(yù)估,今年 AI 相關(guān) SSD 采購(gòu)容量將超過(guò) 45EB,未來(lái)幾年,AI 服務(wù)器有望推動(dòng) SSD 需求年增率平均超過(guò) 60%,而 AI SSD 需求在整個(gè) NAND Flash(閃存)的占比有機(jī)會(huì)自 2024 年的 5%,上升至 2025 年的 9%。

        不過(guò),戴爾公司副董事長(zhǎng)兼首席運(yùn)營(yíng)官 Jeff Clarke 在財(cái)報(bào)電話會(huì)議上透露,由于成本上升和供需關(guān)系緊張,預(yù)計(jì) 2024 年下半年 SSD 價(jià)格將再攀升 20%。這一消息無(wú)疑給計(jì)劃購(gòu)買(mǎi)或升級(jí) SSD 的用戶(hù)帶來(lái)了不小的壓力。

        業(yè)內(nèi)專(zhuān)家分析認(rèn)為,SSD 價(jià)格的上漲與原材料成本的增加密切相關(guān)。隨著全球原材料價(jià)格的持續(xù)上漲,SSD 的生產(chǎn)成本也在不斷攀升。此外,存儲(chǔ)器廠商為了擺脫虧損、改善盈利狀況,也開(kāi)始尋求提高產(chǎn)品價(jià)格。這些因素共同推動(dòng)了 SSD 價(jià)格的上漲。

        對(duì)于用戶(hù)而言,面對(duì) SSD 價(jià)格的上漲,如何選擇合適的存儲(chǔ)設(shè)備成為了一個(gè)亟待解決的問(wèn)題。一方面,用戶(hù)可以根據(jù)自己的實(shí)際需求選擇性?xún)r(jià)比更高的存儲(chǔ)設(shè)備;另一方面,用戶(hù)也可以關(guān)注市場(chǎng)動(dòng)態(tài),抓住合適的時(shí)機(jī)進(jìn)行購(gòu)買(mǎi)或升級(jí)。



        關(guān)鍵詞: SSD

        評(píng)論


        相關(guān)推薦

        技術(shù)專(zhuān)區(qū)

        關(guān)閉
        主站蜘蛛池模板: 平阳县| 如皋市| 文登市| 镇巴县| 荥经县| 宿迁市| 手游| 周至县| 宜城市| 三亚市| 康保县| 天津市| 鄂州市| 桓台县| 乌鲁木齐县| 七台河市| 永泰县| 庆安县| 广宗县| 岳普湖县| 图们市| 威海市| 公主岭市| 霍城县| 巫山县| 招远市| 商都县| 渝北区| 江阴市| 南充市| 海盐县| 高安市| 冷水江市| 江川县| 松阳县| 宜良县| 吉木乃县| 当涂县| 宜昌市| 道孚县| 阿拉善盟|