新聞中心

        EEPW首頁 > 網絡與存儲 > 業界動態 > 從決策式AI進階到生成式AI,SSD將變得更為重要

        從決策式AI進階到生成式AI,SSD將變得更為重要

        作者: 時間:2024-03-29 來源:EEPW 收藏

        在AI概念沒有火熱之前,無論手機還是PC都已經悄然引入人工智能加速相關的硬件和技術,目的是在部分功能上獲得更好的體驗,比如手機相冊中的人臉智能識別和分類, PC和NAS在算力閑暇時對圖像、視頻的整理,以及視頻通話時的背景虛化等等都是很好的例子。

        本文引用地址:http://www.104case.com/article/202403/457032.htm

        這個時期的AI計算我們通常稱為,即在成熟的底層技術框架內,通過數據分類標簽和辨別的形式,通過CPU、GPU、NPU等處理器合力,它們的特點是,具備一套成熟的判斷機制,通過夜以繼日的訓練識別,不斷提升精度,并具有很強的針對性。

        隨著大模型的火爆,另一種AI也推向了大眾視野,即被稱為。無論是云端AI服務加速,還是近期能夠本地運行200億參數大語言模型的AI PC,它們的思維是發散且具有創造性的,同時對硬件也提出了更高的要求。

        背后的海量數據

        最大的不同在于模型的規模,大模型計算本身意味著高算力、高存儲需求。正因為如此,LLM大語言模型才會成為推向應用層面的首要選擇,原因很簡單,相對于圖像、視頻而言,抽象的文字已經是最好整理的了。

        但即便如此,大語言模型本身占用的數據量仍然巨大,以GPT-3為例,光是訓練參數就達到了1750億個,訓練數據達到45TB,每天會產生45億字內容,每次訓練費用需要460萬美元。而進階到GPT-4之后,訓練參數從1750億個增加到1.8萬億個,訓練成本進一步提升到6300萬美元,訓練數據量信息雖然沒有公布,但可想而知增長也是指數級的。

        有意思的是,大語言模型訓練在當下似乎已經變成了日常,頭部廠商已經將目光投向了圖像生成和視頻生成,近段時間火熱的文字生成視頻應用Sora,以及文生圖Midjourney都是很好的例子。現在我們知道光是文字內容就可以占據海量的存儲空間,如果將訓練模型換成圖像、視頻,對內容存儲和讀寫性能需求也注定指數級攀升。

        1711700709892696.png

        很重要

        隨著生成式AI深入到不同領域,能夠提供高速存儲性能的變得至關重要。不僅如此,對于企業和數據中心而言,存儲的可靠性、能效、性價比,以及對前沿技術的支持都變得至關重要。比如,企業級用戶會考慮在有限的機房空間內獲得更多的容量,即提升單位存儲密度,并且還要考慮機架和機房的散熱能力和供電能力,這時候EDSFF規格似乎就成為了不錯的選擇。

        1711700867970915.png

        EDSFF,即企業與數據中心標準外形規格,特點是由頭部企業引領并獲得行業認可,針對物理尺寸、散熱、性能、布局、安裝便捷性等特性優化,從而達到更好的效果。

        比如CD8P就配備了前瞻性的EDSFF E3.S版本,支持PCIe? 5.0和NVMe? 2.0,可提供高達30.72TB的存儲容量,擁有可達12,000MB/s順序讀取性能,并具備2000K IOPS的4K隨機讀取能力,在能耗與應用性能表現之間做到很好的平衡,為數據中心和企業級用戶提供合理的擴容選擇。

        1711700762942103.png

        如果希望性能更進一步,CM7系列作為高性能企業級雙端口固態硬盤同樣值得參考,事實上CM7系列是較早提供PCIe? 5.0和NVMe? 2.0支持,并已經充足釋放PCIe? 5.0性能的產品,最大容量同樣也達到了30.72TB。擁有高吞吐量和高密度存儲的性能表現,非常適合大模型計算,大數據,深度學習加速、AIGC等人工智能應用場景。

        而隨著生成式AI的硬件需求越來越高,同時也不能忽視龐大的數據量需要高性能接口、大容量存儲支持,企業級和數據中心級固態硬盤則早已為其做好了充足的準備。未來AI的發展路徑中,也注定少不了鎧俠承擔起存儲與加速的重要角色。

        *容量的定義:鎧俠定義1兆字節(MB)為1,000,000字節,1千兆字節(GB)為1,000,000,000字節,1兆兆字節(TB)為1,000,000,000,000字節。但是計算機操作系統記錄存儲容量時使用2的冪數進行表示,即定義1GB = 230 = 1,073,741,824字節,因此會出現存儲容量變小的情況。可用存儲容量(包括各種媒體文件的示例)將根據文件大小、格式、設置、軟件和操作系統(例如Microsoft?操作系統和/或預安裝的軟件應用程序)或媒體內容而異。實際格式化的容量可能有所不同。 

        1711700790231668.png

        *1千位字節 (KiB) 指 210, 或1,024字節,1兆字節(MiB) 指 220,或1,048,576 字節,1千兆字節(GiB)指230, 或1,073,741,824字節。 

        *IOPS:每秒輸入輸出(或每秒I/O操作數) 

        *讀寫速度可能因主機設備、讀寫條件和文件大小的不同而不同。 

        *信息隨時可能更改:雖然鎧俠在發布時已努力確保此處提供信息的準確性,但產品規格、配置、價格、系統/組件/選項等的可用性都可能發生更改,恕不另行通知。 

        *產品圖像可以代表設計模型。圖像僅用于說明目的。產品外觀可能與實際產品不同。閃存組件的實際數量因硬盤容量而不同。



        評論


        相關推薦

        技術專區

        關閉
        主站蜘蛛池模板: 仁寿县| 江津市| 阿克| 达日县| 阳谷县| 彩票| 涡阳县| 南和县| 汝州市| 武穴市| 彭水| 海原县| 温泉县| 曲周县| 新巴尔虎右旗| 永兴县| 东源县| 仙游县| 北宁市| 共和县| 玉门市| 荆州市| 六安市| 泽普县| 昭平县| 双鸭山市| 曲水县| 大田县| 中西区| 乐都县| 建昌县| 泌阳县| 吐鲁番市| 南康市| 车险| 综艺| 无为县| 莱阳市| 利辛县| 虞城县| 鹤峰县|