新聞中心

        EEPW首頁 > 編輯觀點 > GPT-4對算力硬件的新需求:GPU訂單增加

        GPT-4對算力硬件的新需求:GPU訂單增加

        —— GPT-4對算力硬件的新需求:臺積電為英偉達代工的GPU訂單增加
        作者:陳玲麗編譯 時間:2023-03-23 來源:電子產品世界 收藏

        作為AI大模型基礎設施,未來將持續受益于AI技術的迭代和商業化應用。GPT4.0從語言模型走向多模態模型,將帶來更為豐富的應用場景。

        本文引用地址:http://www.104case.com/article/202303/444818.htm

        同時,更大的模型對提出更高需求,多模態特性又增加了對其他編解碼模塊的需求。

        1679553353153889.png

        多模態應當具備三個基本組成部分:第一部分是圖像,視頻為多幀的圖像;第二部分為音頻;第三部分為文字。

        因此,隨著多模態的發展,在層面,需要面向視頻、音頻再增加編解碼能力的支持。從難度上講,視頻對于算力和IP復雜度的要求最高,其次為音頻,是從算力擴展到周邊支持性的編解碼IP如VPU模塊的機會。

        據媒體報道,在晶圓領域走在行業前列的,來自的A100和H100 訂單在增加,為國內市場設計的A800系列GPU的訂單也在增加。

        值得注意的是,A100、H100及A800系列GPU,都是針對數據中心的產品,這三款GPU的代工訂單增加,大概率與ChatGPT等近期大熱的產品有關。

        1679553429595501.png

        在上月中旬的報道中,外媒就曾提到由于對ChatGPT等進行訓練和提供相關的服務,全球可能再次面臨GPU短缺的挑戰,出現短缺的時間可能還會早于預期。

        為了創建和維持ChatGPT所需的人工智能分析數據的龐大數據庫,開發商OpenAI使用了10000個的GPU進行相關的訓練。而為了支持實際應用,滿足服務器的需求,OpenAI已使用了約2.5萬個英偉達的GPU,隨著需求的增加未來預計還會增加。

        來自英偉達的代工訂單增加,可能還不是近期開始的。有外媒在上月底的報道中就提到,得益于交貨時間短的AI芯片和服務器處理器訂單的強勁推動,5nm及4nm制程工藝的產能利用率已在回升。雖然當時并未明確提到英偉達的訂單,但AI芯片和服務器處理器訂單,大概率也有英偉達的產品。



        評論


        相關推薦

        技術專區

        關閉
        主站蜘蛛池模板: 岑巩县| 谷城县| 五指山市| 屏南县| 会同县| 乐清市| 岫岩| 肃南| 盘山县| 焉耆| 巨野县| 凯里市| 云阳县| 吉隆县| 平原县| 周口市| 蛟河市| 扎鲁特旗| 策勒县| 保亭| 汉源县| 临高县| 五原县| 无极县| 高唐县| 呼图壁县| 黄梅县| 萝北县| 岚皋县| 新丰县| 西和县| 阿拉善左旗| 河北区| 浠水县| 青神县| 庄浪县| 青铜峡市| 阳山县| 汉寿县| 武汉市| 浮梁县|