新聞中心

        EEPW首頁 > 編輯觀點(diǎn) > GPT-4對(duì)算力硬件的新需求:GPU訂單增加

        GPT-4對(duì)算力硬件的新需求:GPU訂單增加

        —— GPT-4對(duì)算力硬件的新需求:臺(tái)積電為英偉達(dá)代工的GPU訂單增加
        作者:陳玲麗編譯 時(shí)間:2023-03-23 來源:電子產(chǎn)品世界 收藏

        作為AI大模型基礎(chǔ)設(shè)施,未來將持續(xù)受益于AI技術(shù)的迭代和商業(yè)化應(yīng)用。GPT4.0從語言模型走向多模態(tài)模型,將帶來更為豐富的應(yīng)用場(chǎng)景。

        本文引用地址:http://www.104case.com/article/202303/444818.htm

        同時(shí),更大的模型對(duì)提出更高需求,多模態(tài)特性又增加了對(duì)其他編解碼模塊的需求。

        1679553353153889.png

        多模態(tài)應(yīng)當(dāng)具備三個(gè)基本組成部分:第一部分是圖像,視頻為多幀的圖像;第二部分為音頻;第三部分為文字。

        因此,隨著多模態(tài)的發(fā)展,在層面,需要面向視頻、音頻再增加編解碼能力的支持。從難度上講,視頻對(duì)于算力和IP復(fù)雜度的要求最高,其次為音頻,是從算力擴(kuò)展到周邊支持性的編解碼IP如VPU模塊的機(jī)會(huì)。

        據(jù)媒體報(bào)道,在晶圓領(lǐng)域走在行業(yè)前列的,來自的A100和H100 訂單在增加,為國(guó)內(nèi)市場(chǎng)設(shè)計(jì)的A800系列GPU的訂單也在增加。

        值得注意的是,A100、H100及A800系列GPU,都是針對(duì)數(shù)據(jù)中心的產(chǎn)品,這三款GPU的代工訂單增加,大概率與ChatGPT等近期大熱的產(chǎn)品有關(guān)。

        1679553429595501.png

        在上月中旬的報(bào)道中,外媒就曾提到由于對(duì)ChatGPT等進(jìn)行訓(xùn)練和提供相關(guān)的服務(wù),全球可能再次面臨GPU短缺的挑戰(zhàn),出現(xiàn)短缺的時(shí)間可能還會(huì)早于預(yù)期。

        為了創(chuàng)建和維持ChatGPT所需的人工智能分析數(shù)據(jù)的龐大數(shù)據(jù)庫,開發(fā)商OpenAI使用了10000個(gè)的GPU進(jìn)行相關(guān)的訓(xùn)練。而為了支持實(shí)際應(yīng)用,滿足服務(wù)器的需求,OpenAI已使用了約2.5萬個(gè)英偉達(dá)的GPU,隨著需求的增加未來預(yù)計(jì)還會(huì)增加。

        來自英偉達(dá)的代工訂單增加,可能還不是近期開始的。有外媒在上月底的報(bào)道中就提到,得益于交貨時(shí)間短的AI芯片和服務(wù)器處理器訂單的強(qiáng)勁推動(dòng),5nm及4nm制程工藝的產(chǎn)能利用率已在回升。雖然當(dāng)時(shí)并未明確提到英偉達(dá)的訂單,但AI芯片和服務(wù)器處理器訂單,大概率也有英偉達(dá)的產(chǎn)品。



        評(píng)論


        相關(guān)推薦

        技術(shù)專區(qū)

        關(guān)閉
        主站蜘蛛池模板: 承德市| 东乡县| 原阳县| 保靖县| 邹城市| 安多县| 略阳县| 绍兴县| 钦州市| 达州市| 陆川县| 长葛市| 福鼎市| 福州市| 巢湖市| 灌云县| 永吉县| 嘉峪关市| 潞西市| 汝阳县| 运城市| 洛扎县| 吉水县| 哈密市| 寿宁县| 金平| 临沭县| 石泉县| 绥滨县| 宜良县| 黔东| 高邮市| 鹿邑县| 平凉市| 牙克石市| 万年县| 瑞金市| 禹城市| 梁山县| 长垣县| 嘉祥县|