博客專欄

        EEPW首頁(yè) > 博客 > ChatGPT的背后:指數(shù)級(jí)增長(zhǎng)的芯片與半導(dǎo)體需求

        ChatGPT的背后:指數(shù)級(jí)增長(zhǎng)的芯片與半導(dǎo)體需求

        發(fā)布人:芯股嬸 時(shí)間:2023-02-09 來(lái)源:工程師 發(fā)布文章

           近期ChatGPT大火。除了模型本身帶來(lái)的紅利以外,還有模型需求增加導(dǎo)致的算力提升,因此有望帶來(lái)指數(shù)級(jí)增長(zhǎng)的芯片與半導(dǎo)體需求。

          原文:

          ChatGPT熱潮席卷全球。ChatGPT(Chat Generative Pre-trained Transformer)是由OpenAI于2022年12月推出的對(duì)話AI模型,一經(jīng)面世便受到廣泛關(guān)注,其2023年1月月活躍用戶達(dá)到1億,是史上月活用戶增長(zhǎng)最快的消費(fèi)者應(yīng)用。

          ChatGPT主要以問(wèn)答類為主,但與其他問(wèn)答類AI產(chǎn)品不同,其具備訓(xùn)練集中的所有知識(shí),具有語(yǔ)言生成能力,可以實(shí)現(xiàn)擬人化交流,而不只是像天貓精靈、小愛(ài)同學(xué)等其他AI產(chǎn)品的一問(wèn)一答模式。在問(wèn)答模式的基礎(chǔ)上ChatGPT可以進(jìn)行推理、編寫(xiě)代碼、文本創(chuàng)作等等,這樣的特殊優(yōu)勢(shì)和用戶體驗(yàn)使得應(yīng)用場(chǎng)景流量大幅增加。

          ▲芯片需求=量↑x價(jià)↑

          1)量:AIGC帶來(lái)的全新場(chǎng)景+原場(chǎng)景流量大幅提高

          ① 技術(shù)原理角度:ChatGPT是基于GPT3.5架構(gòu)開(kāi)發(fā)的對(duì)話AI模型,歷經(jīng) GPT-1/2/3迭代,在GPT3.5模型后,開(kāi)始引入代碼訓(xùn)練和指令微調(diào),加入RLHF技術(shù)(人類反饋強(qiáng)化學(xué)習(xí)),從而實(shí)現(xiàn)能力進(jìn)化。GPT作為知名的NLP模型,基于Transformer技術(shù),隨著模型不斷迭代,層數(shù)也越來(lái)越多,對(duì)算力的需求也就越來(lái)越大。

          ② 運(yùn)行條件角度:ChatGPT完美運(yùn)行的三個(gè)條件:訓(xùn)練數(shù)據(jù)+模型算法+算力。其中訓(xùn)練數(shù)據(jù)市場(chǎng)廣闊,技術(shù)壁壘較低,投入足夠的人力物力及財(cái)力后即可獲得;基礎(chǔ)模型及模型調(diào)優(yōu)對(duì)算力的需求較低,但獲得ChatGPT功能需要在基礎(chǔ)模型上進(jìn)行大規(guī)模預(yù)訓(xùn)練,存儲(chǔ)知識(shí)的能力來(lái)源于1750億參數(shù),需要大量算力。所以,算力是ChatGPT運(yùn)行的關(guān)鍵所在。

          2)價(jià):對(duì)高端芯片的需求將拉動(dòng)芯片均價(jià)

          采購(gòu)一片英偉達(dá)頂級(jí)GPU成本為8萬(wàn)元,GPU服務(wù)器成本通常超過(guò)40萬(wàn)元。對(duì)于ChatGPT而言,支撐其算力基礎(chǔ)設(shè)施至少需要上萬(wàn)顆英偉達(dá)GPU A100,一次模型訓(xùn)練成本超過(guò)1200萬(wàn)美元。

          從芯片市場(chǎng)角度出發(fā),芯片需求的快速增加會(huì)進(jìn)一步拉高芯片均價(jià)。目前OpenAI已推出20美元/月訂閱模式,初步構(gòu)建了優(yōu)質(zhì)的訂閱商業(yè)模型,未來(lái)繼續(xù)擴(kuò)容的能力將會(huì)大幅提升。

          “背后英雄”系GPU或CPU+FPGA等算力支撐

          1)GPU可支撐強(qiáng)大算力需求。具體來(lái)說(shuō),從AI模型構(gòu)建的角度:第一階段是用超大算力和數(shù)據(jù)構(gòu)建預(yù)訓(xùn)練模型;第二階段是在預(yù)訓(xùn)練模型上進(jìn)行針對(duì)性訓(xùn)練。而GPU由于具備并行計(jì)算能力,可兼容訓(xùn)練和推理,所以目前被廣泛應(yīng)用,ChatGPT訓(xùn)練模型中就已導(dǎo)入至少1萬(wàn)顆英偉達(dá)GPU(曾經(jīng)風(fēng)靡一時(shí)的AlphaGO也只需要8塊GPU),推理部分使用微軟的azure云服務(wù),也需要GPU進(jìn)行運(yùn)作。所以,ChatGPT的火熱興起對(duì)GPU的需求可見(jiàn)一斑。

          2)CPU+FPGA拭目以待。從深度學(xué)習(xí)的角度來(lái)看,雖然GPU是最適合深度學(xué)習(xí)應(yīng)用的芯片,但CPU和FPGA也不可忽略。FPGA芯片作為可編程芯片,可以針對(duì)特定功能進(jìn)行擴(kuò)展,在AI模型構(gòu)建第二階段具有一定的發(fā)揮空間。而FPGA想要實(shí)現(xiàn)深度學(xué)習(xí)功能,需要與CPU結(jié)合,共同應(yīng)用于深度學(xué)習(xí)模型,同樣可以實(shí)現(xiàn)龐大的算力需求。

          3)云計(jì)算依靠光模塊實(shí)現(xiàn)設(shè)備互聯(lián)。AI模型向以ChatGPT為首的大規(guī)模語(yǔ)言模型發(fā)展,驅(qū)動(dòng)數(shù)據(jù)傳輸量和算力提升。伴隨數(shù)據(jù)傳輸量的增長(zhǎng),光模塊作為數(shù)據(jù)中心內(nèi)設(shè)備互聯(lián)的載體,需求量隨之增長(zhǎng)。此外,伴隨算力提升能耗增長(zhǎng),廠商尋求降低能耗方案,推動(dòng)低能耗的光模塊發(fā)展。

          結(jié)論:ChatGPT作為一種新興的超智能對(duì)話AI產(chǎn)品,無(wú)論是從技術(shù)原理角度還是運(yùn)行條件角度,ChatGPT都需要強(qiáng)大算力作為支撐,從而帶動(dòng)場(chǎng)景流量大幅增加,此外,ChatGPT對(duì)于高端芯片的需求增加也會(huì)拉動(dòng)芯片均價(jià),量?jī)r(jià)齊升導(dǎo)致芯片需求暴漲;面對(duì)指數(shù)級(jí)增長(zhǎng)的算力和數(shù)據(jù)傳輸需求,可以進(jìn)行提供的GPU或CPU+FPGA芯片廠商、光模塊廠商即將迎來(lái)藍(lán)海市場(chǎng)。

          看好:看好國(guó)內(nèi)GPU、CPU、FPGA、AI芯片及光模塊產(chǎn)業(yè)鏈玩家。

          ① GPU:海光信息景嘉微

          ② CPU:龍芯中科中國(guó)長(zhǎng)城

          ③ FPGA:安路科技、復(fù)旦微電紫光股份

          ④ AI芯片:寒武紀(jì)、瀾起科技

          ⑤ 光模塊:德科立天孚通信中際旭創(chuàng)

          風(fēng)險(xiǎn)提示:1)半導(dǎo)體下游需求不及預(yù)期;2)研發(fā)進(jìn)度不及預(yù)期。


        *博客內(nèi)容為網(wǎng)友個(gè)人發(fā)布,僅代表博主個(gè)人觀點(diǎn),如有侵權(quán)請(qǐng)聯(lián)系工作人員刪除。



        關(guān)鍵詞: 半導(dǎo)體

        相關(guān)推薦

        技術(shù)專區(qū)

        關(guān)閉
        主站蜘蛛池模板: 内乡县| 蓬安县| 永胜县| 武冈市| 灵宝市| 忻城县| 蓬安县| 崇仁县| 弋阳县| 抚顺市| 招远市| 长海县| 宜宾县| 尉氏县| 高平市| 扶沟县| 东乌珠穆沁旗| 榆树市| 开平市| 桃江县| 巴彦县| 荣昌县| 怀仁县| 来安县| 乌鲁木齐市| 威宁| 本溪市| 鄂州市| 潼关县| 阿克苏市| 双桥区| 江孜县| 山阳县| 华亭县| 县级市| 忻城县| 博爱县| 潍坊市| 溧水县| 手机| 凭祥市|