AI加速器對(duì)抗 AMD面對(duì)英偉達(dá)不落下風(fēng)
「買(mǎi)愈多、省愈多」的話語(yǔ)權(quán)輪到AMD發(fā)聲! 根據(jù)近期業(yè)者公布AI服務(wù)器測(cè)試結(jié)果顯示,MI300X在相同條件下,達(dá)到英偉達(dá)H200 5倍之Tokens(參數(shù))吞吐量。 得益于AMD在ROCm生態(tài)系導(dǎo)入的新AI Tensor Engine(張量引擎),加速GPU訓(xùn)練及推理; 另外,在硬件層面大量堆疊HBM也發(fā)揮關(guān)鍵作用。 未來(lái)在成本更加錙銖必較的情況下,AMD AI服務(wù)器更顯優(yōu)勢(shì)。
本文引用地址:http://www.104case.com/article/202503/468708.htm平價(jià)語(yǔ)言模型的崛起,正在重塑GPU市場(chǎng)生態(tài),阿里巴巴首開(kāi)全球數(shù)據(jù)中心算力過(guò)剩第一槍?zhuān)瑯I(yè)界分析,未來(lái)成本更加被檢視情況下,AMD AI服務(wù)器價(jià)值將重獲市場(chǎng)重視。 過(guò)往英偉達(dá)自豪的CUDA生態(tài)護(hù)城河,AMD強(qiáng)化ROCm補(bǔ)齊短版,最新推出的AI Tensor Engine,搭配更佳的硬體規(guī)格,與主流業(yè)者一決雌雄。
法人分析,臺(tái)廠于AI服務(wù)器供應(yīng)鏈扮演重要角色,硬件組裝具競(jìng)爭(zhēng)優(yōu)勢(shì),因此包括鴻海、廣達(dá),散熱業(yè)者奇鋐、雙鴻等也能吃到AMD服務(wù)器訂單。 晶片也委托臺(tái)積電生產(chǎn),但相較英偉達(dá),AMD更敢于嘗試新技術(shù),MI300領(lǐng)先市場(chǎng)采用采用SoIC搭配CoWoS,今年將推出的MI350X以臺(tái)積電3納米制程打造,并用上HBM3E,更大的吞吐量、使推理性能將前一代提高35倍。
AMD之MI300X在DeepSeek-R1推理性能表現(xiàn)突出,結(jié)果顯示,MI300X運(yùn)行FP8最高參數(shù)版本之DeepSeek-R1時(shí),在相同延遲下吞吐量最高可達(dá)輝達(dá)H200之5倍,科技業(yè)者指出,H200單一節(jié)點(diǎn)可處理16個(gè)請(qǐng)求、MI300X則可處理128個(gè)。
AMD原先預(yù)估今年上半年AI業(yè)務(wù)收入將持平,不過(guò),受中國(guó)大陸特規(guī)版MI308強(qiáng)勁需求推動(dòng),法人透露,CSP的資本支出成長(zhǎng)及阿里巴巴和騰訊的采用,將推動(dòng)AMD今年AI業(yè)務(wù)收入成長(zhǎng)至87億美元,相較去年50億美元、大幅成長(zhǎng)7成。 在消費(fèi)性產(chǎn)品部分,Radeon 9070系列發(fā)布帶動(dòng),AMD游戲GPU預(yù)計(jì)表現(xiàn)強(qiáng)勁,該系列GPU在光追性能方面大幅提升,并引入全新的AI加速性能,第二季表現(xiàn)可期。
評(píng)論