外媒：換芯片、改軟件，中國AI公司“可有效規(guī)避美國制裁”

導(dǎo)讀：5月9日據(jù)Tom's Hardware報道，中國廠商正通過更換GPU、調(diào)整軟件等方式來訓(xùn)練AI大模型，但代價是效率和成本。

圖：被爆炒的英偉達H100

芯片大師曾在馬斯克等簽署千人聯(lián)名信：立即停止巨型AI實驗一文中指出，國內(nèi)AI廠商未來面臨自主設(shè)計的ASIC無法使用先進工藝制造，也無法獲得和競爭對手一樣的進口芯片的尷尬，中外由于芯片算力帶來的差距將進一步擴大。

報道稱，為了彌補強大GPU（NVIDIA的A100/H100）的不足，中國AI大模型開發(fā)人員正在簡化他們的程序以降低要求，并結(jié)合使用他們可以獲得的所有計算硬件。

據(jù)瑞銀分析師估計，OpenAI的ChatGPT背后的大規(guī)模語言模型需要5,000到10,000個Nvidia 的A100 GPU進行訓(xùn)練。而阿里巴巴、百度和華為等公司已經(jīng)探索使用NVIDIA的V100、P100及華為Ascend（昇騰）的組合。

圖：中外主要AI算力芯片（浙商證券）

據(jù)SemiAnalysis估計，OpenAI運營ChatGPT每天的花費高達700,000美元，因為ChatGPT需要大量的算力來響應(yīng)海量用戶的需求，同時，大部分成本是基于他們所需的昂貴服務(wù)器。

4月，騰訊推出了一個新的計算集群，使用NVIDIA H800s進行大規(guī)模AI模型訓(xùn)練。但這種方法可能代價高昂，因為中國公司可能需要三倍的H800才能達到美國同行采用H100獲得的結(jié)果。

這意味著，如果中國企業(yè)需要運營一個類似于ChatGPT的項目，每天的成本可能將高達210萬美元，但成本還不是最困難的。

報道還稱，盡管中國有許多公司為AI工作負載開發(fā)處理器，但它們的硬件不受英偉達CUDA等強大軟件平臺的支持，這也是此前有報道稱基于此類芯片的機器“容易崩潰”的原因。

圖：華為昇騰系列

在最近的一篇論文中，華為研究人員演示了僅使用Ascend處理器來訓(xùn)練他們最新一代的大型語言模型PanGu-Σ。雖然存在一些缺點，但該模型在閱讀理解和語法測試等一些中文任務(wù)中取得了最先進的性能。

分析人士說，無法使用H100芯片給中國研究人員帶來了顯著的困難，該芯片包括一項額外的性能增強功能，特別適用于訓(xùn)練類似ChatGPT的模型。與此同時，百度和鵬程實驗室去年發(fā)表的一篇論文表明，研究人員正在使用一種可以使附加功能變得無關(guān)緊要的方法來訓(xùn)練大型語言模型。

對此，SemiAnalysis首席分析師Dylan Patel認為：“如果運作良好，他們可以有效規(guī)避制裁。”