英偉達(dá)4億美元收購(gòu)95后華人AI初創(chuàng)企業(yè)，提升GPU利用率

近日消息，英偉達(dá)以4億美元收購(gòu)了位于多倫多的AI初創(chuàng)公司CentML。這家公司由95后華人王尚及其導(dǎo)師根納季·佩基門科（Gennady Pekhimenko）共同創(chuàng)立，專注于優(yōu)化AI應(yīng)用程序的運(yùn)行方式。

王尚出生于山東省青島市，高中就讀于青島二中，本科畢業(yè)于加拿大多倫多大學(xué)，并在該校攻讀碩士和博士學(xué)位。此前，王尚還在谷歌、英特爾和華為加拿大分公司實(shí)習(xí)過(guò)。

他的導(dǎo)師根納季·佩基門科教授是多倫多大學(xué)的副教授，也是CentML的聯(lián)合創(chuàng)始人兼CEO。王尚在CentML擔(dān)任聯(lián)合創(chuàng)始人兼CTO，負(fù)責(zé)開(kāi)發(fā)能夠優(yōu)化AI模型與芯片之間運(yùn)行效率的軟件。CentML通過(guò)訂閱服務(wù)和與云服務(wù)提供商的收入分成協(xié)議盈利。

王尚在2020年和2021年分別發(fā)表了兩篇頂會(huì)論文，涉及反向傳播的可擴(kuò)展性和深度學(xué)習(xí)訓(xùn)練工作負(fù)載的硬件效率提升。

CentML的創(chuàng)新技術(shù)主要集中在提高GPU利用率上。在2021年的一作論文中，王尚等人分析了來(lái)自頂尖研究機(jī)構(gòu)的GPU集群使用統(tǒng)計(jì)數(shù)據(jù)，以深入了解典型深度學(xué)習(xí)訓(xùn)練任務(wù)所實(shí)現(xiàn)的硬件效率。

研究發(fā)現(xiàn)，當(dāng)單加速器訓(xùn)練任務(wù)被重復(fù)啟動(dòng)時(shí)，例如用于超參數(shù)調(diào)優(yōu)時(shí)，它們可能會(huì)在集群范圍內(nèi)的資源消耗中占據(jù)主導(dǎo)地位，同時(shí)卻在很大程度上并未充分利用硬件。為此，CentML開(kāi)發(fā)了HFTA（High Throughput Training Acceleration）技術(shù)，該技術(shù)在提高硬件利用率方面非常有效，其訓(xùn)練吞吐量可提高高達(dá)15.1倍。

此外，CentML還開(kāi)發(fā)了Seesaw，這是一種新的推理優(yōu)化技術(shù)，與目前應(yīng)用最廣泛的頂尖大模型推理引擎vLLM相比，Seesaw的吞吐量最高提升1.78倍（平均提升1.36倍）。這些技術(shù)創(chuàng)新不僅提升了CentML的技術(shù)實(shí)力，也為英偉達(dá)在AI領(lǐng)域的布局提供了新的支持。

在此次收購(gòu)前，英偉達(dá)已為CentML提供了2700萬(wàn)美元的種子輪融資。該輪融資由谷歌旗下專注于AI的Gradient Ventures基金領(lǐng)投，德勤創(chuàng)投、湯森路透創(chuàng)投和Radical Ventures等知名風(fēng)投公司跟投。當(dāng)時(shí)，這筆資金曾用于在2024年底前將CentML的32人團(tuán)隊(duì)擴(kuò)大一倍。

消息人士透露，考慮到包括以“達(dá)到業(yè)績(jī)目標(biāo)為條件的承諾”在內(nèi)的因素，該交易的總價(jià)值可能升至 4 億美元以上。因此，這筆交易可能會(huì)為CentML的早期投資者帶來(lái)豐厚回報(bào)。

收購(gòu)后，原CEO佩基門科目前在英偉達(dá)擔(dān)任AI軟件高級(jí)總監(jiān)，同時(shí)仍在多倫多大學(xué)擔(dān)任教職；作為原CTO的王尚目前在英偉達(dá)擔(dān)任AI軟件系統(tǒng)經(jīng)理；原首席架構(gòu)師阿南德·賈亞拉詹（Anand Jayarajan）目前在英偉達(dá)擔(dān)任工程經(jīng)理；原COO阿克巴·努爾利巴耶夫（Akbar Nurlybayev）目前在英偉達(dá)擔(dān)任AI軟件高級(jí)經(jīng)理。

此次收購(gòu)是英偉達(dá)在AI領(lǐng)域人才爭(zhēng)奪戰(zhàn)的一部分，此前英偉達(dá)已收購(gòu)了多家AI初創(chuàng)公司，如Deci、OctoAI和Run:ai，并從這些公司中引入了多位核心人才。英偉達(dá)通過(guò)此次收購(gòu)，進(jìn)一步強(qiáng)化了其在AI算力優(yōu)化方面的技術(shù)布局，尤其是在GPU利用率和AI模型部署效率方面。