GPU賽道趨火，AI芯片邁入落地階段。作者 | ZeR0
編輯 | 漠影
芯東西9月3日報道，今日，上海云端AI芯片公司瀚博半導體在其舉辦的人工智能大芯片產業落地論壇上，預覽其首款7nm云端GPU芯片SG100，將圖形渲染加入其產品布局。同時，瀚博推出了瀚博統一計算架構、全新數據中心推理卡載天VA10、邊緣AI推理加速卡載天VE1和瀚博軟件平臺VastStream擴展版。瀚博半導體2018年12月成立于上海，專注于研發高性能通用加速芯片。其融資情況也很搶眼。快手、阿里巴巴兩大互聯網戰略投資方均在其投資陣容。迄今瀚博已完成逾24億元融資。會后，瀚博半導體創始人兼CEO錢軍接受芯東西等媒體的采訪。錢軍透露，今日新發布的兩款加速卡已經進入客戶層面測用。錢軍表示，未來瀚博將基于GPU和AI芯片帶來更多產品組合，更好地滿足市場、客戶的需求。
01.預覽7nm云端GPU，兼具圖顯與AI功能
瀚博半導體的首款7nm云端GPU芯片SG100具備業界領先的圖形渲染性能，擁有超高吞吐、超高質量、低延時編碼等能力，集渲染、AI、視頻于一體，可為云游戲、云手機、云桌面、云計算等元宇宙關鍵性應用場景提供深度優化。同時，SG100還提供SR-IOV虛擬化支持，端到端整體提升用戶視覺體驗，能夠滿足市場對智能視頻視覺、圖形圖像處理的算力需求。
瀚博半導體創始人兼CEO錢軍是美國GPU巨頭AMD中國前高管，曾帶領AMD中國團隊設計量產了業界第一顆7nm圖形處理器和第一顆7nm云端GPU架構的AI芯片。據悉，瀚博核心研發團隊擁有18年以上高端芯片設計和量產的經驗，手上流片出去的GPU有幾十款。錢軍談道，瀚博的初衷是“為像素世界提供浩瀚算力”。考慮到GPU研發技術門檻高，瀚博成立之初考慮到硬件、軟件研發及工程能力等能力都有待加強，因此選擇先面向“AI+視頻”市場做基于領域專用架構（DSA）架構的AI芯片，以發揮研發團隊在視頻處理方面的經驗。“具有圖形渲染能力的GPU研發一直在我們的計劃當中。”錢軍說，隨著SG100到來，瀚博正式進入GPU市場。由于瀚博云端GPU和專用AI芯片在目標市場上存在重合，當芯東西問這兩大產品線如何協同時，錢軍談到瀚博的做法類似于“中臺”概念，瀚博自主研發的很多核心技術與半導體IP，既可以內置于GPU，也可以AI芯片工作。未來，瀚博計劃基于GPU、AI和視頻核心技術帶來更多產品組合。錢軍告訴芯東西，后續瀚博也會考慮研發將GPU和AI能力整合在一起的芯片，這將根據客戶需求來綜合判斷。
02.公布統一計算架構全景圖推出兩款AI推理加速卡
論壇現場，瀚博半導體創始人兼CEO錢軍宣布推出由瀚博自主研制的統一計算架構（Vastai Unified Compute Architecture）。
該架構整合了多款高性能計算引擎，擁有高效統一的存儲管理、一致性接口和低鏈接延遲、完整的虛擬化功能、統一的底層軟件設計、模塊化的上層計算算子庫和功能模塊。瀚博的統一計算架構，讓計算密集型的AI、視頻、渲染任務性能得到最大化硬件加速，同時端到端縮小延時，一體化助力云端實時圖形渲染、AI增強處理、視頻編解碼等需求。面向數據中心場景，瀚博推出數據中心推理卡載天VA10。這款加速卡搭載瀚博自研的超低延時、超高吞吐AI引擎，INT8峰值算力達400TOPS，刷新業界紀錄。
載天VA10功耗為150瓦，整體最高推理性能達到同功耗主流GPU的2倍以上，且延時低至后者的6%。在低延時場景（低于4毫秒的YoloV3檢測算法場景）下，其推理性能可以達到同功耗市場主流GPU的3倍以上。據悉，載天VA10適合多種需要高實時性的云端AI應用部署，如直播視頻增強、智慧交通管理、實時語義理解等場景。面向邊緣計算場景，瀚博發布了首款面向邊緣大算力場景推理卡載天VE1系列。
載天VE1兼具低功耗、超低時延與超高吞吐率，吞吐率達到主流GPU的2倍，但時延僅為其的1/5。在40~65瓦功耗下，載天VE1的INT8峰值算力達100TOPS。這款加速卡支持60路1080P視頻實時解碼，支持主流AI框架的模型，提供從模型編譯到推理優化的全流程低代碼開發框架VastPipe，軟硬結合為客戶提供端到端的AI推理解決方案。載天VE1可在眾多關鍵場景發揮作用，比如高速公路事件檢測、“人、車、非機動車”視頻結構化、大數據研判等超高數據量并發場景；再比如，道路實時動態信息交互、工業的缺陷檢測等低延時要求場景。載天VE1非常適用于智慧交通、車路協同、工業質檢等邊緣大算力場景。硬件要發揮最佳性能，更需要軟件的同步支持。瀚博的軟件平臺VastStream應運而生，可加速各類AI應用部署，包括計算機視覺、視頻處理、自然語言處理、搜索與推薦、算子自定義擴展等。VastStream的全新軟件組件，提供系統管理等三大管理工具，方便客戶部署，同時其基礎軟件棧功能更加豐富，特性包括統一接口、靈活調度、通用AI計算、多路高效視頻轉碼+AI增強、易編程快遷移、工具鏈完備等。至此，瀚博已形成一條涵蓋了芯片、推理加速卡、一體機的硬件產品線和軟件整合的系統解決方案。
03.產業落地屢有進展，宣布與上海交通大學人工智能研究院合作
在2022世界人工智能大會上，瀚博半導體展出了包括新品在內的多款芯片相關產品，展示其智能視頻視覺、圖形圖像計算產品和算力解決方案。此前，瀚博已推出首款云端AI推理芯片SV102及搭載此芯片的載天系列通用加速卡VA1，其芯片解決方案覆蓋從云端到邊緣的服務器及一體機市場，并在加速相關應用落地方面屢有進展。2022年以來，瀚博先后與福建大數據集團、國寧瑞能，高新興、超聚變等行業領先企業，在智慧城市、智慧政務、智慧交通、智慧園區、智慧能源等多元場景，開展深入合作，為企業智能化、數據化提供國產AI算力解決方案。今年7月，瀚博半導體與高新興簽訂戰略合作協議，雙方將圍繞車聯網、車路協同等智慧交通領域，就芯片解決方案和生態建設展開深度合作，助力智慧交通數字化及智能化轉型升級。瀚博的高性能通用智能加速芯片具備大算力、低時延等優勢，可滿足車路協同多傳感器融合數據處理的大算力及時延要求。同時瀚博研發過程利用先進生產工藝以及創新的節能計算體系結構，可以實現更好的能耗比，從而有助于企業客戶降低算力成本，降低計算能耗。近期，瀚博還與國產主流服務器廠商超聚變合作共同解決企業AI應用過程中面臨的典型問題，致力于降低AI計算門檻。此外，為了促進技術生態的發展，瀚博也在聯合全球頂級的技術、人才、機構和高校建立合作。在今日的論壇上，瀚博與上海交通大學人工智能研究院簽約，開展校企合作。瀚博希望通過產學研用聯盟的方式，讓更多優秀的人才、資源參與進來，推動技術進步、人才培養、科研成果轉化，建立智能芯片生態。
04.看好元宇宙國內芯片公司彎道超車的機會
作為數字經濟未來發展的重要領域，元宇宙邁入虛擬和現實融合的3D互聯網時代，算力需求也更加蓬勃。9月1日，瀚博創始人兼CEO錢軍出席2022世界人工智能大會芯片主題論壇，在圓桌會議環節分享了對于芯片元宇宙中應用的見解。
▲瀚博半導體創始人兼CEO錢軍
錢軍認為，元宇宙是國內芯片公司彎道超車的機會，“就像油車和電車比起來已經落伍了一樣，當我們有一個顛覆性的方向，這個過程中會獲得各種超越的機會。”在他看來，元宇宙本身并不是一個顛覆性的技術，而是由多個數字技術組合起來的綜合性的應用，在這中間會產生AR/VR等各種各樣的交互和感知，并產生海量內容，這些內容需要實時、強大的視頻處理算力，需要多樣的渲染引擎，還需要綜合5G網絡、大數據、AI、區塊鏈等數字技術來做支撐和管理。因此，元宇宙可以被視作是一個現象級的應用，同時要綜合考慮多類型、高復雜度的計算，所以對未來算力提升的需求空間巨大。以元宇宙的數字孿生做渲染為例，尤其是沉浸式的渲染，對于GPU的性能的提升需求是巨大的。“GPU一定要上云，只有上了云，才能夠把多顆GPU綜合連接起來，然后用一種集成的方式來做有效的渲染，才能支持元宇宙海量內容的產生。”錢軍說。他相信，現在場景和需求更多樣化，渲染算法不斷迭代，找到這些機會，GPU就有望彎道超車。不過，核心技術不是一蹴而就的，而是需要長期努力，扎扎實實地把芯片和技術做出來。
05.芯片如何為AI算力網提供支撐？
在9月2日舉辦的2022世界人工智能大會中國移動主題論壇上，錢軍也探討了對于“AI新基建”的理解。他認為，算力網屬于現象級基礎設施，運用到多種數字化技術，需要多樣化的算力支撐。芯片部署應重點關注能耗與算力密度。其中算力密度從兩個維度考慮，即每平方毫米芯片提供的算力和每瓦功耗提供的算力。算力網絡還應考慮算力的有效性，能否有效驅動應用。從整體上看，打造算力網和做芯片的思路類似，需要系統地規劃算力單元、存儲單元、數據交互等資源，使每個模塊的能力得到有效發揮。至于生態構建，錢軍希望未來出現一些領袖型企業，引導整個行業建立一個開放標準化的生態，將更加有利于行業內的有效競爭和創新，從而更好地支撐AI等行業的發展。
06.結語：云端GPU賽道趨火AI芯片邁入落地階段
工信部數據顯示，我國已成為全球第二的“算力大國”：2021年算力核心產業規模達到1.5萬億元，近5年平均增速超過30%。未來，誰的計算能力更強，誰能率先在落地進程中獲得客戶認可，誰就有望搶占未來制高點、贏得話語權。本周突發的美國政府要求英偉達和AMD限制向中國出口用于加速AI計算的高端GPU事件，再度給我們敲響警鐘，美國隨時可能向我國高精尖技術產業揮起刀鋒，與其心存僥幸，不如踏踏實實做事，未雨綢繆，將未來主動權掌握在自己手中。芯片創業充滿風險，過程艱苦，前路難料。但我們看到多家國內AI芯片企業仍在砥礪前行，并陸續在單卡性能、關鍵應用實測性能及商用落地方面取得一系列新進展。面對接踵而至的機遇與挑戰，AI芯片企業仍需保持定力、練好內功，堅持自主創新與理解客戶需求，方能走得長遠。
*博客內容為網友個人發布，僅代表博主個人觀點，如有侵權請聯系工作人員刪除。
加入技術交流群
