華為黃之鵬：MindSpore全場景AI計算框架 | CCF-GAIR AI源創專場

AI研習社按：8 月 7 日 - 9 日，由中國計算機學會（CCF）主辦，雷鋒網、香港中文大學（深圳）承辦，鵬城實驗室、深圳市人工智能與機器人研究院協辦的第五屆 CCF-GAIR 2020 全球人工智能與機器人峰會如期落地。

8 日，峰會與 AI 研習社、OpenI 啟智社區聯合舉辦“AI 源創專場”，重點討論了新基建背景下，國內開源創新建設將催生的新勢能，以及其將引發和促進的新產業機會。

AI源創專場現場迎來了華為計算開源生態部副總監黃之鵬。一年前，華為發布了全場景 AI 計算框架 MindSpore，并同時公布了 2020 年的開源計劃。今年 3 月底，開發者們如期迎來了MindSpore全面開源。MindSpore 可以適應端、邊、云多個場景，并且與華為昇騰 AI 處理器的協同優化能帶來效率提升，黃之鵬就此發表演講。

       （華為計算開源生態部副總監，黃之鵬）

黃之鵬在演講中介紹了 MindSpore 的功能、特性以及在華為的業務落地情況。

MindSpore是提供面向端、邊、云全場景的統一API，對開發者提供一些非常友好的特性。目前 MindSpore在華為的業務上已經有了落地，內部有很多的實驗室已經大規模的應用了 MindSpore 的框架。華為手機搭載的 HMS 4.0開始已經搭載 MindSpore 的端側推理能力，主要支撐的是 ML-kit使能的手機App。

除了自動微分、自動并行、二階優化、量化訓練、圖算融合等關鍵特性外，MindSpore 也提供了可視化工具，比如圖像模式、直方圖、數據溯源等等，盡可能的直觀給工程師呈現AI實驗的過程和細節；以及模型攻擊評估工具，幫助開發者能夠評估其所開發的MindSpore模型的安全性和魯棒性。

黃之鵬表示 MindSpore 和國內其他已有的深度學習框架開源項目不太一樣，采用了比較開放的架構，其中技術治理委員會(TSC)是由14名來自中美歐的專家組成。采用社區治理架構正是因為華為希望 MindSpore 能成為一個面向全球的開源社區，而不僅局限在一個區域內。

以下為黃之鵬的現場演講內容，AI研習社進行了不改變原意的編輯及整理：

謝謝主持人，MindSpore是華為3月28日開源的框架，華為的解決方案是全棧式的解決方案，包括了我們公有云提供的框架，我們的CANN使能層和自研的昇騰硬件。

下面我介紹一下MindSpore的特性，總體來說，MindSpore是提供面向端、邊、云全場景的統一API，我們提供一些比較新的，對于開發者非常友好的特性。大家如果了解深度學習框架這些年的發展趨勢，其實框架現在主要集中在編譯優化和軟硬結合這兩塊，對于MindSpore來說，編譯層面大量的優化也是我們的特點之一。

和硬件的結合上，MindSpore代表軟硬結合的思路，具有面向系統進行設計特性。

MindSpore是比較年輕的社區，我們代碼主要托管在碼云，通過自己做的小機器人，同時同步到Github，方便國內、國外的開發者。我們也制作了很多版本宣傳視頻和教學視頻，希望通過各種渠道幫助開發者更快的了解我們的框架。

MindSpore在華為的業務上已經有了落地，我們內部有很多的實驗室已經大規模的應用了MindSpore的框架。華為手機搭載的HMS4.0開始已經搭載MindSpore的端側推理能力，主要支撐的是ML-kit所使能的手機App。在電信領域，華為支持了很多電信領域AI結合的嘗試，主要是我們的NAIE解決方案。

今天下午講了很多的框架，為什么又出一個框架，為什么又要學習一個框架？對于華為來說，我們做框架并不是單純為了解決軟件的問題，當然軟件是很大的問題，對于華為來說，主要是全棧的思考，從模型到數據到應用的部署，到跟算法工程師流水線的使能，再到硬件，我們希望這一整套都可以提供一套思路，幫助或是和業界一起往前走，做出一些創新。

下面來介紹MindSpore的幾個主要特性：

MindSpore的自動微分

自動微分對于深度學習框架來說，并非是新事物。TensorFlow的自動微分主要是基于圖的，其缺點是，現在大多數的框架都是Python的原生編程，TF的自動微分，尤其對于很多的科研都需要二階、三階的計算，是非常復雜的。Pytorch主要是通過Python語言的自身特性，通過運算符重載來實現自動微分，但其缺點在于運行時開銷較大。MindSpore采用基于源代碼的自動微分技術，在讓開發者可以用Python開發模型的同時，通過我們的編譯優化技術達到自動微分，生成對硬件優化友好的圖IR的源代碼，整體的執行效率非常高。

所有做分布式、大集群都會遇到并行的問題，從傳統的數據并行，到后來出現模型并行，以及Pioeline并行等方法，都被用來解決此類問題。MindSpore的自動并行借助昇騰硬件的優秀能力，可以為開發者提供自動并行的能力，不需要開發者手動去寫模型和數據切分及運行的策略。

剛才講的是我們稱之為前端的能力，再往下走是偏硬件或是利用硬件能力的能力，主要是六大功能：Shape推導、引擎劃分，整圖拆分、邊界標識，格式轉換，算子融合，編譯、Stream分配、Task編譯，圖加載至硬件。帶來顯而易見的好處是，比如MindSpore可以讓開發者只通過一條語句，來實現動態圖到靜態圖非常便利的切換，方便大家在研究和生產等不同環境的調試和部署。

我們也提供一些比較好用的工具，MindSpore提供圖像模式、直方圖、數據溯源，總而言之，盡可能的直觀給工程師呈現AI實驗的過程和細節。另外我們提供的工具，模型寫出來被惡意的人使用會達到完全不一樣的效果，模型會模仿各種各樣的攻擊，幫助開發者評估MindSpore開發的模型是否有足夠好的特性。

MindSpore的圖算融合，實際上可以理解為兩層，一個是圖層，后端有AKG做算子的融合，小算子組成大算子，對性能的優化有比較好的提升，我們應用了多面體技術(Polyhedral)去做Auto schedule。

MindSpore的混合異構，比較便捷的實現混合資源高效的任務執行。還有一些特性沒有詳細介紹，比如說量化訓練、二階優化等，都是可以做到比同類開源項目更好的性能。還有一些我們在做的更前端、更前沿的嘗試。

MindSpore和WebAssembly的結合，主要場景目前是在瀏覽器里進行推理任務，為什么要用瀏覽器？在醫生、金融等場景，不管是PC側還是手機側的瀏覽器，都可運行推理任務。

WebAssembly (WASM)是很多大型廠商關注的新方向，這個技術本身不新，WebAssembly是希望在瀏覽器有提供原生運行性能，很多的開源合作，很多大公司都在嘗試，看能不能從瀏覽器里推廣出來，不僅僅是跑在瀏覽器里面，也可以跑到服務器上，跑到PC上，邊緣的設備上。由于WebAssembly是一種堆棧式虛擬機，其安全性是非常好的，像金融、醫療這樣對安全性的要求非常高的場景，會有很多的需求。

我們團隊在做的一個嘗試，最近已經做了一個小型嘗試，加強TVM對WASM及Rust的支持，我們想把TVM很好的能力運用起來，希望能管理起來。

eBPF也是目前比較前沿的技術，提供了靈活的內核虛擬機。比如對網絡調優的時候，通常需要走大量的內核函數調用，完成TCP/IP完整協議棧的每一層的檢查。而通過eBPF，則可以把包直接加載在其內核虛擬機分配的寄存器中，進行非常快速的檢查。我們將eBPF這樣的工具應用在AI領域，希望可以幫助我們更好的理解模型訓練、推理時到底發生了什么，到底觸發了什么，到底在做些什么東西，eBPF只是一個工具，我們希望這個路徑打開更多的監測能力。

必須要提的是，除了剛才介紹的這些特性之外，MindSpore和國內其他已有的社區不太一樣的是，我們還是采用了比較開放的架構，MindSpore有兩層的治理架構組成，技術治理委員會(TSC)是由14名來自中美歐的專家組成。采用社區治理架構也是我們希望MindSpore不僅局限在某個區域內的開源項目，希望MindSpore能夠成為面向全球的開源社區。

我們非常歡迎開發者加入到我們社區的開發，可以選擇你感興趣的SIG組，他們每個月基本都會開例會，例會錄屏都會上傳到B站。歡迎大家到社區成立針對某一個特性的SIG組或WG組。我們現在為了方便開發者開發MindSpore，主要是通過華為的ModelArts的服務，目前還有公測，歡迎大家申請。

碼云：gitee.com/mindspore

GitHub：github.com/mindspore-ai