AI在邊緣設備上的發展機會

作者 / 王瑩 王金旺 《電子產品世界》編輯(北京 100036)

摘要：AI不僅僅發生在對計算要求高的云端，還會出現在數量更加龐大的物聯網邊緣端，例如消費電子、汽車電子、工業控制、測試測量等領域。為此，本媒體邀請部分AI芯片及EDA/IP廠商，介紹邊緣AI的最新技術進展和解決方案。

瑞薩AI終端問題解決方案

　　針對終端上的AI執行，為了適配嵌入式系統，除了耗電問題以外，還有其他需解決的問題。首先，將通過云端開放資源學習過的AI導入嵌入式系統的內存資源，其次，需要準備、提供適合執行AI的最優設備;再次，不僅是單純處理，為實施實時性能、控制，還需具備安全性和可靠性。

　　瑞薩電子在終端嵌入AI，稱為e-AI(Embedded Artificial Intelligence)。瑞薩從去年開始免費開放了e-AI Translator工具。這是可將通過Caffe、TensorFlow學習過的AI嵌入到所有MCU/MPU的壓縮工具。瑞薩電子的MCU/MPU產品線可以通過該工具，根據執行AI的大小，從豐富的產品線中選擇適配產品。

　　瑞薩考慮不僅在CPU，而且在終端中支持AI的應用需求。瑞薩將針對AI提供其獨特的處理器DRP (Dynamically Reconfigurable Processor)。就并行性而言，DRP優于CPU;而就耗電量而言，DRP又優于難以將全部數據導入的GPU。在相同耗電量的條件下，其測量結果是CPU的100倍以上，GPU的10倍以上。通過使用DRP，客戶將AI的識別功能應用于相機、機器人、AR眼鏡。現在已經有不少客戶在其新產品中積極推廣使用該技術。

　　瑞薩電子在其獨有產品SOTB(Si On Thin Buried-oxide)上也支持e-AI。通過利用該技術，可將MCU的工作電流大幅降低至1/10，待機電流降低至1/100。該技術不僅可大幅延長電池壽命，還使利用熱能、振動、光、無線電波等能量轉換成電源的系統操作成為可能。對于傳感器網絡和健康看護可穿戴設備而言，通過在SOTB上嵌入e-AI，搭建僅將AI識別判斷后的結果傳輸的系統成為可能，從而大幅節電。現在很多顧客開始探討用SOTB來替代從前系統中的電池。

邊緣計算提高端云有效協作

　　恩智浦對邊緣側AI和IoT(物聯網)戰略作用非常重視。我們認為大數據、IoT和AI的應用發展要求邊緣端具有以下能力：

　　1)對智能家居、工業互聯、智慧城市等提供智能化、快速和有效的支持;

　　2)從作為云端提供數據采集和控制反饋的連接通道，到云端訓練和深度學習，邊緣信息采集和AI識別的邊云一體化方向發展;

　　3)及時接收云端廣播訓練好的模型和提取的特征，在邊緣端提供有效的AI識別作用。

　　新趨勢對芯片和算法帶來的新要求

　　這樣的新趨勢也對芯片、計算架構及算法產生了新的要求。

　　首先，要求邊緣端的芯片對網絡傳輸、安全算法運算、數據存儲和AI算法有足夠的支持能力，即要有一定的綜合運算能力。具體包括;

　　1)網絡傳輸表示要及時地將用于學習和AI訓練的數據送到云端，避免網絡擁塞;

　　2)要對數據進行安全保護和加解密的運算支持，要對設備、用戶和應用提供可信的認證;

　　3)對數據提供本地存儲和AI智能運算能力。

　　其次，對計算架構和算法產生了新要求，具體包括：

　　1) 提供端云有效配合的計算架構，實現云端學習和訓練，邊緣端特征提取和識別的有效AI應用的支持;

　　2)支持云端將學習好的模型及時廣播給聯接的邊緣設備，邊緣端利用訓練好的模型對新數據進行識別和AI處理;

　　3)提供適用于邊緣端的AI算法、學習框架、運算庫和編譯環境。

　　恩智浦針對這樣的挑戰，在芯片SoC上提供了各種硬件加速引擎，包括網絡通信、安全存儲運算、AI運算，保證芯片在邊緣端強大的AI運算能力;提供了支持邊緣計算的EdgeScale平臺，除了安全管理和邊緣設備管理外，它會封裝用于AI的算法和系統庫，簡化AI的開發。并提供AI應用的開發示例，例如人臉識別、OCR、語音識別、物體識別等，為AI應用的快速落地帶來方便。另外，它提供了針對工業互聯場景的邊緣平臺架構OpenIL，從實時性、安全性、穩定性和傳輸性上對邊緣端提供有效保障。

應用于自動駕駛的邊緣 AI 視覺

　　自動駕駛汽車中的每一個傳感器都需要得到精密算法的支持，算法可以生成傳感器數據的感知解讀。最新趨勢是利用深度學習算法來生成感知解讀。不過，深度學習算法必須通過大量可能出現的情境加以訓練，才能學會如何去解讀各種可能出現的傳感器數據。訓練后，為了實現車輛的安全操控，深度學習算法需要極低時延的超高計算性能。這必須通過低功耗熱約束且延長電動汽車的電池續航時間來實現。賽靈思可提供所需的高性能、功率效率和自適應性，充分滿足自動駕駛汽車中邊緣AI 的需求。

　　賽靈思旨在利用邊緣 AI 視覺幫助實現自動駕駛車輛，讓城市更安全，讓工廠具有更高生產力，這也是業界發展趨勢所在。這一技術創新正在眾多層面不斷快速演進和發展，如系統、算法以及傳感器層面等。賽靈思技術可對芯片上的晶體管功能進行深層的細化控制，從而幫助創新人員實現更高的靈活應變性。

　　這種 AI 創新在自動駕駛汽車的開發中日益顯現。例如BMW 760i(2010 款)中的早期主動巡航控制使用單一的前視雷達，新投產的特斯拉 Model 3將傳感器配置提升為 8 個高分辨率視頻攝像頭、12 個超聲波傳感器和一個前視雷達，可實現司機監控操作的自動駕駛功能(僅作為駕駛輔助功能，并非完全自動駕駛)。隨著全自動駕駛汽車面臨的挑戰不斷得到解決，傳感器的數量與類型也將持續增加，LIDAR、紅外線視頻等技術將嶄露頭角，雷達與攝像頭的數量也越來越多。

　　邊緣 AI 性能實證(與 NVIDIA Tegra TX2 相比)：

　　1)3 倍的機器學習推導性能;

　　2)42 倍的傳感器處理性能;

　　3)每幅圖像實時性能的時延僅為 0.33 ms。

Arm三大平臺助力建設開放式AI生態系統

　　AI能力已經從云端向包括邊緣和終端的前端迅速遷移，現階段的主要挑戰是前端的成本和功耗限制下的AI計算能力提升要求及軟件生態。邊緣AI算力已經開始快速迭代，多數的檢測和識別任務將會在前端就地完成，設備的響應速度、可靠性會提高，數據的隱私性會提高。但如何保護算法產權自身的安全性，同時降低應用的開發難度和普及門檻需要解決。

　　芯片作為前端智能應用的基礎支撐載體，如何解決以上相關挑戰，發揮Arm生態優勢，加強產業協作是不可忽略的一環。Arm中國和生態伙伴創立的OPEN AI LAB提供優化的算法庫HCL、算法模型加速引擎Tengine和SDK開發包AID，致力于提升前端AI計算效率、降低應用開發門檻。同時，Arm人工智能生態聯盟AIEC致力于推動從芯片、算法、解決方案、系統集成、部署落地的全產業鏈協作，加速AI前端應用落地和普及。

　　除此以外，Arm也為滿足用戶對移動設備、智能電視更高要求的視覺體驗、4K HDR視頻等新興需求持續研發新IP及解決方案。顯示技術、圖層數據處理能力、增值視頻體驗，這些都是Arm現在及未來賦予廣大移動用戶的價值所在。

　　Arm三大平臺方案

　　Arm著力于為合作伙伴提供平臺型解決方案，目前已推出三大平臺：

　　一是機器學習平臺Project Trillium，全面支持主流的深度學習模型以及傳統CV。開發者能夠繼續使用他們首選的框架和工具，經Arm開發軟件無縫轉換結果后，可在底層平臺上運行。

　　其二是平臺安全架構PSA，為IoT安全提供了一套全面的安全指導方針，使從芯片制造商到設備開發商，再到云服務平臺等價值鏈中的每位成員都能成功實現安全運行。

　　其三是Arm Mbed平臺，支持多協議，將IoT設備安全地連接至云，將數據安全地送上云。

　　以上三大平臺不僅賦能合作伙伴創新應用解決方案，更是Arm致力共建產業標準與開發者生態、激活增值解決方案與服務的基礎。Arm始終希望，聯合行業價值鏈中的所有成員，合力建設開放式協作創新與共同成長的生態系統。