瑞薩AI終端問題解決方案

作者/瑞薩電子中國董事長 真岡朋光

一般人們提到的“實時響應的邊緣AI”是指達到人類的實時響應水平（ｍSec/毫秒級)，邊緣是指邊緣計算。而驅動整個社會、與傳感和控制結合的產業的運轉，則要求μSec（微秒級）的實時響應。為了將該領域與邊緣計算區別開來，我們稱之為終端（Endpoint）。作為在邊緣計算與終端（Endpoint）上運行的AI加速器，最近有學者和公司提出了一種新的計算架構方案，即比較在相同耗電量下通過深度神經網絡執行性能的數據。這是想解決設備通過云端、服務器進行學習的高耗電問題。

挑戰

而針對終端（Endpoint）上的AI執行，為了適配嵌入式系統，除了耗電問題以外，還有其他需解決的課題。

首先，將通過云端開放資源學習過的AI導入嵌入式系統的內存資源有限。

其次，需要準備、提供適合執行AI的最優設備。

再次，不僅是單純處理，為實施實時性能、控制，還需具備安全性和可靠性。

解決方案

瑞薩電子在終端（Endpoint）上嵌入AI，稱為「e-AI」，即Embedded Artificial Intelligence的簡稱。瑞薩從去年開始免費開放了叫做「e-AITranslator」的工具。這是可將通過Caffe、TensorFlow學習過的AI，嵌入到所有MCU/MPU的壓縮工具。瑞薩電子擁有業界高品質的MCU/MPU產品線，通過該工具，根據執行AI的大小，從豐富的產品線中選擇適配產品。

瑞薩電子擁有針對嵌入式系統開發、經過市場驗證的產品。可支持實時處理、進行控制、安全可靠的產品上運行AI。客戶在制造設備中實施的流程管理、設備管理、預測性維護、安全管理，可即刻使用AI。在瑞薩自己的工廠中，也已在制造設備中安裝使用了AI，在其他一些大客戶的設備上也進行了推廣使用。

瑞薩考慮不僅在CPU，而且在終端（Endpoint）中支持AI的應用需求。瑞薩將針對AI提供其獨特的處理器DRP(Dynamically Reconfigurable Processor)。就并行性而言，DRP優于CPU；而就耗電量而言，DRP又優于難以將全部數據導入的GPU（Graphics ProcessingUnit)。在相同耗電量的條件下，其測量結果是CPU的100倍以上，GPU的10倍以上。

此外，與FPGA (Field-Programmable Gate Array)不同，開發無需硬件設計人員，AI的更新也容易。

通過使用DRP，客戶將AI的識別功能應用于相機、機器人、AR眼鏡。現在已經有不少客戶在其新產品中積極推廣使用該技術。

瑞薩電子在其獨有產品SOTB（Si On ThinBuried-oxide）上也支持e-AI。通過利用該技術，可將MCU的工作電流大幅降低至1/10，待機電流降低至1/100. 該技術不僅可大幅延長電池壽命，還可利用熱能、振動、光、無線電波等能量轉換成電源的系統操作成為可能。對于傳感器網絡和健康看護可穿戴設備而言，通過在SOTB上嵌入e-AI，搭建僅將AI識別判斷后的結果傳輸的系統成為可能，從而大幅節電。現在很多顧客開始探討用SOTB來替代從前系統中的電池。

瑞薩電子將以上技術統括稱呼為“終端智能（Endpoint Intelligence）”，不斷強化開發，進而早日實現智能社會、互聯世界。