傳感器端也能實現AI推理　

作者 王瑩

　　網絡邊緣計算革命蓄勢待發，不過，只有具備AI系統專長的開發人員方可駕輕就熟。隨著用戶尋求更高級別的智能，對于靠近IoT(物聯網)數據源的低功耗推理的需求將與日俱增。這些傳感器端，尤其是超低功耗的傳感器端如何實現人工智能?

　　近日，萊迪思半導體公司推出了超低功耗 Lattice SensAI。公司亞太區資深事業發展經理陳英仁先生稱其低功耗FPGA將與MCU(微控制器)競爭，主攻低功耗、對計算精度要求不是很高、低成本、小尺寸的嵌入式AI市場。

哪些場景需要傳感器“AI推理”?

　　如果說控制是rule driven(規則驅動)，那么AI是data driven(數據驅動)的。眾所周知，AI主要做培訓和推理。云端做培訓較多，萊迪思定位的傳感器端AI只做推理，“這些毫瓦級功耗FPGA將為機器學習推理在大眾市場物聯網應用中實現快速部署創造機遇。”

圖1  sensAI的核心是倒數第二行的“IP核”和第三行的“軟件工具”

　　就像做壽司的師傅的手指運動，許多手指動作無需傳到大腦，是有經驗的習慣性動作。同樣，有些推理也無需傳到云端或用復雜的計算芯片，例如人在室內靜止不動，智能照明系統有可能沒有發現人而自動關閉，如果有低功耗的人臉檢測就不會發生這種事了。智能門鎖通常用紅外感測，人走近密碼小門打開，但狗或動物走近，也會打開，人臉檢測能感測到人走近，密碼小門才會打開。超市可以用人臉檢測統計人流，或識別性別以推送個性化廣告等。再有，智能音箱通常是聯網的，需要云端處理，有時為了隱私安全，也希望一些音樂存在音箱里，在線下就能控制和聽音樂。有時近似的聲音聽不了，例如音箱知道“你好”，有時你叫“李浩”，音箱也會有所反應，因此就要給音箱一些小智慧。工廠中的馬達聲音有異常，上傳到云端來不及，傳感器端就可立即做出應急反應。

　　具體地，如何教給音箱識別“你好”和“李浩”?就像訓練小孩一樣，可以說：“李浩，你好。”或：“李浩不是你好”。只要有足夠多的樣本去描述要檢測的目標，AI音箱就可以學會，變成一個算法。

sensAI是什么?

　　Lattice sensAI是一種結合模塊化硬件套件、神經網絡IP核、軟件工具、參考設計和定制化設計服務的完整技術集合，旨在促進機器學習推理的大眾市場 IoT應用。如圖1，sensAI的核心主要是倒數第二的“IP核”和第三行的“軟件工具”。

　　Lattice sensAI提供經優化的解決方案，具有超低功耗(低于 1 mW~1 W)、封裝尺寸小(5.5~100 mm2)、接口靈活(諸如MIPI? CSI-2、LVDS、GigE 等)和批量價格低(約 1~10 美元)等優勢，可加速實現更接近數據源的網絡邊緣計算。

圖2   sensAI的市場定位

　　從圖2可見，Lattice sensAI的主要競爭者是MCU。與MCU相比，Lattice sensAI的優勢是靈活支持各類傳統接口，且功耗極低，只有1 mW~1 W。

　　適用于解決網絡邊緣的計算問題，Lattice sensAI優勢包括：1.模塊化硬件平臺—— 基于 ECP5?器件的視頻接口平臺(VIP)，包括嵌入式視覺開發套件和基于 iCE40 UltraPlus?器件的移動開發平臺(MDP);2.IP核——卷積神經網絡(CNN)加速器和二值神經網絡(BNN)加速器;3.軟件工具——從 Caffe/TensorFlow到 FPGA的神經網絡編譯器工具、Lattice RadiantTM 設計軟件和 Lattice Diamond設計軟件;4.參考設計——人臉檢測、關鍵詞檢測、對象計數、面部跟蹤和速度標志牌檢測;5.設計服務。