AI在邊緣設備上的發展機會

智能設備對語音技術和視覺技術的需求

　　今天，智能設備主要依賴于基于語音的用戶接口，但是我們將看到它們越來越多地引入視覺技術成分。同時，人們已經意識到AI不只適用于高端產品，現在越來越多的中檔產品也在采用AI。因此，需要在性能與差異化之間發掘出合理的平衡，同時還要提供高效率。對于神經網絡，存儲帶寬是一個關鍵問題，因此，中檔設備需要更加高效。而隨著消費者對AI走向低端產品的期待不斷高漲，我們也應該給予更多關注。

　　我們現在正在看到更多具備AI功能的應用在沖擊市場，如汽車、無人機、安防系統和增強現實/虛擬現實(AR/VR);以機頂盒和數字電視為例，諸如自動提供字幕、圖像增強以及用戶體驗提升等功能將被進一步挖掘。

　　視覺技術在智能設備上的應用得到關注

　　智能設備主要依賴于基于語音的用戶接口，但是我們可以看到它們將開始越來越多地引入視覺技術成分。

　　從語音的角度來看，設備需要一直處于開啟狀態，因此需要一種低功耗的解決方案。而從視覺的角度來看，由于需要處理大量的數據，它的挑戰在于需要高性能。消費者期望無論是其智能手機還是冰箱，這些技術進步都應該以標準的形式進入設備。因此，支撐AI需求的解決方案應當是高效的，從而引出了對專用硬件的需求。

　　PowerVR Series2NX神經網絡加速器

　　我們設計了自己全新的PowerVR Series2NX神經網絡加速器，在非常低的功耗和極小芯片面積占用的前提下提供高性能的神經網絡計算，其高度可擴展的架構可支撐它基于多樣化的、各種廣為采用的神經網絡框架來承擔深度神經網絡推算任務。隨著深度神經網絡持續在很多行業中推動技術爆發式進步，神經網絡加速器注定會成為一種基礎性的處理器種類，和CPU及GPU一樣極為重要。

嵌入式神經引擎和專用智能處理器將AI引入前端設備

　　嵌入式神經引擎和專用智能處理器將AI引入前端設備，消除了對云的依賴。前端處理的好處包括縮短延遲、全網覆蓋、提高隱私和安全性，并且減少與云的通信，從而降低成本。這些特性使得移動設備可以利用AI的力量去實現以往人們認為是天方夜譚的功能。

　　前端處理的兩大挑戰

　　雖然前端處理的好處很明顯，但它也帶來諸多挑戰。首先是如何在細小的掌上型設備上執行來在大型服務器上的數據分析(data-crunching)，還要考慮到這個掌上設備的電池也要應對許多其他任務。因此，專用AI處理器對于成功的在前端實現AI是至關重要的。

　　另外，將現有的神經網絡移植到嵌入式環境中，這可能需要大量的開發時間并且成本非常高。但是，自動工具可以實現一鍵式輕易轉換，針對嵌入式環境來分析和優化網絡。對于這樣的工具來說，重要的是要覆蓋大量先進的網絡，以確保任何網絡都可以輕松優化，以便在前端嵌入式設備上運行。

　　NeuPro AI處理器

　　CEVA公司的NeuPro AI處理器包含用于矩陣乘法、完全連接層、激活層和池化層的專用引擎。這款專用AI引擎與完全可編程的NeuPro VPU配合使用，后者可支持所有其他層類型和NN拓撲。這些模塊之間的直接連接實現了無縫連接，無需寫入內部存儲器。此外，DDR BW和DMA控制器可實現即時流水線處理，進一步提升速度，同時降低功耗。

支持廣泛神經網絡架構的VIP8000處理器

　　機器學習和神經網絡處理技術承載著嵌入式處理器下一個主要的市場機會。國際數據公司(IDC)預測，全球在AI和機器學習方面的支出將從2016年的80億美元增長到2020年的470億美元。AI爆發式增長的背后有三個主要的驅動力：算法的快速演進、強大的技術平臺以及大數據。AI日益無處不在，這就要求消費電子、汽車電子、工業4.0等終端產品具備實時神經網絡推理、可靈活升級至最新、最優算法，以及從持續學習中收集有用信息的能力。

　　作為芯片設計平臺及服務提供商，芯原為包含移動互聯設備、數據中心、IoT、汽車、工業和醫療設備在內的廣泛終端市場提供全面的系統級芯片和系統級封裝解決方案。隨著最新的分級壓縮、適配的平鋪/緩存、裁剪、獲取、跳過以及圖像融合技術的引用，VIP8000為與其相關的處理器架構進一步降低了內存帶寬需求。

　　VIP8000處理器

　　VIP8000支持寬泛的神經網絡架構，如TensorFlow、Caffe、AndroidNN、RNN和LSTM等，此外，還提供大量軟件和硬件解決方案以幫助開發者創建高性能神經網絡模型和基于機器學習的應用。由于與Vivante GPU架構相同，VIP8000繼承了其OpenCL可編程性，硬件直接存儲器存取和時序安排，以及多環境并行處理的長處。

　　對于終端設備來說，有些AI應用并不是孤立的應用，而是可以同時增強現有許多不同應用。作為芯原Vivante IP產品系列的一部分，VIP8000處理器可以在兼顧芯片尺寸和功耗的情況下，輕松地與其他芯原處理器IP相集成。例如，基于共同的架構，VIP8000神經網絡引擎可以和任何Vivante GPU直接集成，以面向AR/VR等應用;還可以與芯原的ZSP音頻DSP集成，以面向智能音箱的應用;或是與ISP Nano集成，實現低延遲機器視覺攝像頭的設計;又或是與Hantro視屏編碼相結合，以實現更好的視頻內容壓縮。

AI從云端擴到邊緣端，對話式平臺得到廣泛應用

　　我們注意到AI有兩個顯著加速的趨勢：

　　1)AI的部署和應用逐步從云端擴展至邊緣端，也就是直接部署運行在客戶端或IoT終端，滿足了一定的實時性和安全性等要求。例如：Apple的Face ID、Andriod離線版人臉識別等，這主要歸功于AI芯片(或神經處理單元NPU)在手機上的深度整合及場景落地。它解決了性能和功耗的平衡問題，同時也強調了軟硬件結合來完成場景的落地。

　　2)對話式平臺的廣泛應用。對話式平臺將改變人們與技術進行交互的方式。用戶通過語音發出命令或者問題，對話式平臺進行響應并執行一系列相應的功能。這其中包括語音識別、NLP等當下熱門的AI技術，同時也體現了AI時代更加自然和人性化的交互方式。

　　AI在邊緣端的部署和應用給終端CPU或者SoC帶來了特定任務，例如圖像識別等更大的計算壓力。這種壓力也導致了AI芯片產生，華為的麒麟 970芯片就是一個標志性的事件。它搭載了寒武紀的一款NPU，這款NPU在特定任務計算時的能效是手機CPU的50倍。我們有理由相信，隨著更多AI場景的落地，AI架構的芯片會逐漸成為主流。當然，AI算法也會不斷地優化，不斷在系統層面進行融入。如何將芯片、系統與算法高效地融合則是AI場景能否落地的一個關鍵因素。

　　對話式平臺的廣泛應用開啟新的交互革命

　　隨著語音識別和NLP(自然語言處理)技術的大熱，聲紋識別技術也逐漸進入大眾的視野，它將與人臉識別等生物認證技術一起在安全和個性化服務領域得到越來越多的普及。目前的語音識別和聲紋識別等語音技術受背景噪音、多人同時說話等環境因素影響，準確度依然有很大的提升空間。

　　君林科技的麥克風陣列技術(遠場拾音技術)、去噪聲和混響算法以及高精度、高魯棒性的聲紋識別算法從軟硬件結合方式優化了整條鏈路，在一定程度上消除了環境因素的影響，大幅提高了聲紋識別的準確度，從而加速了聲紋識別技術在智能硬件、銀行保險和公共安防等行業的場景落地。

　　參考文獻：

　　[1]胡郁.人工智能與語音識別技術[J].電子產品世界, 2016(4):23-25.

　　[2]王瑩.“CPU+”異構計算時代，華夏芯通過HSA搶占高地[J].電子產品世界, 2016(9):15-17.

　　[3]王瑩.人工智能的進展及發展建議[J].電子產品世界, 2017(2-3):23-26.

　　[4]王瑩,王金旺.異構計算帶來AI視覺新突破[J].電子產品世界, 2017(7):28-29.

　　[5]任澤坤.芯片廠商引領廣電的人工智能化[J].電子產品世界, 2017(10):23-24.

　　本文來源于《電子產品世界》2018年第5期第13頁，歡迎您寫論文時引用，并注明出處。