Imagination談工業AI的機遇與挑戰

問：依您看，邊緣AI將給某類工業應用帶來哪些新變化？

答：邊緣AI將在未來幾年發生巨大變化。邊緣設備中的神經網絡加速能力以指數級的速度向前發展，意味著完全在設備上完成處理只是時間問題。

例如，自動化技術、機器人和傳感技術的進步都會體現在我們身邊的各種機器上，這將意味著工業安全的真正改善。由人工智能物聯網（AIoT）驅動的智能機器可以檢查出當機械臂在其運動范圍內快速擺動時沒有人處于其運動路徑上，還可以檢查過程和材料中的缺陷，這意味著偏差會越來越小，質量會進一步提高。

自動化程度的提高帶來的關鍵機會是可以提高過程智能，從而使設備不僅可以成為數據驅動的設備，而且具有分享知識的能力，這一過程稱為聯合學習或遷移學習。這將提高生產力、可靠性和質量，降低成本，并增加產量。

Imagination Technologies公司 AI資深產品總監 Andrew Grant

問：其技術挑戰是什么？

答：上文提及的方案很快就會在您身邊的機器上有所體現，目前還有一些技術挑戰正待解決。例如，現在傳感器數據會被匯總并反饋至云端以進行決策，這會增加延遲，產生連接和數據中心方面的成本。然而，我們越來越多地可以在嵌入式邊緣設備上進行神經網絡推理，使邊緣設備可以有效地做出自我決策，同時只需將重要信息傳達給中央控制端。隨著這些設備的推出，我們將看到顯著的改善，例如減少延遲、降低功耗，以及無需去“呼叫總部”。

在某些情況下，所面臨的挑戰是成本問題，因為工業物聯網相當碎片化，某個特定的應用場景可能僅有小批量的需求，這意味著系統構建者和SoC設計人員必須設計一個擁有廣泛用途的基本規范，從而將眾多小批量應用匯總成大批量。好消息是，神經網絡加速器的進步意味著可以在比針頭或句尾的句號還小的芯片中添加支持這些應用的功能。這也意味著“智能”可以被添加到嵌入式設備中，使這些設備可以運行各種各樣的神經網絡模型和算法，進而憑借足夠的靈活性去應對多種應用場景。

問：貴公司是如何解決這些難點的？有哪些創新性的解決方案推薦？

答：在Imagination Technologies，我們一直跟隨著客戶的步伐，并希望通過我們的研發能力來預見到這些問題。因此，我們可以憑借自己的神經網絡加速器（NNA）為邊緣AI提供全面的計算解決方案，相比其他方法，NNA可以指數倍的速度運行神經網絡層，同時具有運行自定義層所需的靈活性。有了神經網絡加速功能，意味著網絡可以在設備上運行，從而支持在邊緣進行數據驅動的決策。我們還可以提供豐富的IP內核設計和各種性能配置，以滿足市場上所有領域的需求，我們支持非常小的尺寸，也支持非常強大的功能和卓越的性能，同時可以做到硅成本最低，這是因為Imagination的一整套技術源于長久以來在智能手機等移動設備上的設計積累，在這些設備中，Imagination提供的高效的性能、低功耗（對于電池供電或通過能量采集供電的設備尤其重要）和小的硅面積等特性意味著可以降低成本同時提高效用。