突破AI芯片限制 IMEC攜手格羅方德破馮諾伊曼瓶頸

比利時微電子研究中心（IMEC），日前與半導體代工廠格羅方德（GF)公開展示了全新AI芯片硬件。IMEC模擬內存式運算（AiMC）架構及格羅方德22FDX制程為基礎的前提下，這款全新芯片經過優化，并于模擬環境中的內存式運算硬件進行深度神經網絡運算。在達到高達2,900TOPS/W的創紀錄高能源效率后，加速器被視為低功率裝置進行邊緣運算推論的關鍵推手。這項新技術在隱私保護、安全性以及延遲性等各種優勢，將為智慧喇叭、自駕車諸多邊緣設備的AI應用程序帶來沖擊性的影響。

自數字計算機年代起，處理器早與內存分道揚鑣。使用大量數據的作業時，需要從內存取回一樣數量的數據元素。此一限制又稱「馮諾伊曼瓶頸」（von Neumann bottleneck），會拖慢實際的指令周期，特別是在神經網絡這種大量依賴向量矩陣乘法的運算中。這些運算除了仰賴數字計算機的精準度外，還需要大量的能源。然而，若以準確度較低的模擬技術執行向量矩陣乘法，神經網絡一樣可以獲得精確的結果。

為了因應這個挑戰，IMEC透過旗下的產業聯合機器學習計劃，與格羅方德等產業伙伴開發了一套新架構：在靜態隨機存取內存單元（SRAM cells）中執行模擬運算，藉此消除「馮諾伊曼瓶頸」的限制。以此開發的模擬推論加速器（AnIA），則以格羅方德的22FDX制程半導體平臺為基礎，具有出色的能源效率。特征測試顯示，其能源效率高達2,900 TOPS/W。微型傳感器及低功率邊緣設備中的圖形識別，一般得仰賴數據中心的機器學習，如今可透過此一高效能加速器在地執行。

IMEC機器學習計劃主持人Diederik Verkest表示：「AnIA成功的設計定案，代表我們已朝模擬內存式運算的驗證邁進重要一步。此一參考實作（reference implementation）不僅說明了模擬內存式運算的可行性，也代表它們的能源效率要比數位加速器好上10到100倍。在IMEC的機器學習計劃中，我們會針對模擬內存式運算，調整現有及新興的內存裝置并予以優化。這些前景看好的結果鼓舞我們進一步發展這項技術，目標是讓效率進化至10,000 TOPS/W。」

格羅方德運算暨有線基礎架構的產品管理副總裁Hiren Majmudar也指出：「格羅方德利用自家的低能源、高性能22FDX制程技術平臺，與IMEC密切合作，并推出全新的AnIA 芯片。這款測試芯片能更進一步地向業界展示22FDX 制程技術如何大幅降低能源密集型AI及機器學習應用的功率耗損。」

放眼未來，格羅方德將把可在22FDX平臺上執行的AiMC作為亮點，在AI市場上推出一套差異化解決方案。格羅方德的22FDX 采用了22nm FD-SOI 技術，可在極低能源的條件下有出色的表現，且足以在0.5伏特極低能源及每微米1微微安培的極低待機漏電流下運作。搭載全新AiMC 功能的22FDX，目前已進入開發階段，由格羅方德具備最先進300mm生產線的德國德勒斯頓Fab 1晶圓廠負責。