消除馮·諾伊曼瓶頸 Imec和GF合作展示新型人工智能芯片

專注于納米電子和數字技術的比利時微電子研究中心（Imec）聯合全球領先的特種晶圓代工企業格芯（Global Foundries），今天對一款新型人工智能芯片進行了硬件展示。這款人工智能芯片基于 Imec 的 Analog in Memory Computing (AiMC)架構，利用了格芯的 22FDX 解決方案，通過層層優化能在模擬領域的內存計算硬件上執行深度神經網絡計算。

這款芯片的能效達到了創紀錄的 2900 TOPS/W，是低功耗設備邊緣推理的重要推動者。這項新技術在隱私、安全和延遲方面的優勢，將對從智能音箱到自動駕駛汽車等多種邊緣設備的人工智能應用產生影響。

從數字計算機時代初期開始，處理器和內存是分開的，因此使用大量數據進行的操作需要從內存存儲中檢索出同樣多的數據元素。而這就是馮·諾伊曼瓶頸（von Neumann bottleneck）。

它是指在 CPU 與內存之間的流量（資料傳輸率）與內存的容量相比起來相當小，在現代電腦中，流量與CPU的工作效率相比之下非常小，在某些情況下（當CPU需要在巨大的資料上執行一些簡單指令時），資料流量就成了整體效率非常嚴重的限制。CPU將會在資料輸入或輸出內存時閑置。由于CPU速度遠大于內存讀寫速率，因此瓶頸問題越來越嚴重。

為了解決這一挑戰，Imec 和包括格芯在內的合作伙伴啟動了工業附屬機器學習計劃， 致力于開發新的架構，在 SRAM 單元中執行模擬計算來消除馮·諾伊曼瓶頸。

由此產生的模擬推理加速器(AnIA)，建立在GF的22FDX半導體平臺上，能效顯著。特性測試表明，功耗效率達到峰值，即每瓦特每秒2900兆次運算(TOPS/W)。在微型傳感器和低功耗邊緣設備中的模式識別，通常由數據中心的機器學習來驅動，現在可以在這個高能效加速器上本地執行。