AI架構創新和高端芯片發展

作者 / 魏少軍 清華大學微納電子學系主任 (北京 100084)

魏少軍，博士，教授，清華大學微納電子學系主任，清華大學微電子學研究所所長，清華大學移動計算研究中心主任 。

摘要：在“2017中國集成電路產業促進大會”上，清華大學魏少軍教授就架構創新和高端芯片發展做了相關報告。根據魏少軍教授會上報告整理，已獲作者授權。

0 引言

　　隨著近年來人工智能(AI)的興起，AI芯片的需求量越來越大，性能要求越來越高。而AI運算量很大，這就意味著其需要有足夠高的運算速度，預計其運算速度需要達到每秒幾千億次。如果從能量效率角度分析，大概要做到每瓦1萬億次。因此，國內做AI芯片的企業大部分還在用專用芯片在做。采用專用集成電路的問題在于，當網絡一旦變化，專用集成電路做成的芯片將無法應對再應用。這就為可編程器件帶來了機遇。

1 FPGA難以達到AI的要求

　　可編程器件的一個優點是可以通過軟件的方式來改變芯片的功能，從而適應各種不同功能的應用。最終提升銷量，從而分攤產品的成本。

　　而現在較為常用的可編程器件——FPGA仍然存在諸多問題，還難以達到AI的速率及通過軟件改變芯片功能的需求。

　　1)FPGA的配置信息量很大，多達數十兆字節，因而所需配置時間也很長，大概要幾十毫秒，甚至幾秒。

　　2)能量效率低。FPGA面板利用率很低，大概只有5%用來進行計算，95%用來配置信息。正因為其95%是用來配置用的，還要耗電，因而能量效率很低。

　　3)另外，由于各方面原因，FPGA往往需要最先進的工藝，同時還必須要有電路設計的支持，這也帶來了高設計成本。

　　FPGA存在的問題總結起來包含十點：高細密度、配置信息量大、配置時間長、需要斷電靜態配置、沒有邏輯復用能力、面積利用率低、能量效率低、工藝要求較高、對開發人員知識儲備要求高、價格貴，具體如表1所示。

2 理想的硬件結構

　　如圖1所示系統架構為設想的理想系統架構。其中左邊為軟件(應用)，如果不考慮硬件的代價，左邊有怎樣的操作，右邊就要對應怎樣的硬件，左邊和右邊的拓撲結構是完全一致的。從計算上來看，這樣的結構一定是效率最高的。

　　在這樣的架構中，軟件可以無窮大，例如寫一個循環語句，可以一直循環下去，但是硬件不論多大都是有邊界的，這就需要將軟件分塊搬到硬件上按順序執行。這樣搬的過程中，右邊的硬件架構其實是在不斷變化的，我們稱之為架構和功能可以動態按照軟件要求實時改變。

3 軟件執行方式

　　軟件信息主要可以分為兩類：計算信息和控制信息。如果我們將軟件寫成如圖2所示形式，中間對應的是控制信息，用來控制程序執行流程，右邊對應的是計算信息。如果將軟件中的計算信息和控制信息分開，就可以找到相應的架構，包括控制單元和數據通道。

　　數據通道對應的是陣列，控制單元對應的是有限狀態機，不論是陣列，還是有限狀態機，都是完全可編程的。從而實現不同軟件部分按要求搬進去執行，具體地，將分塊軟件按照他們的依賴關系送到數據通道中，通過數據通道配置其中陣列，并執行。

　　而在軟件配置和執行過程中，如果整個系統是按照C語言編寫的，通過編譯器會產生一系列的控制流，最后在硬件芯片上運行。這種架構的獨特之處在于采用控制流、數據流和配置流代替之前的指令集。