阿里苦心研發NPU AI芯片究竟哪款PU更厲害？

　　4月19日，有消息稱，阿里巴巴達摩院正在研發一款神經網絡芯片——Ali-NPU，主要運用于圖像視頻分析、機器學習等AI推理計算。按照設計，這款芯片性能將是目前市面上主流CPU、GPU架構AI芯片的10倍，而制造成本和功耗僅為一半，其性價比超過40倍。

　　應用上，通過此款芯片的研發將會更好的落地在圖像、視頻識別、云計算等商業場景中。據阿里達摩院研究員驕旸介紹說：“CPU、GPU作為通用計算芯片，為處理線程邏輯和圖形而設計，處理AI計算問題時功耗高，性價比低，在AI計算領域急需專用架構芯片解決上述問題。阿里巴巴此款Ali-NPU在AI領域積累了大量算法模型優勢，以最小成本實現最大量的AI模型算法運算。”

　　昨日，OFweek人工智能網在《當中興事件揭開“缺芯少魂”的遮羞布 AI能否迷途知返?》中簡單說明了英特爾、英偉達、AMD等傳統芯片處理器巨頭在CPU和GPU上存在的優勢，而且它們都將人工智能定位為未來重要戰略。

　　事實上，隨著人工智能產業的發展，CPU、GPU、TPU、DPU、NPU、BPU……各種PU也開始爆發式出現。那么，究竟這些PU在性能和使用上有何異同，又有哪些優劣呢?

　　CPU：計算力占據部分很小 擅長邏輯控制

　　CPU是最為普遍，最為常見的中央處理器。主要包括運算器(ALU)和控制單元(CU)，除此之外還包括若干寄存器、高速緩存器和它們之間通訊的數據、控制及狀態的總線。依循馮諾依曼架構，CPU需要大量空間放置存儲單元和控制邏輯，計算能力只占據很小的部分，更擅長邏輯控制。

　　CPU結構簡化圖

　　GPU：計算單元數量眾多 但無法單獨使用

　　GPU的誕生可以解決CPU在計算能力上的天然缺陷。采用數量眾多的計算單元和超長的流水線，善于處理圖像領域的運算加速。但GPU的缺陷也很明顯，即無法單獨工作，必須由CPU進行控制調用才能工作。

　　CPU、GPU微架構對比圖

　　TPU：高性能低功耗 然則開發周期長、轉換成本高

　　谷歌專門為 TensorFlow 深度學習框架定制的TPU，是一款專用于機器學習的芯片。TPU可以提供高吞吐量的低精度計算，用于模型的前向運算而不是模型訓練，且能效更高。但它的缺陷主要是開發周期長、可配置性能有限，缺乏靈活性且轉換成本高。

　　DPU：可實現快速開發與產品迭代

　　國際上，Wave Computing最早提出DPU。在國內，DPU最早是由深鑒科技提出，是基于Xilinx可重構特性的FPGA芯片，設計專用深度學習處理單元，且可以抽象出定制化的指令集和編譯器，從而實現快速的開發與產品迭代。

　　深鑒“雨燕”DPU平臺