嘉楠：發力邊緣側 構建智能“芯”生態

      在“2019世界半導體大會”上，嘉楠科技創始人、董事長兼首席執行官張楠賡先生發表題為“讓‘AI’成為AI”的演講，分享了對邊緣側AI和當下產業的思考，以及對嘉楠科技邊緣智能“芯”生態的構想。

      在《電子產品世界》記者的專訪中，張楠賡表示，真正的AI不僅局限于圖像處理，而應該兼具視聽等多種感官能力。去年9月，嘉楠推出了第一代AI新品勘智K210，這款基于自主研發的ASIC芯片集視聽能力于一身，已經部署于無感門禁系統，功耗僅為300mw。最新的第二代芯片K510也預計在今年下半年問世，芯片算力將提升5~10倍。

      K210和即將問世的K510在某種程度上代表了嘉楠對于AI的思考。隨著AI產業逐漸走向成熟，AI芯片也逐漸從傳統的通用型芯片向半定制化、全定制化譜系發展。張楠賡認為，邊緣側AI之所以沒有普及，因為AI芯片在成本、能耗、算力、通用性等方面仍有不足。對于邊緣側而言，只有足夠輕量化、低功耗的AI芯片才能真正落地于邊緣側設備，賦予設備一定的自決策能力，從而真正讓社會享受人工智能時代的紅利。

      1  讓‘AI’成為AI

      從2016年AlphaGo一戰成名以來，沉寂了60年的AI搖身一變成為“未來”的代名詞。自動駕駛、智慧城市、智能家居等一系列新概念點燃了人們對于AI的想象。但另一方面，實現真正的AI仍存挑戰。

      AI的通用性首當其沖。當下AI產業的突破仍處于單點突破期間。由于應用背景明確，數據積累豐富，在翻譯、圖像檢測等一些特定的領域里，AI的能力已經超越人類。但是，真正的AI通用芯片應該具備視、聽、觸等多種能力，而不是單獨針對某個領域進行優化。張楠賡認為，就像人一樣，各種傳感器同時起作用，這樣帶給用戶的體驗才會更好。

      總體上，AI的算法有一定的共通性。盡管IoT（物聯網）領域是個性化和碎片化的，如果把這些碎片化的領域集合在一起，發揮通用芯片和算法的優勢，這樣可以確保在有限投入下，產出更多AI應用。

      而其中的關鍵，恰恰在于AI在邊緣側設備的落地。

      2  邊緣側AI需要輕量化和低功耗

      張楠賡認為，目前的AI按應用場景主要分為兩種，一種是訓練，一種是推理。不同應用場景對芯片的設計提出了不同要求。具體而言，算法訓練由于對算力要求高，多部署于云端進行。與之相反，數據推理則更多發生在邊緣側，因此芯片設計應當兼具低功耗和輕量化。

      為此，嘉楠科技于2018年9月6日發布了針對于邊緣側的AI芯片——堪智K210。芯片采用了先進的28nm工藝，配置雙核64位CPU。其中，芯片的AI加速器由嘉楠自主研發設計，支持8通道高性能麥克風陣列的音頻處理硬件，因此一顆芯片可以同時處理視頻和音頻，功耗僅為0.3 W。

 圖 堪智K210芯片（來源：堪智官網：https://kendryte.com/）

      3  為何采用RISC-V架構

      與多數芯片不同，K210的CPU采用RISC-V的RV64。因為RISC-V有很多優點，例如精簡指令集開發，更重要的是RISC-V并非國家意志的產物，而是具備學術性質的開源CPU，這在當下的貿易環境中顯得尤為重要。

      同時，嘉楠也趕上了國內正在興起RISC-V研究浪潮。K210芯片和開發板可以服務于高校和科研院所的研究和培訓，而且嘉楠產品是市場上為數不多、可立即買到的RISC-V產品，在淘寶就可以很方便地采購到。

      K210的優勢是雙核64位RV CPU，是非常學術的RISC-V CPU，主頻400 MHz。相比Arm，RISC-V的RV64相當于Arm的M7，比M7性能略高一些，但略遜于Arm A7。

      4  MCU領域最先進的工藝水平

      最有效的降功耗方法是好的架構。第一代K210芯片是內置存儲，可以等同于單片機（MCU），還有專用的CNN裝置，這樣的架構方式能夠大幅降低芯片功耗。在工藝上，K210采用了臺積電28nm制程，在單片機領域已經達到最先進水平。

      那么，嘉楠的礦機芯片已采用了臺積電的7 nm工藝，K210為何不采用7 nm？因為7 nm價格高。嘉楠做芯片的原則完全是為了商用，不是為了PPT，也不是為了融資，因此要考慮費效比。

      5  8通道的音頻功能

      K210的一大特色是，除了機器視覺能力外，還具備機器聽覺能力。芯片上帶有支持8通道高性能麥克風陣列的音頻處理硬件，可以進行硬件加速的實時聲源定向與波束形成，無需占用主CPU資源。一顆芯片就可以實現聲源定向、聲場成像、波束形成、語音喚醒、語音識別等機器聽覺功能。

      那么，音頻在此的目的是什么？因為從哲學角度，AI應該是多種感官融合的，因此K210除了有圖像，也做了音頻。用圖像的方法處理音頻是可以做的，把音頻轉成圖譜，用計算機的眼睛可以去“看”。

      另一個問題是：為何要做8通道？8通道麥克風的應用場景是什么？主要是為了有更遠的拾音距離，一般兩個麥克是三四米的拾音距離，4個麥克風是5米，8個是6米左右。

      此外，8麥克風還有一些特殊應用，例如做林業病蟲害防治的害蟲識別，這是和百度、林業大學合作的一個項目，方法是把麥克風扎到樹里，聽蟲子嗑樹的聲音。這需要多組麥克風設備扎到樹里。嘉楠的方案是一個40 mm見方的模塊，做了防水的處理。利用圖像分類、檢測的方法，去“看”視野里是否有特定的害蟲。這種方案的應用前景十分廣闊，因為中國的森林非常多，而且它可以推到農田等更多應用場景。

圖  堪智的應用場景（來源：堪智官網）

      6  躍升：即將問世的K510

      2016年嘉楠已開始有了做AI芯片的想法，做了一兩年時間，本來計劃2017年底推出，但因當時算法有很大突破和進展，又拖延到了2018年9月出爐，因此花了整整兩年時間。未來AI芯片的迭代速度加快，達到一年一代。

      第二代產品的型號為K510。那么，為何型號從K210一下跳到 K510？因為性能提高很多，提升了5~10倍，有了外存（注：第一代沒有外部DRAM），并加入了對高清視頻的支持。

圖 K210的主要性能指標（來源：堪智官網：https://kendryte.com/）

      7  未來：共建AIoT“芯”生態

      事實上，邊緣側AI芯片業態尚未成熟，各家廠商也都處于摸索路徑。但嘉楠對于芯片生態的商業想象卻很豐滿。這來自于嘉楠對自身研發實力的業務經驗的自信。為此，嘉楠做了很多嘗試，不僅局限于芯片，而是以芯片為落點，延伸至開發板、算法以及邊緣側的解決方案等。

      更重要的是，嘉楠向外與AI廠商建立合作關系，通過合作補齊算法和數據，同時也為自身的芯片尋找更多落地場景。同時，兼容性上，嘉楠也推出了第一代模型轉換工具，可以將英偉達等主流企業的軟件遷移到芯片中，對于開發者更為友好。

      嘉楠的核心優勢還體現在對于芯片研發設計體系的熟稔。張楠賡認為，之所以市面上涌現出大量的AI芯片產品，恰恰暴露了當下AI產業沒有通用硬件平臺的現狀。以PC時代為例，Wintel聯盟的軟硬結合成為市場主導，多數公司無需再單獨研發芯片。這也正式嘉楠等芯片廠商的機遇所在。

      實際上，對于很多所謂的芯片廠商而言，ODM（委托設計）產品的性能很難保證，靠ODM驗證一下概念是可以的，但市場上也很少見到靠ODM成功的產品。而嘉楠不僅包含前端和后端設計，還包括標準庫的設計，以及數?；旌闲盘柕荣Y源，因此可更好地保證芯片的性能。

      目前，K210的方案已用于智能門鎖、智能抄表等業務場景。合作伙伴可以通過嘉楠的SDK（軟件開發包）等開發出更多產品。

圖  堪智的SDK（來源：堪智官網）

      張楠賡表示，嘉楠希望和合作伙伴一道，構建共贏格局的AIoT(人工智能物聯網)商業生態。