揭秘瑞芯微算力協處理器,RK3576/RK3588強大算力搭檔
瑞芯微算力協處理器-Gongga1(簡稱“貢嘎”),是瑞芯微針對旗艦芯片平臺RK3576/RK3588等SoC平臺配套的算力處理器。憑借其先進的封裝技術、高性能低功耗、超低延遲響應和多模態能力,為端側部署大模型提供了強有力的支持。
下面,就由觸覺智能從多個角度,為您解析瑞芯微算力協處理器性能特性。
Gongga1協處理器特性
先進封裝技術,打破端側部署大模型的帶寬限制。可部署高達3B/7B參數量的端側模型(最高16K上下文)。
- 高性能低功耗,端側模型可達100tokens/s以上
- 超低端到端完整響應延時
- 多模態能力
- 主控互聯
- 軟件友好,現有應用易于移植
Gongga1協處理器規格
觸覺智能作為瑞芯微長期合作伙伴,得到算力協處理器規格信息如下:
- 高帶寬嵌入式片內DRAM(2.5GB版/5GB版)
- RISC-V CPU,支持128-bit矢量運算功能。
- 多核NPU,提供INT8及W4A16等多種數據類型的運算支持。
- 4K JPEG圖像編解碼。
- PCle2.0、USB3.0、I2S音頻輸入輸出接口等。
Gongga1協處理器應用場景
根據Gongga1協處理器規格規格,可應用于語音、翻譯、交互、視覺等應用場景:
觸覺智能核心板+瑞芯微Gongga1
觸覺智能基于RK3576、RK3588,提供可擴展1到多個Gongga1芯片,可提供從6T到50T的靈活算力配置方案。可廣泛用于語音交互、車載多模態感知、機器人、安防視覺等領域。
*博客內容為網友個人發布,僅代表博主個人觀點,如有侵權請聯系工作人員刪除。