AI加速器為Raspberry Pi 5帶來低功耗生成式AI
EdgeCortex 宣布,其行業領先的 AI 加速器模塊 SAKURA-II M.2 現已可用于基于 Arm 的平臺,包括 Raspberry Pi 5 和 AETINA Rockchip 平臺。該模塊為邊緣 AI 計算應用提供高性能和高效率,同時使實時生成式 AI 功能大眾化。
本文引用地址:http://www.104case.com/article/202506/471099.htmSAKURA-II M.2 模塊的設計注重低功耗和高 AI 吞吐量,使開發人員能夠直接在緊湊、經濟實惠的平臺上運行高級深度學習模型,例如 Raspberry Pi 5 和其他基于 Arm 的平臺,而無需依賴云基礎設施。嵌入式 Arm 平臺的生成式 AI 功能有望推動下一波智能自主系統的發展。
EdgeCortex 創始人兼首席執行官 Sakyasingha Dasgupta 博士表示:“將我們的低功耗 AI 加速技術帶給 Raspberry Pi 5 用戶,為世界各地的創新者和企業打開了一扇大門,讓他們能夠快速構建更智能、更快、更高效的邊緣 AI 驅動設備和系統。
“將 Raspberry Pi 5 與 EdgeCortex 的 SAKURA-II 配對,為邊緣的實時生成 AI 提供了一個非常高效和可擴展的平臺”,Novo Tellus Capital Partners 的風險合伙人兼 Lantronix 和 Tessolve 的董事會成員 Sailesh Chittipeddi 說。同樣引人注目的是 SAKURA-II 能夠加速各種基于 Arm 的系統,使下一代物聯網和邊緣應用工程師能夠在各種應用中部署高性能 AI,而不會產生傳統數據中心硬件的成本或功耗負擔。
該模塊帶有 Raspberry Pi 5 和其他支持 Arm 的平臺,能夠以最小的延遲和功耗在設備上直接執行最新的生成式 AI,包括視覺轉換器、小語言模型和視覺語言模型 (VLM) 等高級 AI 模型。此外,SAKURA-II 和 Raspberry Pi 以傳統產品的一小部分成本提供強大的邊緣 AI,從而減少基礎設施需求并實現經濟高效的擴展。
該模塊針對 Arm 進行了優化,可從 Arm 處理器無縫卸載 AI 工作負載,從而實現性能和效率的平衡。開發人員可以使用帶有經過認證的 Raspberry Pi 5 和其他 Arm 平臺的生產就緒型 SAKURA-II M.2 模塊,從原型快速擴展到生產。
這種組合非常適合在 SWaP-C 受限環境中實現自主 AI,非常適合無人機、機器人、智能農業和安全,這些領域需要高效的設備端智能。
借助這些 Arm 平臺,EdgeCortix 正在為開發人員和硬件創新者的廣泛生態系統提供支持,以構建經濟高效、生產就緒的邊緣 AI。這使初創公司和企業能夠在不依賴云的情況下部署智能應用程序,以最低的功耗要求在設備上運行生成式 AI。
評論