Arm平臺成功適配阿里開源模型Qwen3
近日,阿里巴巴開源了新一代通義千問模型Qwen3,Arm成為首批適配該模型的計算平臺廠商。雙方的合作不僅推動了AI技術在端側設備上的應用,還為開發者提供了更高效的解決方案。
本文引用地址:http://www.104case.com/article/202505/470308.htm
據官方消息,Arm面向AI框架開發者的開源計算內核KleidiAI已與阿里巴巴的輕量級深度學習框架MNN深度集成。得益于此,Qwen3系列中的三款模型(Qwen3-0.6B、Qwen3-1.7B及Qwen3-4B)能夠在搭載Arm架構CPU的移動設備上無縫運行,展現出卓越的端側AI推理能力。
作為阿里巴巴最新發布的混合推理模型,Qwen3在AIME、LiveCodeBench等權威評測中表現出色,成為同尺寸開源模型中的領先者。其中,Qwen3-0.6B、Qwen3-1.7B和Qwen3-4B三款模型以低功耗和高性能的優勢,特別適合在移動端部署。
為滿足AI模型快速迭代的需求,Arm提供了具備可擴展性的通用技術底座,幫助開發者高效利用新模型的優勢。其CPU架構以卓越的性能、能效和靈活性著稱,不僅能快速適配新模型,還能通過異構計算策略與GPU、加速器等技術協作,實現AI系統的最佳優化。測試結果顯示,Qwen3系列模型在基于Arm架構CPU的設備上運行時,響應速度和推理能力均有顯著提升。
評論