新聞中心

        EEPW首頁 > 新聞縱覽 > 躍昉科技突破RISC-V計算邊界,DeepSeek大模型本地化運行

        躍昉科技突破RISC-V計算邊界,DeepSeek大模型本地化運行

        作者: 時間:2025-03-07 來源: 收藏

        邊緣AI新突破,從“云端排隊”到“私人Co-Pilot”

        本文引用地址:http://www.104case.com/article/202503/467798.htm

        近日,國內領先的RISC-V架構SoC芯片公司躍昉科技宣布,其自主研發的AI Mini Computer(AMC)成功實現DeepSeek系列蒸餾模型的本地化運行,以U盤形態重塑了AI計算方式。基于RISC-V架構的開放性和AMC本地化計算能力,躍昉科技讓AI計算由傳統的云端模式邁向邊緣端,使普通電腦秒變AI工作站,讓AI隨時待命,為用戶提供高效的智能助手(Co-Pilot)。

        這一創新降低了AI計算的使用門檻,并在數據安全、本地推理和個性化應用方面展現潛力。用戶無需再受網絡限制或云端排隊影響,即可享受穩定的AI體驗,讓AI真正融入日常工作與生活。這無疑再次驗證了RISC-V架構在AI計算領域的潛力,展現了其開放、靈活、高效的優勢,為邊緣端智能計算拓展了更多空間。

        AMC實拍 | 口袋里的專屬智能助手

        RISC-V助力邊緣AI計算,邁入本地化新階段

        長期以來,AI計算主要依賴云端,但算力成本、網絡延遲及數據隱私等問題限制了其在邊緣端的應用。躍昉科技基于自研RISC-V架構芯片,打造了AMC低功耗計算設備,并初步驗證了其在邊緣端運行輕量級AI模型的能力。AMC具備以下核心優勢:

        即插即用:可通過USB直連,無需服務器,快速完成環境部署,用戶體驗更便捷。

        超低功耗:僅3W功耗,在邊緣計算場景下兼具節能和高效的優化潛力。

        網頁本地化訪問:相比云端排隊、等待響應,你的AI助手隨時在線。目前已在AMC上成功運行部分輕量化AI模型,但計算能力仍有限,適配更復雜任務的模型仍在開發中。

        本地私有知識庫:保護數據隱私,隨身攜帶,安全可控。目前仍處在開發驗證階段,未來將推出本地私有知識庫方案,增強數據隱私保護。

        目前,AMC主要適用于輕量化AI推理,仍在不斷優化模型適配能力,以支持更復雜的AI任務。

        已經實際部署運行成功的模型

        UI界面:設計簡潔直觀,用戶可快速上手,無需復雜配置,Less is More!

        OTA+場景化模型,開啟邊緣AI計算新范式

        在推動DeepSeek系列蒸餾模型在AMC本地化運行的過程中,躍昉科技還提出一個全新的邊緣AI計算應用概念——“OTA(Over-the-Air)+場景化模型”。目前正在進行相關技術驗證,以評估其在邊緣AI計算中的可行性:

        場景化模型適配:針對教育、工業、辦公、個人助手等不同場景,訓練更精巧的 AI 模型,以適配本地場景化的應用需求。

        OTA動態部署:設想是突破傳統OTA僅用于軟件升級的局限,AMC可按需拉取和更新最適合當前應用場景的AI模型,優化邊緣設備的智能交互體驗。

        開放生態構建:希望打造可訂閱、可迭代的模型市場,促進開發者和用戶形成良性互動,推動AI計算生態持續優化,目前仍在規劃階段。

        這一全新計算模式不僅有望降低用戶的AI使用成本,同時也為開發者提供了更大的創新空間,讓AI從“大而全”向“小而精”轉變,真正實現按需適配、精準計算。

        讓AI成為個性化的智能伙伴

        AMC的便攜性與在計算能力方面展示出的潛力,使其不僅僅是一款AI計算設備,更有望成為用戶長期成長的智能伙伴:

        離線運行,隨時調用:無論是在辦公、學習還是工業應用場景,AI即插即用,不受云端依賴的限制,但完整大模型推理能力仍在測試中。

        數據存儲與回傳:AMC具備32GB本地存儲,可將使用過程中的數據本地化存儲,同時支持同步至個人主機,形成用戶專屬的AI記憶。但目前知識庫儲存與數據同步功能仍在研發階段,后續將視技術進展進行優化。

        個性化成長:未來AI可長期學習用戶的知識、經驗和決策方式,逐步形成個人數字孿生(Digital Twins),讓AI真正理解用戶需求,成為長期的智能助手。

        這一模式使AI助手不再是千篇一律的通用工具,而是可以隨用戶需求不斷優化,逐步形成個性化智能助手,提升日常工作與生活體驗。

        推動RISC-V架構在邊緣AI計算的應用探索

        躍昉科技始終致力于RISC-V架構在AI計算、邊緣計算及智能互聯領域的創新融合,并通過AMC這一產品形態,嘗試推進邊緣端大模型推理的可行性。目前,部分功能仍處在開發或概念驗證階段,但躍昉科技將繼續圍繞低功耗、高效能、場景化AI計算進行深度優化,推動邊緣AI計算生態的持續演進。

        未來,AI計算不應僅存在于云端,而是應成為一種更普惠、更個性化、更靈活的智能能力,賦能千行百業。躍昉科技將持續探索“OTA +場景化模型”的應用,推動邊緣AI計算的優化升級,助力AI計算向更靈活、更個性化的方向發展。

        注:目前部分功能仍處在研發或概念驗證階段,如AMC適配的AI模型主要為輕量級模型,完整大模型推理能力仍在優化中;OTA場景化模型、知識庫存儲等功能仍在研發和概念驗證階段,未來將根據技術進展逐步探索落地。部分功能如本地網頁訪問仍處于測試階段,性能和用戶體驗仍需進一步優化。本文中提及的功能和應用方向部分仍為探索性內容,具體技術進展將依據研發進度持續更新。



        關鍵詞:

        評論


        相關推薦

        技術專區

        關閉
        主站蜘蛛池模板: 黔西| 县级市| 贵州省| 河南省| 滁州市| 石棉县| 广宁县| 唐海县| 武隆县| 安吉县| 唐山市| 郧西县| 聂荣县| 屯留县| 嘉兴市| 三亚市| 大理市| 临泉县| 湖南省| 义马市| 西昌市| 措勤县| 琼结县| 英吉沙县| 昌黎县| 财经| 沽源县| 宁蒗| 延安市| 湄潭县| 安龙县| 谷城县| 武夷山市| 锦州市| 军事| 龙州县| 沈阳市| 囊谦县| 丰城市| 盐津县| 洮南市|