新聞中心

        EEPW首頁 > 網絡與存儲 > 業界動態 > AIR-520 LLM服務器:Nvidia四卡加持,助力DeepSeek私有化部署!

        AIR-520 LLM服務器:Nvidia四卡加持,助力DeepSeek私有化部署!

        作者: 時間:2025-02-25 來源:研華嵌入式物聯網 收藏

        DeepSeek-R1的發布讓大家度過了一個熱鬧的春節。DeepSeek用較低的成本,取得了跟OpenAI相同的效果,這也意味我們的客戶可以私有化部署與OpenAI能力接近的基座大模型。

        本文引用地址:http://www.104case.com/article/202502/467300.htm

        (圖:AIR-520

        研華AIR-520 是一款支持4卡單槽GPU或2卡雙槽GPU的桌面級LLM,主要用于推理和微調兩個方向。我們已經打包好3個推薦配置,便于大家直接選型。推薦配置如和您的應用有差距,也可靈活調配。

        圖片

        (圖:AIR-520 三款配置清單)

        近半年來隨著AI Agent的廣泛使用,大家對LLM的推理能力比較看重,在DeepSeek發布后,我們也使用AIR-520-L70A1 RTX 4000 ADA 4卡版主機,對工業客戶最常用的DeepSeek-R1 32B、70B兩個模型進行了測試。

        系統配置:

        圖片

        DeepSeek-R1 32B 測試:

        圖片

        DeepSeek-R1 70B測試:

        圖片

        通過測試,我們可以看到AIR-520的優異表現。



        關鍵詞: 邊緣AI 服務器

        評論


        相關推薦

        技術專區

        關閉
        主站蜘蛛池模板: 义乌市| 嘉荫县| 沁源县| 汕头市| 乐平市| 印江| 宁明县| 桃园县| 沁源县| 东乡族自治县| 克东县| 鹰潭市| 江山市| 肇东市| 梅河口市| 鄢陵县| 寿宁县| 明水县| 基隆市| 灌阳县| 锡林郭勒盟| 井陉县| 平远县| 综艺| 冕宁县| 伊金霍洛旗| 澳门| 原平市| 清河县| 象州县| 屏东县| 政和县| 东莞市| 和林格尔县| 达尔| 阳高县| 扎赉特旗| 尼木县| 西丰县| 珲春市| 开原市|