博客專欄

        EEPW首頁 > 博客 > 一半功耗,六倍算力提升:墨芯聯(lián)手浪潮開拓稀疏化計算生態(tài)

        一半功耗,六倍算力提升:墨芯聯(lián)手浪潮開拓稀疏化計算生態(tài)

        發(fā)布人:機器之心 時間:2022-06-16 來源:工程師 發(fā)布文章
        6 月 13 日,墨芯人工智能與浪潮簽訂元腦戰(zhàn)略合作協(xié)議。這是在浪潮戰(zhàn)略投資墨芯之后,雙方的進一步戰(zhàn)略合作。


        墨芯將攜手浪潮信息,以領(lǐng)先的稀疏化計算技術(shù)和產(chǎn)品,廣闊的生態(tài)潛能,融合資源與算法,共創(chuàng)全棧 AI 解決方案,為各行各業(yè) AI 應(yīng)用提供強大算力引擎和生態(tài)支撐,為企業(yè)降本增效,并加速產(chǎn)業(yè)的人工智能化進程。

        AI 計算的新銳勢力——稀疏化計算
        墨芯人工智能科技創(chuàng)立于 2018 年,總部位于深圳,致力于通過稀疏化算法構(gòu)建高性能低 TCO(總擁有成本)的 AI 算力,其產(chǎn)品主要是用于云端和終端的 AI 加速器方案,可廣泛應(yīng)用于互聯(lián)網(wǎng)、運營商、生物醫(yī)****等數(shù)據(jù)中心 AI 推理場景,并積極致力于稀疏化生態(tài)建設(shè)。今年 1 月,墨芯剛剛完成數(shù)億元 A 輪融資。
        在 AI 時代算力需求呈指數(shù)級劇增、傳統(tǒng)摩爾定律面臨失效的背景下,稀疏化計算是突破 AI 芯片算力瓶頸的創(chuàng)新方向之一。當(dāng)前,谷歌、OpenAI、Meta 等 AI 巨頭紛紛布局稀疏化計算。墨芯人工智能作為專注于稀疏化技術(shù)的先入局者,已經(jīng)建立起全球領(lǐng)先的稀疏化核心技術(shù)以及產(chǎn)業(yè)化優(yōu)勢。
        在機器學(xué)習(xí)領(lǐng)域中,稀疏化是一種高效的數(shù)據(jù)處理和模型壓縮方式。它從人類大腦得到靈感,讓神經(jīng)網(wǎng)絡(luò)在計算時僅啟用所需神經(jīng)元。稀疏化計算的技術(shù)原理是指在原有AI計算的大量矩陣運算中,將含有零元素或無效元素剔除,以加快計算速度。它在需要海量數(shù)據(jù)處理的 AI 加速計算中優(yōu)勢尤為突出,能讓算力超越極限,讓企業(yè)得以完成復(fù)雜的 AI 任務(wù),同時能為企業(yè)顯著降低能耗和成本。
        為領(lǐng)先 AI 生態(tài)賦能
        浪潮信息是 AI 服務(wù)器的領(lǐng)導(dǎo)廠商,「浪潮元腦」是為應(yīng)對產(chǎn)業(yè) AI 化的挑戰(zhàn)、加速產(chǎn)業(yè) AI 化的發(fā)展進程,與合作伙伴共同構(gòu)建的 AI 生態(tài)體系,其成立于 2019 年,包含人工智能基礎(chǔ)設(shè)施、深度學(xué)習(xí)框架與工具等產(chǎn)品,為人工智能提供生態(tài)支撐。
        本次合作是墨芯所代表的新一代 AI 計算技術(shù),與浪潮代表的 AI 先進生態(tài)的強勢聯(lián)合,有望打造面向未來的「高算力+強生態(tài)」的產(chǎn)業(yè)新實踐。
        元腦生態(tài)的生態(tài)伙伴分為兩類:左手伙伴即技術(shù)型伙伴,右手伙伴即戰(zhàn)略型伙伴、能力型伙伴,分別代表先進優(yōu)化的 AI 開發(fā)能力,和實際可操作的優(yōu)秀 AI 落地部署能力。墨芯作為左手伙伴加入元腦生態(tài),將有力增強元腦的 AI 算力底座,為右手伙伴推動更多創(chuàng)新 AI 應(yīng)用場景的實現(xiàn),為 AI 生態(tài)的發(fā)展帶來更多元的機會。
        浪潮元腦負責(zé)人張強表示:如果說「元腦生態(tài) 1.0」是為人工智能而生,「元腦生態(tài) 2.0」就是為了智算而生,為千行百業(yè)而生。我們會特別看重左手伙伴的技術(shù)支撐實力,稀疏化計算產(chǎn)品以其高算力、高精度、低功耗、低 TCO(Total Cost of Ownership)的優(yōu)勢讓我們眼前一亮。他還表示,迄今為止,我們看到墨芯 SparseOne?? S100 計算卡在浪潮內(nèi)部測試中表現(xiàn)突出,讓我們對稀疏化計算推動商業(yè)賦能的技術(shù)實力深具信心,并充滿期待。
        產(chǎn)業(yè)化提速稀疏化計算釋放積極生態(tài)力量
        墨芯一直在積極推進基于稀疏化算法及架構(gòu)的 AI 芯片及計算卡的產(chǎn)業(yè)化進程。2021 年 12 月 31 日,墨芯首顆芯片 Antoum?? 順利回片,第一次上電即點亮,僅用 24 小時就跑通主流 AI 模型 ResNet50。 

        圖片


        墨芯人工智能 SparseOne? S100 計算卡基于 Antoum?? 芯片,專注為數(shù)據(jù)中心 AI 推理應(yīng)用。實測數(shù)據(jù)顯示,S100 計算卡的性能領(lǐng)先行業(yè),如 ResNet50 計算速度高達 33197 FPS,BERT 計算速度達到 7832 SPS——與國際頭部廠商同類產(chǎn)品相比,S100 計算卡在滿足精度要求的同時,僅以一半的功耗,便可帶來 6 倍算力提升。

        圖片


        墨芯表示,S100 可廣泛應(yīng)用于互聯(lián)網(wǎng)、運營商、生物醫(yī)****等眾多 AI 推理場景。
        墨芯 SparseRT?? 軟件開發(fā)環(huán)境為快速開發(fā)提供了完整的可擴展平臺并激活稀疏計算的潛力。SparseRT?? 可以高效支持通用的 AI 編程框架,如 TensorFlow、PyTorch、ONNX 和 MXNet 等。用戶可以在熟悉的 TensorFlow 或 PyTorch 環(huán)境里進行開發(fā)之后再進行遷移與交付。
        據(jù)介紹,在未來合作中墨芯人工智能將針對大模型、智慧醫(yī)療等的解決方案上架元腦生態(tài)平臺 AIStore,并聯(lián)合浪潮,探索稀疏化計算賦能各行各業(yè)的更多可能,助力浪潮元腦 AI 集成、部署和服務(wù)能力,幫助用戶完成業(yè)務(wù)智能轉(zhuǎn)型升級,攜手步入智算生態(tài)新時代。
        墨芯人工智能創(chuàng)始人兼 CEO 王維表示,稀疏化計算產(chǎn)品可以提供理想的 AI 算力,它滿足人類 AI 前沿技術(shù)的計算需求,高效而又環(huán)保地驅(qū)動 AI 世界,同時能以極低的遷移成本,一鍵式地將稀疏計算功能添加到現(xiàn)有的計算設(shè)施中,在算力、成本和能耗上給 AI 世界帶來驚喜。同時,稀疏化蘊含廣闊的生態(tài)發(fā)展?jié)摿Γ緦?gòu)建涵蓋軟件、硬件、應(yīng)用的 AI 計算平臺,與研究人員、開發(fā)者、軟件開發(fā)商等合作伙伴一起,為各行各業(yè)用戶提供高性能 AI 計算服務(wù),共同構(gòu)筑場景豐富、生機勃勃的稀疏化生態(tài)。



        *博客內(nèi)容為網(wǎng)友個人發(fā)布,僅代表博主個人觀點,如有侵權(quán)請聯(lián)系工作人員刪除。



        關(guān)鍵詞: 算法

        相關(guān)推薦

        技術(shù)專區(qū)

        關(guān)閉
        主站蜘蛛池模板: 浙江省| 邛崃市| 河间市| 安龙县| 宁强县| 石阡县| 安吉县| 通河县| 印江| 皋兰县| 南乐县| 沁源县| 安吉县| 灵川县| 隆子县| 汉沽区| 黎城县| 平潭县| 萍乡市| 色达县| 阳朔县| 安龙县| 河池市| 石阡县| 常宁市| 屯昌县| 从化市| 连平县| 绍兴县| 西城区| 会宁县| 泸州市| 巴彦县| 禄丰县| 双城市| 长宁县| 南投市| 辰溪县| 沭阳县| 广安市| 西和县|