新聞中心

        EEPW首頁 > 新聞縱覽 > 英特爾與星環科技再攜手,打造大語言模型訓練新“利器”

        英特爾與星環科技再攜手,打造大語言模型訓練新“利器”

        作者: 時間:2023-11-08 來源: 收藏

        近日,英特爾與星環科技在2023中國國際進口博覽會上,聯合發布了AIGC向量數據庫解決方案,旨在支持多樣化機器學習模型生成的海量向量數據,滿足企業針對海量向量數據的高實時性查詢、檢索、召回等需求,為人工智能時代多元化應用場景提供有力支持,為企業業務加速發展提供助力。

        本文引用地址:http://www.104case.com/article/202311/452593.htm

        image.png

        隨著大語言模型的發展,生成式AI開始逐漸應用于千行百業,企業對大語言模型解決方案的時效性、準確度等方面的要求逐漸提高。而當整個大模型的參數在百億級別的時候,它具備了初步的自然語言理解能力。但如果希望大模型能夠去做一些文本輸出、編碼輸出,它的整個參數量級至少要到300-500億,但是即使到達這樣的量級,其準確率也只有50%左右。如果希望整個大模型具備比較好的準確度,它的良好推理能力、計算能力,具備比較好的邏輯思維能力的話,整個大模型的參數量要到5千億的量級。

        除此之外,當將大模型應用于垂直、專業領域的時候,其缺乏專業的大模型的行業數據、提供的信息具備不確定性等問題均亟待解決。因此,當采用文本嵌入的方式,把最新的信息、行業的信息,全部向量化之后存到數據庫里面,則不僅能夠為緩解大模型壓力,還可以提供更具時效性的信息。基于此,星環科技推出基于第四代英特爾至強可擴展處理器的Transwarp Hippo分布式向量數據庫解決方案。得益于第四代英特爾?至強?可擴展處理器的高內存帶寬優勢和多核性能優勢,該數據庫解決方案的靈活性得到顯著增強;而VNNI指令集也進一步提升了向量計算的性能。從測試結果可以看到,Transwarp Hippo分布式向量數據庫解決方案整體性能得到了20%-30%左右的提升。

        憑借高可用、高性能、易拓展等特性,Transwarp Hippo在大模型場景中,可以極大地拓展大模型的應用邊界,讓大模型保持信息實時性,并能夠動態調整,使大模型擁有“長期記憶”,解決“AI幻覺”的問題。

        英特爾中國軟件技術合作事業部總經理唐炯指出,人工智能技術的高速發展,不僅為全球數字經濟注入全新動力,也為企業在多樣化業務場景中帶來更多全新挑戰。深耕人工智能領域多年,英特爾致力于以前瞻性視角,攜手生態伙伴一道,通過產品技術創新,打造滿足不同業務需求的解決方案,加速大模型應用落地。





        關鍵詞:

        評論


        相關推薦

        技術專區

        關閉
        主站蜘蛛池模板: 林甸县| 剑阁县| 罗甸县| 新乡县| 桐城市| 丰宁| 宜君县| 香格里拉县| 玉田县| 扶风县| 溧阳市| 温宿县| 杭锦旗| 南雄市| 吉隆县| 乌拉特中旗| 乐平市| 富平县| 阜城县| 平昌县| 唐河县| 麟游县| 景洪市| 台中县| 巴林右旗| 建昌县| 福贡县| 平乐县| 溧阳市| 富平县| 自贡市| 云林县| 册亨县| 河南省| 长泰县| 宁夏| 科技| 祁东县| 北宁市| 阿拉善盟| 惠东县|