新聞中心

        EEPW首頁 > 智能計算 > 設計應用 > 從實驗室到應用:推動生成式AI的成功

        從實驗室到應用:推動生成式AI的成功

        作者:肯睿中國Cloudera大中華區技術總監 劉隸放 時間:2024-06-18 來源:EEPW 收藏

        2023年,在科技領域異軍突起。隨著ChatGPT獲得了巨大的成功,亞馬遜、微軟和谷歌等公司紛紛加快步伐,掀起了一股創新浪潮,以重塑企業和用戶利用科技提高生產力的方式。已在制藥和法律等多個領域取得了顯著進展,但這只是一個開始。根據麥肯錫的調查,中國企業人工智能與業務相結合的能力有很大的進步空間,當前只有9%的中國企業可借助AI實現10%以上的收入增長。只有當企業走出實驗階段,開始在實際應用中更廣泛地使用時,其真正的作用才能更好地展現。

        本文引用地址:http://www.104case.com/article/202406/460023.htm

        但是,想要將生成式AI的價值最大化,企業必須克服成本和信任的挑戰。而要做到這一點,就需要一個充分利用云的強大數據路線圖。

        成本和信任是最大的障礙

        在生成式AI應用中,如果模型是基于不可信的數據訓練而成的,它生成有用結果的可能性就會很小。當前的挑戰在于,許多企業的數據治理和安全仍處于初級階段,關鍵信息往往被鎖在孤島中。如果不進行高成本的整合,這些信息實際上是無法被使用的。在實踐中,這意味著AI訓練數據的質量可能很差,缺乏關鍵的業務背景。這可能會導致幻覺,即看似真實的虛構信息或缺乏必要背景的事實反應。無論哪種情況,都對企業無益。

        另一個關鍵痛點是自主運行生成式AI項目的成本高昂。雖然外包存在安全、合規和其他潛在風險,但自主完成所有工作的成本過于高昂。一個專門用于運行大語言模型(LLM)的尖端GPU大約需要3萬美元。而一家企業如果要運行一個擁有1750億個參數的模型,可能需要2000個GPU,成本高達數千萬美元。

        將實驗室中的生成式AI投入到實際應用中

        將云基礎設施作為AI基礎逐漸成為趨勢。云提供商擁有GPU資源,可幫助客戶擴展生成式AI項目的規模,客戶只需按照使用量支付費用即可。這使得企業能夠使用生成式AI進行實驗,并在完成修補后關閉模型,不必在本地環境中配置GPU。這種方式不僅節省了資本支出,還為企業提供了在必要時重新進行內部運行的靈活性。

        所以,在決定使用云后,企業如何才能讓生成式AI項目走出實驗室,并在實際應用中為企業帶來價值呢?在這方面,可以借鑒BRIESO(構建、完善、識別、實驗、擴展和優化)模型:

        構建(Build):構建現代數據架構和通用企業數據網格。無論是在本地還是在云中,這種構建都將幫助企業獲得對數據的可見性和控制權。而且,這還有助于企業建立一個統一本體,用于映射、保護和實現所有數據孤島合規性。所以,企業應尋找不僅能夠滿足當前需求,而且能夠根據未來增長進行擴展的工具。通常情況下,開源解決方案最為靈活。

        完善(Refine):根據當前業務需求完善和優化數據。在這一階段,盡可能準確預測未來需求非常重要,這將減少遷移過多非必要數據的可能性,這些數據不會帶來任何價值,還會大幅增加項目成本。   

        識別(Identify):尋找將云用于特定工作負載的機會。工作負載分析將幫助企業確定在哪些方面可以產生最大價值。這個階段的關鍵在于通過打通各個位置(無論是本地還是多個云)的數據來優化項目。這時也是考慮潛在開發用例的好時機。  

        實驗(Experiment):嘗試使用預構建的第三方生成式AI框架,找到最符合業務需求的框架。可供選擇的框架很多,例如AWS的Bedrock(Hugging Face)、Azure的OpenAI(ChatGPT)和谷歌的AI Platform(Vertex)。重要的是不要過早做出決定。為提高項目成功的可能性,模型必須與現有企業數據緊密結合。

        擴展和優化(Scale and Optimise):在選擇了合適的平臺后,就可以考慮選擇一到兩個用例擴展為生產模型。企業應持續優化流程,但也要密切關注與GPU相關的成本,以防成本大幅提高。當企業的生成式AI應用能力開始提高時,應尋找進一步優化其使用的方法。靈活的AI平臺是保證長期成功的關鍵。

        未來近在眼前

        IT和企業領導人對生成式AI應用的變革潛力感到興奮是可以理解的。全球98%的高管認為AI基礎模型將在諸如在改進客戶服務方面,或是在實現無縫銜接的供應鏈管理和大幅加強開發運維方面,在未來3-5年戰略中發揮重要作用。

        企業仍然需要做很多工作。任何AI項目要想取得成功,就必須以現代數據架構為起點,然后進行完善、識別、實驗、擴展和優化。企業可以利用生成式AI取得成功的未來已指日可待。



        評論


        相關推薦

        技術專區

        關閉
        主站蜘蛛池模板: 会宁县| 新巴尔虎左旗| 贵南县| 天门市| 项城市| 西吉县| 沐川县| 潜山县| 文昌市| 玉屏| 鄂伦春自治旗| 靖西县| 成都市| 赤壁市| 内乡县| 曲松县| 吐鲁番市| 东台市| 阿荣旗| 海林市| 化德县| 永德县| 双桥区| 浮梁县| 布尔津县| 息烽县| 婺源县| 体育| 平邑县| 邮箱| 东明县| 木里| 宜都市| 县级市| 尉犁县| 上饶市| 南康市| 孟州市| 余干县| 清丰县| 芦溪县|