博客專欄

        EEPW首頁 > 博客 > 大模型的下一步:要高精尖,更要接地氣

        大模型的下一步:要高精尖,更要接地氣

        發布人:機器之心 時間:2022-12-21 來源:工程師 發布文章
        大模型落地,如何以終為始緊跟業務需求?


        當下,AI 領域最熱門的技術非大模型莫屬。提到大模型,你也許會想到高參數、強算力、各種國際級的技術獎項和競賽佳績…… 讓大家認為數據上的「大」和「強」,就是衡量大模型好壞的標準。
        誠然,大模型的競爭力建立在「大」和「強」的基礎上,但對于應用端來說,需要將大數據的能力真正落實到需求上,實現實實在在的轉化,才是展現大模型真正實力的關鍵一環。因此,如何將大模型與產業化應用無縫連接,研發出適合具體業務場景的行業化大模型,已成為業界紛紛發力的方向。可是,要實現這個目標,卻并不簡單。
        大模型應用落地,難點在何處?
        作為當前 AI 領域的前沿技術,各類大模型在促進產業智能化升級、提升業務流程效率與水平等方面都具有領先性;但到了實際應用環節,依然面臨很多難題,如技術能力與業務目標不適配、技術無法及時響應業務需求、基建承載能力弱等。
        以往,前沿技術都是先做好應用模塊,再在具體場景下做 “本地化適配”。而今時今日,技術要想在業務中得以落地,無論是數據收集,還是算法架構,都需要更加前置地考慮如何貼合真實業務需求、如何達成廣告主目標,才能將這些思考進行充分表達。因此,為了讓大模型更好地落地,技術團隊首先要充分了解業務特性或目標,從而結合實際業務強化技術能力持續磨合與進化,做到一切以為業務服務為目標。
        此外,談到業務場景,尤其是廣告業務的場景,基于不同行業、不同業務類型,他們的訴求也存在不小的差異。大模型需要實時掌握這些需求,并對此作出快速的響應。這個道理固然簡單,但要落實到技術層面,卻需要一個相當漫長、復雜的調試和部署周期,往往導致技術迭代落后于業務變化。因此,如何提升大模型的靈活性與敏捷性,能夠適配業務需求的調整和變化,成為了建模的重要抓手之一。
        總的來說,解決大模型落地難題的關鍵在于跨越大模型能力與真實業務場景之間的「鴻溝」。如果能以業務目標及動態需求為導向,并滿足具體業務運行所需的各項能力,大模型才有可能真正實現落地
        要真正滿足以上的要求,大模型就需要擁有強大的學習能力,能夠通過超大規模的樣本訓練,鍛煉出快速的理解和良好的推理能力。這意味著,大模型的穩定運行需要強大基建支持。然而現實往往是大模型技術到位了,基建沒有跟上,多數系統承載不下,大模型只能停留在實驗室層面。因此,建設支撐大模型在線訓練、推理與部署的計算平臺至關重要。
        抓住廣告業務痛點,騰訊實現大模型又好又快落地
        在各家紛紛推廣自家大模型的時候,我們注意到了騰訊廣告的獨特身影。此前,我們就曾在《大廠的廣告系統升級,怎能少了大模型的身影》一文中介紹過騰訊廣告的混元 AI 大模型與廣告大模型,見證了它們強大的技術能力。而我們最近了解到,這兩個模型已在具體廣告場景得到了應用,真實服務廣告主們。
        大模型落地困難重重,騰訊廣告如何克服以上難點,將前沿技術融入廣告業務?今天我們將從業務痛點出發,逐步拆解騰訊廣告以終為始的 “技術提效” 思路。
        買化妝品的一定是女性?大模型向 “交易” 進化,找到真正對的人! 
        互聯網廣告業務場景本來就具有復雜多變的特點,可謂是大模型應用價值的最佳試金石。隨著企業產品的推廣競爭越來越激烈,內容營銷早已經不止于簡單的性能介紹,而需要從人群、地域、話題、商品特性等等層面找到相互融合之處,才能有效吸引消費者的關注及達成轉化,從而真正幫助廣告主實現生意增長。然而,當下互聯網廣告場景的參數體量已經非常大,廣告業務也正在往短平快、多觸點、全域鏈接的方向迅速發展,這都對廣告系統的快速挖掘、靈活匹配提出了更高的要求。此時,廣告系統的運算能力就發揮不可或缺的作用。
        針對這些業務痛點,騰訊廣告打造混元 AI 大模型與廣告大模型,全面提升廣告系統的理解能力與運算能力,從而幫助廣告主實現生意的高效增長。
        作為在中文語言理解測評基準 CLUE、多模態理解領域國際權威榜單 VCR 以及 5 大國際跨模態檢索數據集榜單(如 MSR-VTT 等)上登頂的業界領先大模型,混元 AI 大模型具備強大的多模態理解能力,可將文字、圖像和視頻作為一個整體來理解,將廣告更精準地推薦給合適的人群,在廣告投放過程中實現更快速的起量。
        對于廣告主而言,在投放中 “起量” 非常重要。當點擊率、轉化率在短時間內達成了廣告主預設的目標,就意味著起量了。混元 AI 大模型的多模態理解能夠快速解析出廣告素材中的商品名稱、規格等豐富的信息,并據此推薦給更可能對此廣告感興趣的人群
        我們以潤百顏為例,以往這類美妝護膚類廣告,都是由優化師們基于品牌對于目標受眾的理解,主動選擇人群標簽進行廣告投放。以這個流程進行投放,廣告系統并不需要理解廣告主真實的營銷訴求。然而,如果假定潤百顏的主要目標受眾為 20-40 歲的女性,那么會購買此產品送給女性朋友的男性就會在投放過程中被排除在外。 
        為此,騰訊廣告通過與廣告主合作引入行業專業知識,進一步細化商品特征,構建全面的美妝行業知識圖譜,收集并綁定相同產品的不同素材進行投放。結果顯示,當新素材出現時,同產品其他廣告積累的數據幫助系統更快更穩健地完成起量。同時,通過打通單一廣告主賬戶下的所有賬號實現一體化商品管理,從統一視角聚合商品投放及投后數據的管理,降低整體空耗率。
        從更好地理解商品開始,幫商品更快地匹配到對應的消費者,廣告大模型強大的運算能力就是提升推薦效率的關鍵。從參數來看,廣告精排大模型的單模型推理參數達到千億級別,序列化后大小可達數百 GB,浮點數計算量最高每秒超過 10 億次,在行業位于先進水平。
        在廣告大模型運算能力的支持下,騰訊廣告實現了以系統為主導的全域搜索,能夠更快地搜索并挖掘用戶與商品的潛在關系,大大提升人貨匹配效率,找到更多高成交人群。
        可以說,兩大模型的加持讓廣告系統更懂貨、更懂廣告主生意邏輯、更快找到潛在受眾。事實也證明,這套方法行之有效,潤百顏的轉化起量率提升了 25.43%,空耗率降低了 43.68%,高信息度商品下單 ROI 提升了 5%。

        圖片


        大模型 + 強算力,支持定制模型 7 天上線,快速響應廣告主訴求
        通過混元 AI 大模型獲得了更豐富的特征以后,就可以聯動廣告大模型進行更準確、更高效的建模了。不僅如此,廣告大模型本身也可作為一個通用底座,構建更多靈活的定制模型,適配各種應用場景。這就為滿足不同廣告主的差異化、精細化需求打下了基礎。
        在處理廣告主實際廣告業務過程中,騰訊廣告采用了大模型 + 定制模型的技術思路,一方面充分發揮廣告大模型的強運算能力,提升數據運算的精度、維度與速度;另一方面依托廣告大模型快速搭建業務相關的定制化模型,滿足多樣化需求,做到有的放矢,幫助廣告主更快地完成投放目標。
        對于游戲、網服等線上服務類廣告主而言,傳統投放平臺上能夠提供的推廣目標往往無法滿足他們非常精細的投放訴求。以某個網服廣告主為例,他們對出價的差異化要求精細到了「通關 3 次」和「通關 5 次」。此外,流量規則與轉化路徑的區別也使得每個行業、每個廣告主要求用戶完成不同的轉化行為。以游戲行業為例,超休閑和中重度游戲對用戶行為要求不同,前者要求用戶看完一次激勵視頻即完成轉化,后者則需要用戶成功下載、上手玩甚至付費才算完成轉化。
        為了更快更靈活地響應廣告主的差異化訴求,跟上業務變化腳步,騰訊廣告選擇在大模型上建定制模型,與該網服廣告主共同定義促成生意增長的用戶關鍵行為和關鍵目標,并以「關鍵行為」為優化目標進行獨立建模。
        但是,從溝通建模到跑通行業定制模型,難度很高,所需時間也頗長。在廣告大模型運算能力的加持下,騰訊廣告得以實現快速建模,將模型上線時間從業內普遍的兩個月縮短至了 7 天,并在 30 天內完成優化迭代,同時做到及時、準確響應廣告主的具體業務需求。
        有了大模型助力,網服廣告主搶占了流量先機,最終買量 ROI 提升了 20%,平均出價和 eCPM 提升了 50%。

        圖片


        修煉內功 —— 太極機器學習平臺提供強大基建
        億級用戶、海量廣告內容對廣告平臺的承載和計算能力提出了更高要求,騰訊自研的太極機器學習平臺支持 10TB 級模型訓練、TB 級模型推理和分鐘級模型發布上線,為兩大模型在業務場景實現 7×24 小時順利運行提供了強大基建,保障了混元 AI 大模型、廣告大模型的快速、穩定運行。
        目前,騰訊廣告系統已完成了全面升級(如下圖)。底層數據生態(營銷數據和經營數據)提供了系統持續運行所需的「源動力」,而一大平臺、兩大模型強化了系統的理解與運算能力,從而高效達成廣告主最關心的三大效果指標 “起量、成本和穩定性”。

        圖片


        升級后的騰訊廣告系統為更好地滿足廣告主訴求、持續優化用戶體驗構建了堅實可靠的技術底座,在廣告業務場景中真正實現了技術提效。
        結語
        無論是利用混元 AI 大模型強化理解能力,還是通過廣告大模型提升運算能力,騰訊廣告讀懂了如何將大模型落地到業務場景的關鍵,并摸索出了一套獨特的打法。這為業界其他大模型玩家提供了應用參考范式,即始終圍繞業務痛點做深文章,充分釋放已有能力,并通過積極變招滿足廣告主變化的真實訴求。
        兩大模型的落地踐行了騰訊廣告 “技術提效” 理念。未來,騰訊廣告將繼續強調技術落地的重要性,從技術的角度理解業務,從業務的角度審視技術,讓技術演進推動業務增長,為廣告主創造更多的價值。


        *博客內容為網友個人發布,僅代表博主個人觀點,如有侵權請聯系工作人員刪除。



        關鍵詞: AI

        相關推薦

        技術專區

        關閉
        主站蜘蛛池模板: 会昌县| 西充县| 宝丰县| 霍林郭勒市| 永善县| 翁源县| 望江县| 日土县| 平邑县| 太白县| 嘉义市| 沈阳市| 汝阳县| 偃师市| 郑州市| 周口市| 增城市| 璧山县| 贞丰县| 永德县| 镇康县| 青州市| 五原县| 察雅县| 特克斯县| 延川县| 平邑县| 西乌| 青岛市| 叶城县| 邵阳市| 翁牛特旗| 黑水县| 连云港市| 五家渠市| 南丹县| 玛曲县| 奈曼旗| 昆山市| 湖口县| 南康市|