SAP和Nvidia今天宣布擴展了合作伙伴關系

SAP和Nvidia今天宣布擴展了合作伙伴關系，旨在提供加速計算，以便客戶能夠大規模采用大型語言模型（LLM）和生成式人工智能。

根據這一合作伙伴關系，SAP正在將Nvidia的生成式人工智能鑄造服務，包括新發布的Nvidia NIM推斷微服務，整合到SAP Datasphere、SAP業務技術平臺（BTP）、RISE with SAP以及SAP的企業應用程序組合中。

“我們正在將人工智能嵌入到我們的企業應用程序中，并且我們已經設計成，云中的客戶可以輕松地以即服務、開箱即用的方式消費它，” SAP首席人工智能官（CAIO）菲利普·赫爾齊格（Philipp Herzig）表示。

赫爾齊格指出，SAP擁有龐大的合作伙伴生態系統和各種LLM提供商，新的LLM似乎每天都在不斷涌現。

“我們希望以一種方式設計它，使客戶不必關心復雜性，”他說。“歸根結底，客戶希望在其工作流程中消費LLM時獲得最佳體驗、最佳性能或最低價格。”

SAP正在使用Nvidia的服務，包括Nvidia DGX Cloud AI超級計算、Nvidia AI Enterprise軟件和Nvidia AI Foundation模型，為SAP AI Core和SAP Datasphere中的生成式人工智能中心增加新功能。

將RAG引入到Joule 去年11月推出的Nvidia NeMo Retriever，一個語義檢索微服務，可通過檢索增強生成（RAG）來幫助gen AI應用程序提供更準確的響應，將增強SAP的Joule協作助手。

RAG通過賦予LLM引用其訓練數據之外的權威知識庫的能力來優化LLM。

“有大量文檔未存儲在SAP系統中，”赫爾齊格說。“這些可能是您的人力資源政策、旅行政策、合規文件、法律文件，可能存儲在SharePoint或門戶上。”

Joule已經具備回答簡單問題的能力，比如“我剩余多少個假期天數？”這只是員工記錄的問題。但Nvidia的微服務賦予Joule更進一步的能力，讓它可以訪問人力資源政策，并將其與員工記錄進行比較。

數據科學家和開發人員的新功能 該合作伙伴關系還在探索20多個面向幫助客戶簡化數字化轉型的生成式人工智能用例，包括通過智能發票匹配自動化SAP S/4HANA Cloud中的ERP、通過SAP SuccessFactors改進HR用例，以及使用來自SAP Signavio的生成式人工智能洞察來處理業務建議并優化客戶支持流程。

與此同時，SAP正在利用NVIDIA的加速計算平臺和NVIDIA AI Enterprise數據科學軟件，包括Nvidia Rapids、Rapids cuDF和cuML，以使數據科學家更容易訪問數據，并提高Datasphere中ML工作負載的性能。對于開發人員，Nvidia的AI鑄造服務將幫助他們創建特定領域的語言代碼，并對LLM進行微調，以在SAP的高級業務應用編程（ABAP）編程語言中編寫代碼。

“我們的編程語言叫做ABAP，許多遺留代碼都是用它編寫的，結果通常是大型語言模型在處理ABAP時并不好用，”赫爾齊格說。

他解釋說，雖然現成的LLM可以生成20世紀90年代可接受的ABAP代碼，但它與ABAP Cloud的現代設計原則不符合。

“RAG不太適用于代碼生成，”Nvidia的生成式人工智能軟件產品管理副總裁卡里·安·布里斯基（Kari Ann Briski）補充說。“您不能檢索代碼，然后將其復制并編寫。生成代碼必須真正來自于了解該語言并能夠創建它的能力，以提供自然提示。”

最后，今天還宣布的新Nvidia NIM推斷微服務將幫助客戶優化其SAP基礎架構上的推斷性能。

“基本上，這是由Nvidia預先構建的各種模型的微服務：來自生態系統的開放模型、專有模型、一些Nvidia模型，從小型創業公司到大型云端的模型，”Nvidia的企業計算副總裁Manuvir Das說。“我們將模型與為這些模型進行了優化的引擎一起打包，以便盡可能高效地在一系列Nvidia GPU上運行，這些GPU可以在筆記本電腦或工作站、數據中心或云中找到。”