Groq收購Definitive Intelligence公司，或將進一步威脅英偉達地位

2016 年，谷歌張量處理單元 TPU 的發明者喬納森·羅斯（Jonathan Ross），在美國加利福尼亞州山景城創建了一家名為 Groq 的 AI 芯片公司。

經過幾年的發展，這家致力于生成式 AI 解決方案的企業，已經構建了旨在大規模實現低延遲、節能和可重復推理性能的 LPU 推理引擎，并希望實現這樣一個使命，即創建 AI 經濟，以讓任何有絕妙創意的人都能使用并負擔得起。

過去幾天，這家長期以來一直處于隱身狀態的公司，在互聯網上引發較大的轟動。

Groq 基于自研 LPU 推理引擎，讓 Mixtral 8x7B 等開源大語言模型能夠以幾乎每秒 500 個 token 的速度運行，并在大多數基準測試中擊敗了以每秒 40 個 token 的速度運行的 GPT-3.5。（編者注：token 指的是 AI 訓練過程中處理文本的最小單元。）

顯而易見，如果推理速度像 LPU 這樣快的芯片在今后變得越來越普遍，那么用戶等待生成式 AI 緩慢輸出內容的日子會逐漸消失。與此同時，Groq 的發展也將不可避免地為 GPU 芯片的霸主英偉達帶來威脅。

（來源：Groq 官網）

日前，該公司收購了一家位于美國加利福尼亞州帕洛阿托的初創公司 Definitive Intelligence，收購金額尚未公開。

據了解，Definitive Intelligence 由桑尼·馬德拉（Sunny Madra）和加文·雪利（Gavin Sherry）于 2022 年共同創立，前者為該公司的聯合創始人兼 CEO，后者為聯合創始人兼 CTO。

Definitive Intelligence 主要推出與生成式 AI 有關的產品，包括開發大語言模型所需的開源庫集合 OpenAssistants，和連接到企業與公共數據庫的可視化生成器 Advisor。

Pioneer 是該公司的主要工具之一，作為一種“自主數據科學代理”，能夠實現對任何數據分析任務的處理，比如預測建模等。

據悉，在 Groq 收購 Definitive Intelligence 之前，后者籌集的風險投資達到 2550 萬美元[1]。

在本次收購之后，馬德拉將領導 GroqCloud 業務部門，主要利用他在服務企業客戶方面積累的專業知識和豐富經驗，通過 GroqCloud 來廣泛地拓展用戶對 LPU 推理引擎的訪問。

對此，羅斯在公司發布的新聞稿中表示：“我們很歡迎來自 Definitive Intelligence 的馬德拉和他的團隊幫助我們實現公司使命。

該團隊擁有 AI 解決方案和進入市場策略方面的專業知識，并且致力于與社區分享知識。他們是領導我們 GroqCloud 業務部門的完美人選。”

需要說明的是，GroqCloud 云平臺是 Groq 圍繞開發人員打造的一個新平臺，已經具有該公司完全集成的文檔、代碼示例和自助服務訪問權限（用戶能通過**** https://console.groq.com/ 訪問）。

那么，GroqCloud 業務部門的工作重點都有哪些呢？

具體來說，GroqCloud 不僅能夠幫助用戶通過自助服務平臺輕松訪問 LPU 推理引擎，還能為客戶部署新的生成式 AI 應用程序，并為這些程序提供只有 Groq 才擁有的超快運行速度。

公開資料顯示，GroqCloud 自 2024 年 2 月 19 日試運行以來，已經吸引了大量開發人員，其中數千人對于 Groq API 的使用持非常積極的態度。

而馬德拉和該平臺的業務團隊計劃最初將工作重點集中在擴大容量、提高效率、建立合作伙伴關系以及構建開發者平臺。

“世界現在才意識到高速推理對生成人工智能的重要性。在 Groq，我們為開發人員提供了實現生成式 AI 承諾所需的速度、低延遲和效率。”馬德拉在一封電子郵件聲明中說。

同時，他也在該聲明中表示：“自從 2016 年第一次見到羅斯以來，我一直是 Groq 的忠實粉絲，我很高興能加入他的行列，Groq 團隊力求將最快的推理引擎推向世界。”

事實上，除了 GroqCloud 業務部門，Definitive Intelligence 擁有的工程資源還幫助 Groq 正式組建了 Groq Systems 業務部門。

該部門在聚焦創新的同時，還會為需要將 Groq 芯片用于其 AI 計算中心的公共部門和客戶提供服務。

對于 Groq 為何選擇將 GroqCloud 和 Groq Systems 分成兩個部門，羅斯解釋說：“這將使 Groq 能夠繼續快速創新、加速推理并引領 AI 芯片競賽，而傳統提供商和其他 AI 領域的知名企業仍然在嘗試構建一款可以與我們的 LPU 競爭的芯片。”

其實，Definitive Intelligence 并非是 Groq 收購的第一家公司。在此之前，該公司曾于 2022 年完成對高性能計算和 AI 基礎設施解決方案公司 Maxeler Technologies 的收購。

面臨如今定制 AI 芯片市場的競爭如此激烈的當下，這或許不會是 Groq 的最后一次收購行動，畢竟該公司顯然打算先于競爭對手站穩腳跟。