xAI將建造一臺非常強(qiáng)大的超級計算機(jī)來處理下一版Grok

埃隆-馬斯克（Elon Musk）告訴投資者，他的眾多公司之一 xAI 希望建造一臺超級計算機(jī)，為下一版的Grok 提供動力。報道稱，xAI 可能會與甲骨文公司合作開發(fā)超級計算機(jī)，并在 2025 年底前準(zhǔn)備就緒。它顯然將使用大量英偉達(dá)（NVIDIA）的 H100 GPU，集群規(guī)模是目前最大集群的四倍。

這位億萬富翁今年早些時候表示，Grok 2 需要 2 萬個英偉達(dá) H100 GPU 才能完成訓(xùn)練，而即將推出的 Grok 模型將需要超過 10 萬個 H100 GPU。通過建造這臺被稱為"計算機(jī)千兆工廠"的超級計算機(jī)（以特斯拉千兆工廠命名），xAI或許能夠開發(fā)出更先進(jìn)的語言模型。

隨著OpenAI 的 ChatGPT在人工智能領(lǐng)域占據(jù)主導(dǎo)地位，你很可能還沒有嘗試過或聽說過 Grok。它可以在 x.com 上使用，但需要用戶付費(fèi)訂閱。與其他模式相比，Grok 的一大優(yōu)勢是它可以直接訪問 X 上的所有帖子，馬斯克一直說 X 是新聞媒體的替代品。

馬斯克曾經(jīng)參與過 OpenAI 的工作，直到他與公司負(fù)責(zé)人山姆-阿爾特曼（Sam Altman）在公司發(fā)展方向上產(chǎn)生分歧。與 OpenAI 對 ChatGPT 的細(xì)節(jié)守口如瓶不同，xAI 最近開源了 Grok-1 的權(quán)重和架構(gòu)。

如果 xAI 真的實(shí)施這些計劃，那么NVIDIA 將成為主要受益者，因?yàn)樗鼘?H100 GPU 的需求將會增加。此舉對整個領(lǐng)域也有好處，因?yàn)樗鼘⑵仁蛊渌荆ㄈ?OpenAI 和Google）進(jìn)一步創(chuàng)新其模式，以保持領(lǐng)先地位。

不幸的是，所有這些額外的計算能力都需要以大量的某種能源供電，因此，希望馬斯克能找到一種使用可再生能源的方法，并將用水量控制在最低水平。