英偉達公開最快AI超級計算機Eos:集成了4608個H100!
2月17日消息,近日,英偉達(NVIDIA)首度對外公開了其最新的面向企業的AI超級計算機Eos,這是專為數據中心規模的高階AI開發所設計,也是英偉達目前速度最快的AI超級計算機。
據介紹,Eos配備了576個NVIDIA DGX H100系統,每個系統搭載8個H100 GPU,即共計擁有4,608個Nvidia H100 GPU,同時還配備了1,152個英特爾Xeon Platinum 8480C處理器(每個CPU有56個內核),使得Eos在HPC和AI的性能表現令人印象深刻。此外,Eos采用英偉達的Mellanox Quantum-2 InfiniBand技術,支持高達400 Gb/s數據傳輸速度,對訓練大型AI模型和系統擴展至關重要。
根據英偉達公布的數據顯示,在最新的Top500超級計算機當中,Eos的峰值性能達到了188.65 Peta FLOPS ,成為了全球第九大超級計算機。同時,Eos的FP64性能更是居于前列,達到了121.4 Peta FLOPS。Eos不僅供英偉達自身使用,其構架也為其他想打造面向企業的超級計算機的公司提供藍本。英偉達在視頻中表示:“EOS 每天都會迎接數千名英偉達內部開發人員進行人工智能研究的挑戰,幫助他們解決以前無法解決的問題。”
英偉達表示,除強大硬件,Eos專為AI開發和部署設計的強大軟件,包括協調和集群管理工具、加速運算存儲和網絡庫,以及優化的操作系統。因此,Eos可應對從類似ChatGPT生成式AI到AI工廠等各種應用。
英偉達強調,Eos整合了其在AI領域的專業技術和經驗,是先前DGX超級計算機知識的結晶,可以幫助企業處理最具挑戰性的項目,并實現AI目標。
盡管Eos具體成本未公開,且Nvidia DGX H100系統定價是保密的,具體售價也取決于很多因素,但考慮到每個H100成本可能在3萬至4萬美元之間,因此整個系統成本可能非常高昂。
編輯:芯智訊-浪客劍
*博客內容為網友個人發布,僅代表博主個人觀點,如有侵權請聯系工作人員刪除。