比B200快10倍？AI芯片初創(chuàng)公司Etched沖擊英偉達

據(jù)媒體報道，硅谷人工智能（AI）芯片初創(chuàng)公司Etched表示，已在A輪融資中籌集1.2億美元，該公司計劃利用這筆資金進一步開發(fā)其專用AI芯片。

據(jù)報道，由哈佛輟學生Gavin Uberti和Chris Zhu于2022年創(chuàng)立的Etched，憑借其用于AI的ASIC芯片，從最底層的架構層面為主流AI大模型公司所采用的Transformer計算提供更優(yōu)性價比的選擇，在AI硬件領域引發(fā)了高度關注。

報道稱，Etched開發(fā)了一款名為Sohu的專為Transformer模型設計的ASIC芯片。Etched聲稱，Sohu芯片推理Llama-3 70B的速度比英偉達的H100快20倍，比今年3月推出的頂配芯片B200快上超過10倍，且功耗卻大大降低。

Sohu芯片減少了用于存儲器的空間，而將更多空間用于計算用途的晶體管，并通過只有一個大內核的設計，減少了用來協(xié)調不同內核的低效計算。

Etched表示，公司聘請了先前曾在賽普拉斯、博通等半導體公司工作過的人才，芯片則交給臺積電的Emerging Business Group制造。目前其Sohu AI芯片可以支援Google、Meta、微軟、OpenAI、Anthropic等大型科技公司所有的熱門Transformer。

作為隨著Transformer模型不斷推動生成式AI突破，Sohu芯片被認為有望在AI推理側打破英偉達GPU一家獨大的格局，重塑AI計算的格局。

不過，據(jù)彭博社報道，Etched的Sohu芯片是執(zhí)行Transformer這類AI演算法，一旦未來有另一種類型的演算法取代了Transformer AI，Sohu就會沒用了。而英偉的GPU，例如H100是可以適用于任何AI演算法的。正如Gavin Uberti在接受采訪時表示，“我們正在人工智能領域下最大的賭注”，“如果Transformer消失了，我們就會死。但如果它們繼續(xù)存在，我們就是有史以來最大的公司。”