光中介層可能在 2025 年開始為 AI提速

光纖電纜正在逐漸靠近高性能計(jì)算機(jī)中的處理器，用玻璃取代銅連接。科技公司希望通過將光學(xué)連接從服務(wù)器外部移動(dòng)到主板上，然后讓它們與處理器并排放置，從而加速 AI 并降低其能源成本。現(xiàn)在，科技公司準(zhǔn)備在尋求成倍增加處理器潛力的道路上走得更遠(yuǎn)——通過滑入處理器下面的連接。

這就是 Lightmatter 采用的方法，它聲稱通過配置插入器進(jìn)行光速連接而處于領(lǐng)先地位，不僅在處理器之間，而且在處理器的各個(gè)部分之間。該技術(shù)的支持者聲稱，它有可能顯著降低復(fù)雜計(jì)算中的功耗，這是當(dāng)今 AI 技術(shù)進(jìn)步的基本要求。

Lightmatter 的創(chuàng)新吸引了投資者的注意，他們看到了該技術(shù)的足夠潛力，為該公司籌集了 8.5 億美元，使其遠(yuǎn)遠(yuǎn)領(lǐng)先于競(jìng)爭(zhēng)對(duì)手，估值達(dá)到 44 億美元。現(xiàn)在，Lightmatter 已準(zhǔn)備好運(yùn)行其名為 Passage 的技術(shù)。該公司計(jì)劃到 2025 年底在主要客戶系統(tǒng)中安裝并運(yùn)行該技術(shù)的生產(chǎn)版本。

Passage 是一種光學(xué)互連系統(tǒng)，可能是提高高性能處理器的計(jì)算速度超越摩爾定律限制的關(guān)鍵一步。首席執(zhí)行官 Nick Harris 表示，這項(xiàng)技術(shù)預(yù)示著一個(gè)未來，不同的處理器可以匯集他們的資源并同步處理人工智能所需的大量計(jì)算。

“從現(xiàn)在開始，計(jì)算的進(jìn)步將來自將多個(gè)芯片連接在一起，”他說。

光中介層

從根本上說，Passage 是一種中介層，是一塊玻璃或硅片，較小的硅芯片（通常稱為小芯片）在同一封裝內(nèi)連接和互連。如今，許多頂級(jí)服務(wù)器 CPU 和 GPU 都由中介層上的多個(gè)硅晶片組成。該方案允許設(shè)計(jì)人員連接采用不同制造技術(shù)制造的芯片，并增加處理量和內(nèi)存量，超出單個(gè)芯片所能達(dá)到的水平。

今天，連接中介層上小芯片的互連是嚴(yán)格的電氣互連。與主板上的鏈路相比，它們是高速和低能耗的鏈路。但它們無法與光子通過玻璃纖維的無阻抗流動(dòng)相提并論。

通道是從 300 毫米的硅晶片上切割的，該晶片在表面下方含有一層薄薄的二氧化硅。多波段外部激光芯片提供 Passage 使用的光。中介層包含可以從芯片的標(biāo)準(zhǔn) I/O 系統(tǒng)接收電信號(hào)的技術(shù)，稱為串行器/解串器或 SerDes。因此，Passage 與開箱即用的硅處理器芯片兼容，不需要對(duì)芯片進(jìn)行根本的設(shè)計(jì)更改。

計(jì)算小芯片堆疊在光中介層的頂部。 光物質(zhì)

信號(hào)從 SerDes 傳輸?shù)揭唤M稱為微環(huán)諧振器的收發(fā)器，這些收發(fā)器將不同波長(zhǎng)的位編碼到激光上。接下來，多路復(fù)用器將光波長(zhǎng)組合到光電路上，在那里數(shù)據(jù)由干涉儀和更多的環(huán)形諧振器路由。

數(shù)據(jù)可以從光電路通過排列在芯片封裝相對(duì)兩側(cè)的八個(gè)光纖陣列之一從處理器發(fā)送出去。或者數(shù)據(jù)可以路由回同一處理器中的另一個(gè)芯片。在任一目的地，該過程都是反向運(yùn)行的，其中光被解復(fù)用并轉(zhuǎn)換回電能，使用光電探測(cè)器和跨阻放大器。

Harris 聲稱，Passage 可以使數(shù)據(jù)中心使用六分之一到二十分之一的能源。

與典型的電氣布置相比，處理器中任何小芯片之間的直接連接消除了延遲并節(jié)省了能源，典型的電氣布置通常僅限于芯片周邊。

這就是 Passage 在將處理器與光連接起來的競(jìng)賽中與其他參賽者的不同之處。Lightmatter 的競(jìng)爭(zhēng)對(duì)手，如 Ayar Labs 和 Avicena，生產(chǎn)光學(xué) I/O 小芯片，旨在位于處理器主芯片旁邊的有限空間內(nèi)。Harris 將這種方法稱為“第 2.5 代”光互連，比位于主板上處理器封裝外部的互連高出一步。

光學(xué)元件的優(yōu)勢(shì)

光子互連的優(yōu)勢(shì)在于消除了電力固有的限制，電力必須將數(shù)據(jù)移動(dòng)得越遠(yuǎn)，電力消耗的能量就越多。

光子互連初創(chuàng)公司建立在這樣一個(gè)前提之上，即必須消除這些限制，才能使未來的系統(tǒng)滿足即將到來的人工智能計(jì)算需求。Harris 說，數(shù)據(jù)中心中的許多處理商需要同時(shí)處理一項(xiàng)任務(wù)。但是，他補(bǔ)充說，用電在它們之間移動(dòng)數(shù)米的數(shù)據(jù)“在物理上是不可能的”，而且成本高得令人難以置信。

“對(duì)于數(shù)據(jù)中心的用途來說，電力要求越來越高，”Harris 繼續(xù)說道。他聲稱，通道可以使數(shù)據(jù)中心使用六分之一到二十分之一的能源，并且隨著數(shù)據(jù)中心規(guī)模的增長(zhǎng)，效率會(huì)提高。然而，他說，光子互連帶來的節(jié)能并不會(huì)導(dǎo)致數(shù)據(jù)中心總體功耗降低。它們沒有減少能源使用，而是更有可能消耗相同數(shù)量的電力，只是在要求更高的任務(wù)上。

AI 推動(dòng)光互連

Lightmatter 的金庫(kù)在 10 月通過一輪 4 億美元的 D 輪融資而增長(zhǎng)。TechInsights 的分析師 James Sanders 說，對(duì)優(yōu)化處理器網(wǎng)絡(luò)的投資是“不可避免”趨勢(shì)的一部分。

2023 年，10% 的服務(wù)器出貨量實(shí)現(xiàn)了加速，這意味著它們包含與 GPU 或其他 AI 加速 IC 配對(duì)的 CPU。這些加速器與 Passage 旨在配對(duì)的加速器相同。TechInsights 預(yù)測(cè)，到 2029 年，三分之一的服務(wù)器出貨量將加速。投入光子互連的資金押注它們是從 AI 中獲利所需的加速器。