RISC-V的影響力越來越大

業界越來越多地談論 RISC-V 架構帶來的好處，但它甚至是正確的起點嗎？雖然它可能并不完美，但它可能會提供逐步前進所需的靈活性。

計算機架構和軟件追隨了 80 年前開發的處理器的腳步。他們的目標是使用一種基礎技術來解決順序標量算術問題，只要它有足夠的內存，就可以解決任何有限問題。

芯片行業已經表明不愿意放棄這種方法，尤其是在仍在運行 50 年前開發的軟件的行業。軟件范式和向后兼容性具有巨大的影響。編程以任何有意義的方式從單處理器遷移到多處理器架構花了幾十年的時間，直到 NVIDIA 開發了 CUDA，針對大規模并行處理器的應用程序才開始在高度專業化的應用程序之外開發。

那么，當許多應用程序的典型工作負載是數據流問題且控制量很小時，為什么該行業需要另一種 CPU 架構呢？答案在于 RISC-V 架構可以以多種方式發展，其中一些方式可能會實現緩慢遷移，而不是試圖跨越巨大的鴻溝。

幾周前，RISC-V 社區在歐洲舉行了年度峰會，展示了 RISC-V 的使用方式越來越多，以及其影響如何越來越大，尤其是在沒有很多遺留軟件阻礙它的應用領域。“RISC-V 不再只是您甚至不知道的微型嵌入式微控制器，它存在于您的產品中，”RISC-V International 首席執行官 Andrea Gallo 說。“RISC-V 已經進入了一個不同的階段。”

這得到了其他人的支持。“與往年相比，歐洲的工業與會者要多得多，”Synopsys 業務發展執行董事 Larry Lapides 說。“內容更多地來自行業，這改變了會議的基調。我們看到的是，RISC-V 開始侵入我們五年前甚至沒有預料到的地方。

Gallo 提供了幾個重大進展的例子。“英飛凌表示，他們正在將 RISC-V 用于汽車領域，”他說。“歐盟正在資助 HPC 項目和汽車項目。Meta 正在將其用于其加速器卡中的 AI。NVIDIA 估計，去年，即 2024 年，他們的 GPU 出貨量將達到 10 億個 RISC-V 內核。

其他人強調了 RISC-V 在尖端處理器方面的重大進步。“它不僅是低端處理器，而且在某些細分市場中，它還可以用作 GPU 的協處理器或加速器，”Synopsys 首席產品經理 Mohit Wani 說。“NVIDIA 在一次演示中表示，他們的產品組合中有近 30 種不同類型的功能，其中基于 RISC-V 的內核正在為這 30 多種功能工作。”

一些業務和技術障礙仍然需要克服。“汽車行業越來越多地研究 RISC-V，”Fraunhofer IIS 自適應系統工程部設計方法負責人 Roland Jancke 說。“他們一直猶豫不決，因為 RISC-V 是一種開放式架構。在汽車行業，如果出現問題，您總是需要有人責備。如果您沒有單個提供商，而是一個社區，那么這很困難。如今，由于可能降低成本，他們越來越多地關注 RISC-V，因為在汽車領域，您尋求每一分錢來降低價格。但是，您需要有一個生態系統。擁有能夠開發處理器的工具是不夠的，還有在此之上的軟件。RISC-V 正在取得進展，但在 RISC-V 處理器成為汽車領域的主力軍之前，它還有很長的路要走。

然而，并不是每個人都認為這非常值得注意。“RISC-V 不是 AI 的解決方案，不是用于訓練，不是用于推理，”Quadric 首席營銷官 Steve Roddy 說。“RISC-V 只是另一個與 Arm、x86、MIPS、Xtensa 和 ARC 處理器相同的控制 CPU。后兩者還為設計人員提供了類似于 RISC-V 且優于 RISC-V 的指令集定制能力。因此，RISC-V 沒有提供比其前身更好的技術性質。

要結合這兩種極端觀點，需要對行業的運作方式有長期的了解。“RISC-V 有能力實現 AI 發展，”Microchip Technology FPGA 部門系統架構和嵌入式解決方案高級總監 Venki Narayanan 說。“它需要那個。它在不斷發展。這些模型在學習和推理級別都在不斷發展。它需要各種數據類型、各種內存元素、本地內存，并且能夠以更快的方式進行更多的自定義計算。如果你看一下，有各種各樣的方法可以做到這一點。RISC-V 通過特定領域的架構實現了這一點。

獨特的機會
在芯片行業中，很少有沒有遺留軟件的應用出現。然而，這就是 AI 發生的事情。此外，鑒于該技術的極端發展速度，在再次被顛覆之前，任何軟件都不可能建立起來。這為持續進化和適應創造了完美的環境。

“由于沒有傳統軟件需要支持，您真的可以根據工作負載定制處理器，而忽略不需要的東西，”Synopsys 的 Lapides 說。“在架構級別，甚至在微架構級別，仍然有很多優化可以完成，設計管道、緩存和內存。而這一切都是在你開始做其他事情之前，在你開始實施之前。

RISC-V 帶來的自由度使架構自由度成為可能。“AI 加速卡可以有大量的 RISC-V 內核，甚至是同一集群中的不同內核，”RISC-V International 的 Gallo 說。“你可以有數百個小塊，每個小塊都有不同的 RISC-V 內核，有些專門用于數據移入和移出，有些專門用于推理本身和處理。然后，您有了添加自定義指令的概念，這些指令允許您擁有非常高效的張量單元。這就是 RISC-V 如何影響芯片的架構。

雖然 RISC-V 許可增加了成本優勢，但這并不是唯一的原因。“它遠不止于此，”Synopsys 的 Wani 說。“如果你看一下加速器連接到處理器的方式，就會發現它是通過一個快速的接口，而且通常是以內存映射的方式。從開發人員的角度來看，如果您想在加速器上完成工作，您可以通過接口將數據和任務信息發送到加速器，然后等待加速器將您的結果發回。

但這種通信成本高昂，而且意味著內核處于空閑狀態。“您浪費了 30% 的時間發送數據和返回結果，”Wani 說。“如果您可以本地執行這些特定作，通過您自己的矢量管道發送數據，然后直接連接到加速器，則可以避免所有這些時間。這種靈活性只存在于 RISC-V 世界中。

Quadric 的 Roddy 并不相信。“當應用于 AI 應用程序，尤其是推理應用程序時，所有控制 CPU 都受到同樣嚴重的限制，”他說。“CPU 旨在以隨機代碼追蹤指針。它們不是矩陣或張量引擎。充其量，這些 CPU 提供 vector * vector 計算吞吐量。它們受傳統加載 / 存儲帶寬瓶頸的約束。因此，每種聲稱將 RISC-V 用于 AI 的方法都必須捆綁在一個單獨的矩陣引擎中，這引入了圖形分區問題，這是基于 CPU 的方法的致命弱點。解決 AI 問題的適當創新是創建本質上經過 （matrix * matrix） 或 （tensor * tensor） 優化的架構，并打破了以 CPU 為中心的對內存緩存和推測性無序管道的依賴。

RISC-V 支持將這一部分封裝在傳統的控制處理器中。“我們的一些成員已經有了自定義張量指令，”Gallo 說。“這就是 RISC-V 的靈活性。您可以為特定工作負載開發自定義指令，然后承擔自定義特定應用程序的全部擁有成本。標準化和擴展規范也是有價值的，這樣我們就可以分擔維護編譯器、工具鏈和庫的成本。我們有 vector，我們正在研究 matrix，根據應用程序用例，將有不同的 matrix 方法。如果是加速卡，如果是 AI IoT 應用或邊緣 AI，將有不同的實現矩陣加速的方式。

由于沒有其他候選人，你得湊合著用。“數據流在 AI 和許多計算元件中非常重要，”Microchip 的 Narayanan 說。“計算需求已經增長，這需要以更節能的方式進行。這不僅僅是指令、獲取、執行和回寫的微架構。它是您組織微架構和數據流的方式。您如何傳入和傳出數據 — 尤其是從一個層傳輸到另一個層的大量數據。你不能繼續寫信給 DDR。

隨著 AI 的快速發展，需要有很大的靈活性。“需要以高效方式實現的模型類型正在增加，”Microchip AI 和通信部門負責人 Nilam Ruparelia 說。“變形金剛是 ChatGPT 需要的，這就是 AI 流行的原因，但有一整套模型比變形金剛復雜得多。這些也需要更高的性能。例如，經典的 CNN、RNN、LSTM 需要數學模塊架構、DSP 模塊架構，以便更好地適應這些變壓器或這些模型，以使性能更好。

AI 不僅僅是一個問題，靈活性仍然很重要。“AI 有多個層次，”Narayanan 說。“你有分割、對象檢測、分類、轉換器，所有這些都使用不同的數據類型。這些層是如何實現的？您如何有效地做到這一點，以及如何在層之間進出數據？這些都是你遇到的問題，這就是架構如何幫助你構建它。

它不僅包括作，還包括數據。“RISC-V 具有先天的優勢，您可以在不違反 ISA 規范的情況下制作定制硬件，”Microchip 的 Ruparelia 說。“您可以更好地處理特定數據類型，無論是在指令級別，還是在微架構中，因此您正在為該類工作負載構建自定義計算解決方案。這種靈活性在敏捷地應對新數據類型方面發揮著重要作用，在不久的將來，它們將適用于不同類別的應用程序。

但是，處理器優化未來任務的全部要求仍然未知。“如果我們要構建一個用于邊緣推理的處理器，它可能會進行分類、檢測、分割，甚至是某種轉換器，”Narayanan 說。“這些是固定層，我們知道計算元素旨在更加優化并完成這些工作流程。我們構建了一臺針對當今需求進行優化的計算機，但這并不意味著如果您有新的層、新的運算符類型或類似的東西，我們就無法做到。只是它不會像你那樣設計它那樣高效。

生態系統
生態系統一直是某些應用領域采用的主要障礙，但正在穩步取得進展。“我們將 Yocto 項目中的會員資格升級到了白金級別，”Gallo 說。“這是對生態系統的一個非常強烈的信息。Yocto 是最普遍的嵌入式 Linux 發行版。這是 Yocto 項目多年來首次添加新的 ISA、新的架構，成為白金會員意味著 RISC-V 將與其他架構相提并論。Yocto 不僅用于嵌入式 Linux、邊緣 AI IoT，還用于消費類機頂盒電視和汽車信息娛樂方面。

移動設備正在迎頭趕上。“就 Android 開發而言，Google 已將 RISC-V 打造成一等公民，”Wani 說。“隨著軟件堆棧的成熟，我們還將在移動設備、筆記本電腦等熱門領域看到入門級應用程序核心。”

當足夠多的領導者介入時，群體就會隨之而來。“Red Hat 宣布他們提供了適用于 RISC-V 的 RHEL 開發人員預覽版，”Gallo 說。“Fedora 可用于 RISC-V。去年 1 月，在歐洲的 FOSDEM 上，Canonical 透露，他們正在制定計劃，以使用 Ubuntu 支持 RVA23 配置文件。它傳達的信息是，RISC-V 已經為應用處理器和標準作系統做好了準備。

正在進行重大投資。“歐洲另一個有趣的項目是 DARE 項目，”Lapides 說。“這將在未來五年內注入 2.6 億至 2.8 億歐元。這三個主要供應商都在構建小芯片，而不僅僅是處理器 IP。一個是通用 CPU，一個是矢量加速器，一個是 AI 加速器。這些小芯片將被集成。具有新小芯片架構的 RISC-V 很有趣。

結論
RISC-V 可能不是許多應用程序的完美解決方案，尤其是與 AI 相關的應用程序，但它可以提供一條進化路徑。此外，沒有其他方法可以提供更好的選擇。

半導體行業很少有革命取得成功。通過擁有一個開放且不斷壯大的社區，他們迅速發展出他們今天需要什么、他們認為明天可能需要什么的定義，并著眼于地平線，他們可能能夠在不承擔太多風險的情況下到達他們最終需要的地方。通過采取一小步，生態系統可以跟上，并取得穩步進展。