人工智能大模型年代需要什么樣的操作系統？紅帽給出了當下更好的回答

AI大模型從ChatGPT3.5問世以來取得了革命性突破。大語言模型通過深度學習算法和大量數據訓練，具備創造出高質量的文本、圖片、視頻等新內容的能力，為腦力勞動帶來了創新與效率的雙重提升。

而AI新時代的到來，也為操作系統帶來更多挑戰。目前市面上缺少AI原生的操作系統，操作系統對大模型的嵌入深度和廣度，還遠未達到AI大模型的應用水平。

紅帽最新的工作，則是對人工智能大模型的理解，以及對于使用者的支撐。

一、操作系統的演進路線

大型機到個人電腦時代，Windows操作系統搭配Intel的X86架構處理器，憑借其相對友好的圖形用戶界面、強大的辦公套件、互聯網瀏覽等殺手級應用，極大地降低了電腦使用的門檻，標志著個人電腦時代的正式到來。

個人電腦到智能手機時代，傳統的PC操作系統無法滿足新應用場景，蘋果iOS系統以其封閉而優化的生態，以及谷歌Android系統以其開源、可定制性強的優勢，結合Arm架構低功耗、小體積的特點，共同引領了智能手機發展。

AI大模型時代，操作系統需更好支持大規模數據處理、模型訓練和高效推理，應具備高度集成的AI服務框架、高效的異構計算調度、動態資源管理、優秀的數據安全機制以及跨平臺的兼容性。

二、AI大模型年代的操作系統應該具備哪些特征？

●   高度集成的AI服務。操作系統應內嵌AI服務平臺，原生支持主流AI框架、集成API，使開發者能夠通過簡單的接口調用，快速實現自然語言處理、圖像識別、聲音分析等多種復雜功能。

●   異構計算支持與優化。大模型對算力要求高、突發性強，操作系統需整合異構計算架構，通過智能調度算法動態分配任務，確保在不同的硬件平臺上都能發揮最大效能。系統也應支持不同類型的優化算法，減少計算延遲，提升能效比。

●   跨平臺與多設備協同。操作系統應具備強大的跨平臺能力，實現邊緣計算到云計算資源的靈活調度，確保AI大模型應用能在電腦、手機、服務器等多種設備高效運行。

●   生態開放與標準化。操作系統應建立開放的標準和API，推動第三方開發者和云服務提供商廣泛參與，形成繁榮的生態系統，促進技術創新。

●   增強的數據安全與隱私保護機制。大模型涉及大量敏感數據，如公司機密信息、個人隱私信息等，若本地算力不足還需接入云端處理。因此，操作系統需集成數據保護技術，確保數據傳輸存儲安全，并建立嚴格的數據訪問控制體系。

紅帽的OpenShift平臺就滿足了以上大部分需求。

●   AI服務集成方面，OpenShift內置DevOps功能，使MLOps能夠加快交付AI驅動型應用，并簡化集成ML模型和持續重新部署以提高預測準確性的迭代流程。包括OpenShift Build、OpenShift Pipelines、OpenShift GitOps用于構建應用、迭代開發及自動化部署。

●   算力優化方面，OpenShift通過紅帽認證GPU operator，集成了流行的硬件加速器，從而可以無縫地滿足高計算資源要求，幫助選擇最佳 ML 模型以提供最高預測準確性，并在模型在生產中遇到新數據時協助ML推理工作。

●   跨平臺方面，OpenShift包含多項關鍵功能，可以跨數據中心、公共云計算和邊緣計算以一致的方式實現機器學習運維（MLOps）。

●   生態方面，紅帽的開放混合云平臺整合了容器、Kubernetes、DevOps等技術與實踐，由廣泛的合作伙伴提供支持，幫助開發者為生產就緒型AI/ML 環境構建堅實的基礎，同時提供AI云服務和快速采用培訓。

三、本地化部署AI大模型可能是第一步

（1）為什么大模型需要本地化部署？

●   數據安全合規。金融、醫療、IT、工業等行業AI大模型應用中，私有化部署將確保數據存儲與處理均在企業防火墻之內，符合歐洲GDPR、美國加州CCPA等數據保護法規要求，防止數據外泄風險。

●   行業專屬模型。私有化部署AI大模型，企業能根據自身業務流程和市場需求定制AI功能，加速產品和服務的創新。如模型微調、新算法快速測試部署、與現有IT系統深度集成，促進AI技術與業務深度融合。

●   長期成本效益。長期來看，私有化部署可以降低云服務費用，特別是在數據處理量巨大或模型頻繁使用的情況下，成本效益更為明顯。

（2）大模型應該怎么私有化部署？

AI大模型本地化部署全套服務的成本較高。授權費用通常包含模型使用權、技術支持與維護等服務，加上必要的硬件投資，總體開銷不容小覷。

圖片來源：智譜AI開放平臺

考慮到成本控制的需求，企業可以選擇一種更為經濟靈活的路徑——采用開源大模型加定制化部署服務的模式。

LLAMA、Qwen等提供開源預訓練模型，企業按需選擇合適的模型二次開發和微調。通過第三方技術服務商，企業獲得模型選型、部署到后期運維的一站式解決方案，享受開源成本優勢，確保系統穩定運行。

——紅帽就提供了本地化部署和服務的商業模式。

紅帽OpenShift提供了一個適合AI工作負載的可擴展應用平臺，并以主流的硬件加速器來加以完善。加拿大皇家銀行與紅帽、英偉達合作，內部交付AI私有云功能，推動企業IT技術進步的同時，也保障了數據的隱私。

四、端云結合，可能是未來AI大模型操作系統的重點方向

大模型本地化部署面臨算力瓶頸問題，訓練效率與推理性能受限。需在模型性能上妥協，以適應有限的計算資源。

云平臺是AI大模型訓練和推理的理想場所，可結合高算力訓練、優化、運行參數量更大的模型。此外，云平臺還可以接入自然語言理解、圖像識別、視頻分析等API，可調用服務實現功能的快速集成。

此外，隨著阿里云、火山引擎等國內大廠相繼推出大模型降價甚至免費的策略，大大降低了企業和開發者接入高質量AI服務的門檻。

圖片來源：阿里云大模型服務平臺百煉

面向未來，AI大模型需端云結合。端側私有化部署，減少數據延遲，減少敏感數據傳輸，增強隱私保護和數據安全性。云端進行模型訓練、更大參數模型推理，結合各種接口開發應用，并基于端側新數據迭代優化模型，持續迭代優化。

紅帽的AI端云協同的平臺OpenShift ，可以跨公共云、本地、混合云或邊緣架構提供一致體驗。可以跨數據中心、公共云計算和邊緣計算以一致的方式實現機器學習運維。通過應用 DevOps 和 GitOps 原則，企業可以自動化并簡化將機器學習模型集成到軟件開發、生產、監控、再訓練和重新部署的迭代流程。

總結

AI大模型的浪潮不僅推動了技術邊界的拓展，也對傳統操作系統提出了新的挑戰。當前市場上，真正意義上的AI原生操作系統尚屬空白，處理大模型所需的高效數據流轉、異構資源調度、以及模型生命周期管理等方面的能力存在局限。

紅帽作為開源操作系統解決方案的領導者，正探索將AI大模型更深融入操作系統。他們一方面理解AI大模型的技術特性與應用需求，包括模型架構、訓練與推理的優化策略，如何利用端側和云端的資源；同時，構建面向用戶的支撐體系，簡化開發者、運維人員在操作系統層面上，集成、部署、監控AI大模型的流程，提供一套易用的工具鏈和框架，快速實現AI大模型的價值轉化。基于此，紅帽旨在打造更智能、靈活的操作系統，最大限度地釋放AI技術的生產力。

關于作者

劉延

關注硬科技、數碼等領域。知乎優秀答主。