AI原生時代，云上究竟需要怎樣的“操作系統”？

文 | kiki

在全世界都為大模型和AI興奮與瘋狂的當下，一場關于中間層的隱秘戰爭卻在悄悄打響。

微軟已將OpenAI的大模型技術和自身AI能力加速整合進Windows系統和Microsoft Azure中。在推出多種AI功能集成的Android 14后，谷歌又在近日發布Android 15 beta版。另一邊的造車失敗的蘋果也被曝出iOS 18將推出首批AI功能。

一個AI原生時代的操作系統應該長什么樣？全球科技巨頭們都開始圍繞這一問題給出自己的答案。

縱觀科技史的發展，軟硬件相互協同是核心主線。而被稱為“軟件之魂”的操作系統，向上連接開發者，為其提供接口與環境，向下連接底層軟硬件資源，始終發揮基石作用，因此其創新與迭代也一直都備受關注。

但擺在各大科技公司面前的是一道“既要又要”的全新OS難題：一方面，面向開發者，如何將自身的底層技術能力進行抽象與封裝，提升開發者的開發效率；另一方面，面向行業和產業，又如何進一步讓全新OS發布基石作用，激活產業生態，讓大模型真正落地千行百業？

1、AI原生時代，所有操作系統都值得用AI重做一遍

早在2017年，“Android之父”安迪·魯賓就曾放出預言：“AI是下一個重要操作系統?！?/p>

從PC年代到移動互聯網時代再到以大模型技術為引領的AI原生時代，類似的預言并不在少數。百度集團執行副總裁、百度智能云事業群總裁沈抖也有類似的觀點：“我們需要一個全新的操作系統，對新的計算平臺，也就是智能計算，做好抽象和封裝，重新定義人機交互，為開發者提供更簡單、更流暢的開發體驗?！?/strong>

換句話說，當下，在AI原生時代，所有的操作系統都值得用AI重做一遍。

這并非是“科技暴論”，背后的原因有三點：

一是人機交互的方式變了，未來人人都是開發者。操作系統與編程語言緊密聯系，如Unix系統與C語言的相互成就。但在大模型時代，變成不需要從C語言學起，而只需要從自然語言開始，編程不再是面向過程、面向對象，而是直接面向一個人的個性化需求。在軟件開發范式的變革下，操作系統當然也需要變得更懂人心。

二是操作系統的“內核層”變得更加復雜。如果將操作系統比作飛機，“內核”就是發動機。在過去“發動機”的底層硬件主要以CPU通用算力為主，但在AI浪潮下，逐步轉變為GPU主導的智能算力，同時在軟硬件外，“發動機”還多了一項新資源——大模型壓縮世界知識。資源越發復雜下，自然需要操作系統新的內核創新。

三是大模型技術的加速進化也在呼吁操作系統自身的迭代。

從操作軟件發展歷史來看，Unix系統的出現是因為通用計算機，Winodws的出現則是因為VGA圖像顯示卡，Android/iOS的出現則是因為智能手機，硬件技術的發展是操作系統技術更新換代的根本原因。

但如今，大模型浪潮下，開發門檻的降低，利用大模型不需要寫代碼完成軟件的開發已不再是“童話故事”，未來隨著AI原生應用的爆發，“軟件定義一切”步伐加速，人們站在軟件創新引領硬件創新的一個時代性的拐點上，行業也在見證和呼喚作為“軟件之魂”的操作系統自身的快速迭代。

新的時代變化、新的編程交互、新的內核變化，無疑呼喚全新的操作系統。作為大模型訓練和推理的基礎設施，最先受益這股浪潮的云廠商們也在爭搶這張船票。不久前的2024百度CreateAI開發者大會上，百度智能云也發布了全新一代智能計算操作系統——“萬源”，掀起了AI原生時代的OS新革命。

2、智能時代的OS，萬源有“兩變”

但操作系統的研發從來不是一場簡單的游戲。

AI原生時代，對操作系統的創新，其難度不亞于是一次重構，對云廠商而言，其最大挑戰往往集中在兩個方面：

一是相較于傳統云計算，算力資源正在從以CPU為主走向以GPU為主，操作系統需要超大規模的異構算力集群上部署與管理大模型或AI原生應用，如何更好地屏蔽底層云原生系統與異構算力的復雜性，保證操作和運行環境的安全性、靈活性和穩定性，這是一大挑戰。

二是對開發者而言，特別在大模型時代，如何降低模型調用的成本，提升開發體驗，真正實現“模型靈活調用-應用極簡開發”的正向飛輪，這無疑考驗技術廠商們的綜合實力。

并非所有云廠商都具備掀起變革的能力，變革者必須具備兩個基礎條件：第一，在“AI+云”有足夠深的沉淀。二是，是大模型時代頭部陣營的玩家。

百度智能云符合上述兩大條件，一方面，百度是國內最早落地大模型技術科技企業，另一方面，區別與其他云廠商，“AI原生云”也是百度智能云的差異化優勢。

在此土壤上誕生的“萬源”是如何破局的？

“萬源”所做的第一個改變，就是讓系統內核這一“發動機”由重變輕，將模型和算力資源發揮到極致。

“萬源”內核包含算力和模型兩部分，其中在模型側充分發揮百度“模型超級工廠”的能力?！叭f源”既包括了百度強大的基礎模型ERNIE 4.0和ERNIE 3.5，還有輕量級模型ERNIE Speed、Lite、Tiny等，除此以外，還提供了文心視覺大模型和各具特色的第三方大模型。豐富的模型，可滿足用戶在不同業務場景下多元化的模型需求。

而在算力層，高效算力不是堆卡堆出來的，盡管如今業內動輒千卡、萬卡集群訓練大模型，但也存在著大量的算力浪費。比如，OpenAI訓練GPT-4在大約25000個A100上訓練了90到100天，利用率也僅僅在30%左右。

在算力利用率方面，百度百舸AI異構計算平臺交出了一份領先行業的答卷。目前，百舸在萬卡集群上提供有效訓練時長達到98%，帶寬有效利用率達到了95%。

除此以外，在芯片供應充滿不確定性的特殊背景下，“萬源”還做到了“一云多芯”。

想要實現“一云多芯”并不容易，特別是在模型訓練環節，“一云多芯”是極難攻克的問題，對云廠商的技術能力、工程化能力、生態能力等提出了很高的要求。一位業內人士稱：“云OS對于不同芯片、芯片架構和應用軟件的兼容，是一個龐大的全生態的工程?！?/p>

有業內人士告訴「硅基研究室」，在模型訓練上，“一云多芯”的部署和落地難點主要體現在兩個細分場景上：一是，在智算集群中，往往存在多個訓練任務，但單一廠商芯片只服務單一任務，實現異構資源的統一調度和互聯互通，難度很大。二是，在每個獨立的模型訓練任務中，如果想要同時使用不同廠商的芯片，這就需要解決各家廠商芯片算力均勻切分、芯片間通信效率優化等問題。

憑借在“一云多芯”的多年投入，目前百舸不僅兼容了昆侖芯、昇騰、海光DCU、英偉達、英特爾等國內外主流AI芯片，還實現了單一訓練任務下不同廠商芯片的混合訓練。而在備受關注的資源效率利用上，百舸也領先行業，百卡規模性能損失不超過3%，千卡規模性能損失不超過5%。

不難看出，“一云多芯”將是未來成為云廠商的核心能力，一方面幫助用戶減少了對單一芯片的依賴，能為用戶在復雜應用場景及業務需求下，提供更精準的算力供給，節約成本。另一方面，“一云多芯”其實最大程度降低了用戶在算力選擇上的風險，這本質上也是提升了業務的穩定性與靈活性。

在此基礎上，萬源所做的第二個改變，就是面向廣大開發者，讓應用開發由復雜到簡單。AWS CTO Werner Volgels曾提過一個有趣的觀點：“All The Code You Ever Write Will Be Business Logic（你編寫的所有代碼都將是業務邏輯）”。

某種程度上，這其實揭示了操作系統未來發展的一個方向——所有的操作系統都應是以人為本的，開發者他們只需要關心業務邏輯，不用關心基礎設施，也不用關心開發工具鏈。

將復雜留給自己，將更優的體驗留給開發者，萬源的Shell層的百度智能云千帆 ModelBuilder和工具層的千帆AppBuilder和AgentBuilder正延續了這一底層邏輯。

Shell層中的千帆ModelBuilder可屏蔽模型開發的復雜性，更多的人可以低成本、高效能的方式快速精調出適合自己業務的模型。ModelBuilder同樣關注實際應用中的“效價比”，以ModelBuidler提供的模型路由服務為例，能自動為不同難度的任務選擇合適參數規模的模型，在模型效果基本持平的情況下，模型路由平均降低推理成本多達30%。

在工具層，AppBuilder和AgentBuilder是開發者開發 AI 原生應用的兩大利器，前者面向App快速開發，后者則是貼近普通人生活場景的智能體開發工具。

以AppBuilder為例，最快只需三步，開發者不需輸入代碼，就可以用自然語言開發出一個AI原生應用，而且能夠便捷地發布，直接集成到自己的系統和業務環境中，真正做到極速開發、輕松上市。

3、生態之戰，應用優先

生態，是操作系統最重要的競爭要素。

縱觀全球操作系統巨頭，無不是依靠“生態之戰”構建，發揮協同優勢，無論是產業上下游間的聯合，如Windows和Intel的綁定，還是軟硬件的協同，如iOS 和 iphone 的綁定， 抑或是選擇開源戰略吸引用戶，如Android 和 Redhat。

用最直接的話來說，AI原生時代，操作系統做得再好，如果不能落地具體應用，沒有生態伙伴和開發者的支持，用不起來，也就發展不起來。

百度是國內大模型玩家中對“應用落地”最重視的企業，百度創始人李彥宏曾多次強調，大模型本身并不直接創造價值，基于大模型開發出來的AI應用才能滿足真實的市場需求。

百度智能云無疑也是最關注企業和行業大模型落地場景和應用效果的云廠商之一。沈抖曾明確表示：“大模型時代，真正給企業帶來價值的，是使用大模型的深度和打磨AI原生應用的速度?！?/strong>

強調應用落地，讓大模型用起來，生態成了不可忽視的一環。

百度智能云的解法是，攜手行業頭部伙伴，探索大模型應用的新范式。

百度智能云就和榮耀在MagicOS上做了一次“端云協同”的新嘗試。在AI大模型的浪潮下，手機已成為AI落地的主要戰場之一。但如何既能準確理解、分析用戶的復雜任務需求，同時又提供高效靈活的用戶體驗？

榮耀和百度智能云的“端云協同”提供了答案。

在云側，百度文心大模型為榮耀YOYO助理打造更專業的用戶服務，帶來本地化的文本創作、知識問答、生活建議等。同時，云上的“文心大模型”與榮耀平臺級端側AI大模型“魔法大模型”的能力互補，端側大模型負責理解用戶意圖，將需求轉化成更專業的提示詞，再由更強大的云端大模型給出更深入和更全面的解答。同時，在隱私保護上，“端云協同”下，端側大模型也可以做本地化防護，確保個人隱私不上云。

舉個例子，比如，當用戶在手機上提出“幫我制定健康計劃”這一需求時，榮耀“魔法大模型”會先分析用戶健康信息，自動生成具象化提示詞，再調度云端百度文心大模型的能力，為用戶生成更全面的個人定制健身計劃。

不止是與榮耀的強強聯合。截至2024年3月，百度智能云千帆大模型近6個月的合作伙伴數量增長超過500%，朋友圈不斷擴容，智能時代的云平臺生態正在快速發展，產業價值也正在加速顯現。

從這一點來看，百度智能云發布“萬源”并非是偶然，而是智能時代下云廠商迭代自身的必然。

在百度智能云的設想中，“萬源”未來將釋放更大的潛能。向上通過開發更多的能力和接口，連接賦能更多的開發者；向左，企業行業可以用“萬源”為基礎，打造垂直行業的操作系統；向右，“萬源”也可部署在企業自己的智算中心里，提供穩定、安全、高效的智能計算環境；向下，則將適配更多的芯片，為開發者隱去異構集群的復雜性，讓不同的芯片發揮最大的效能。

云計算行業發展至今，中國云廠商從卷價格、卷產品到卷服務，究竟還有沒有新創新？這是一個時常會被問的問題。百度智能云“萬源”從一個新角度回答了這一問題：一個新的時代，需要一個新的操作系統，一個新的技術體系，也唯有如此，才能為行業帶來新可能與新想象。