百度發(fā)布多款A(yù)I原生云產(chǎn)品，侯震宇稱大模型正在重構(gòu)云計算

12月20日，在2023百度云智大會·智算大會上，百度一口氣發(fā)布了AI異構(gòu)計算平臺“百舸3.0”、智算網(wǎng)絡(luò)平臺、自研云原生數(shù)據(jù)庫GaiaDB 4.0等新產(chǎn)品。

其中，百舸3.0針對AI原生應(yīng)用以及大模型的訓(xùn)練、推理等環(huán)節(jié)進行了全面的專項優(yōu)化升級。支持萬卡級別超大規(guī)模AI集群計算；相比自建智算基礎(chǔ)設(shè)施可以實現(xiàn)模型訓(xùn)、推吞吐分別最高提升30%和60%；在資源利用方面，能夠?qū)崿F(xiàn)98%的超高集群有效訓(xùn)練時間占比，95%的網(wǎng)絡(luò)帶寬有效利用率，充分釋放集群有效算力。

智算網(wǎng)絡(luò)平臺針對AI原生時代智能算力的供給平衡問題，支持將百度及第三方建設(shè)的智算中心、超算中心、邊緣節(jié)點等智算節(jié)點進行全域接入，將分散和異構(gòu)的算力資源連接起來，形成統(tǒng)一的算力網(wǎng)絡(luò)資源池，再通過百度自主研發(fā)的先進算力調(diào)度算法，智能分析各類算力資源的狀態(tài)、性能和利用率等指標(biāo)進行統(tǒng)一調(diào)度，能夠有效提升智算產(chǎn)業(yè)資源利用率。

云原生數(shù)據(jù)庫GaiaDB 4.0增強了并行查詢能力，突破單機計算瓶頸，實現(xiàn)跨機多核并行查詢，在混合負載和實時分析業(yè)務(wù)場景中性能提升超過10倍。

百度集團副總裁侯震宇強調(diào)，AI原生時代，面向大模型的基礎(chǔ)設(shè)施體系需要全面重構(gòu)，為構(gòu)建繁榮的AI原生生態(tài)筑牢底座。

侯震宇表示：“大模型重構(gòu)云計算主要體現(xiàn)在三個層面：AI原生云將改變云計算的格局，MaaS ( Model as a Service ，模型即服務(wù)）會成為新的基礎(chǔ)服務(wù)，AI原生應(yīng)用催生新的研發(fā)范式。”

1、在算力層，計算更智能

在底層的云基礎(chǔ)設(shè)施層，以往從互聯(lián)網(wǎng)應(yīng)用到移動互聯(lián)網(wǎng)應(yīng)用，底層都基于CPU計算芯片，而AI應(yīng)用對GPU或異構(gòu)計算的需求大幅增加，云市場的底層算力開始遷移到以GPU為主。

2023年第三季度，英偉達的營收已經(jīng)超過英特爾，英偉達最新市值也超過英特爾1萬億美元，未來GPU的增長將遠大于CPU。在這一趨勢下，我們需要對面向大模型的云計算基礎(chǔ)設(shè)施體系進行全面重構(gòu)，以支撐AI原生應(yīng)用系統(tǒng)落地。

具體來說，云計算的全面重構(gòu)會表現(xiàn)在三大領(lǐng)域，即：面向模型的智算基礎(chǔ)設(shè)施、面向數(shù)據(jù)的數(shù)據(jù)基礎(chǔ)設(shè)施、面向應(yīng)用的云基礎(chǔ)設(shè)施全面升級，讓計算更智能。

2、在模型層，大模型正在成為通用的服務(wù)能力，即MaaS

MaaS將大幅降低Al落地的門檻、實現(xiàn)真正的Al普惠，其依賴的新型IT基礎(chǔ)設(shè)施也將進一步在底層顛覆現(xiàn)有的云計算市場格局。

從百度智能云的實踐來看，自8月31日文心一言全面開放后至今的4個月，百度智能云千帆大模型平臺（百度智能云推出的MaaS平臺）上，API日調(diào)用量增長10倍，客戶主要來自互聯(lián)網(wǎng)、教育、電商、營銷、手機、汽車等各行業(yè)。可以明顯看到，最近半年，已經(jīng)有很多企業(yè)真正把大模型用起來了。

3、在應(yīng)用層，應(yīng)用開發(fā)的范式已經(jīng)被徹底顛覆

大模型理解、生成、邏輯、記憶的獨特能力會催生A原生應(yīng)用研發(fā)新范式，整個應(yīng)用技術(shù)棧、數(shù)據(jù)流和業(yè)務(wù)流都將被改變。

原先基于CPU的應(yīng)用開發(fā)主要是業(yè)務(wù)邏輯驅(qū)動，傳統(tǒng)的AI研發(fā)需要針對每一個獨立場景獲取數(shù)據(jù)，再分別從頭訓(xùn)練模型。而現(xiàn)在AI原生應(yīng)用主要基于大模型能力，以數(shù)據(jù)驅(qū)動開發(fā)。企業(yè)可直接在基礎(chǔ)大模型之上，利用場景數(shù)據(jù)微調(diào)出專屬大模型，再用模型能力設(shè)計AI原生應(yīng)用，無需從頭訓(xùn)練大模型。隨著企業(yè)業(yè)務(wù)擴大，逐漸積累出更多有競爭力的場景數(shù)據(jù)，進而反哺模型和應(yīng)用效果提升，從而形成數(shù)據(jù)飛輪。

具體來說，大模型驅(qū)動的AI原生應(yīng)用研發(fā)新范式展現(xiàn)出幾個新變化：

首先是“新場景”。生成式大語言模型，在理解、生成、推理、記憶等多維度展現(xiàn)出超預(yù)期的能力，帶來了智能涌現(xiàn)，由此催生了很多新的可落地的業(yè)務(wù)場景應(yīng)用，如個人助理、智能文案創(chuàng)作、GBI（智能商業(yè)分析）、編碼助手等。

第二是“新架構(gòu)”。大模型具體在這些新場景落地的過程中，也產(chǎn)生了很多新的系統(tǒng)架構(gòu)，如檢索增強生成RAG，智能體Agent 等。

第三是“新開發(fā)生態(tài)”。以大模型為核心，開發(fā)者工具層也出現(xiàn)了一些新工具，包括編排工具LangChain、AI應(yīng)用開發(fā)工具PromptFlow、數(shù)據(jù)框架Llamalndex等。
侯震宇表示，總體來說，構(gòu)建繁榮的A原生應(yīng)用生態(tài)，需要大模型、智能算力、
AI原生應(yīng)用研發(fā)新范式三要素相輔相成。大模型是AI原生應(yīng)用的“大腦”，智能計算則為AI原生應(yīng)用運行提供堅實支撐，新研發(fā)范式助力開發(fā)者高效基于大模型能力開發(fā)應(yīng)用。數(shù)據(jù)飛輪是成功的AI原生應(yīng)用的充分必要條件，讓大模型能力高速迭代，產(chǎn)品體驗持續(xù)進步。

“我相信，真正非常閃耀的AI原生應(yīng)用會在2024年誕生。”侯震宇說。