生產力場景的應用爆發，需要什么樣的新型AI基礎設施？

文：董指導

本期要點

#人工智能#AI#AI Infra#Agent#百度

風風火火的AI浪潮，已經進行近兩年了。雖然仍有擔憂與質疑，但種種跡象表明，趨勢已不可逆轉。在海外，可以看到AppLovin、Palantir等公司，因著AI的應用帶來業績和市值的增長。在國內，百度也在率先提出，AI應用已經來了。

AI應用爆發，已經漸行漸近。因而，也有個問題需要思考：

如果說豐富的應用，如茂密的森林；那么，孕育森林的生態系統應該是什么樣呢？

01 企業級應用，如何高效開發？

AI應用，除了在C端提供各類有趣高效的工具之外，要形成真正的浪潮，也必須可以為企業提供生產級的服務。只有進入到企業的業務流里，才能成為企業提升競爭力的關鍵要素。

因此，這些AI應用，更嚴格點說，是“企業級”應用，可靠、穩定、安全、高效。所謂，好馬配好鞍。這些企業級應用，又要求支撐應用開發的平臺，也應該是“企業級”的。

Agent被稱為AI應用落地的最佳形式。能否快速開發一個好用的Agent，就是檢驗開發平臺的重要指標。百度智能云千帆大模型平臺，提供了豐富的工具鏈，用戶只需要進行一些簡單操作就可以生成Agent。

在世界大會上，千帆平臺發布了工作流Agent。面向的正是企業的剛需---流程智能化。流程，對每家企業而言都是必不可少的。越專業、越復雜的工作，就越需要流程來保障。針對流程提效，可以說是“事半功倍”。

工作流Agent，基于大模型強大的意圖理解和泛化能力，可以像行業專家一樣，無論面對多么復雜的局面，總能做出明智決策并最終完成目標。

比如，在車險領域，售前流程非常復雜，如果培養一個金牌銷售，至少需要一兩年。但基于千帆平臺，只需要一個小時，就能生成一個熟練掌握售前寶典的智能體。而且可以集成到微信公眾號、官網或業務系統等任何需要觸達用戶的地方，大幅提升企業效率。

Agent是“立等可取”，但許多行業應用需要“定制開發”。

為了達到更專業效果，需要深入模型層，做行業模型或者場景模型的定制。然而，從頭訓練模型，則面臨成本高、周期長的問題，而且效果也未必好。不妨在千帆平臺上，對預訓練好的模型進行精調。

小，未必不如大。在參數規模較小的模型上，只需要幾小時、完成精調，就會發現，效果，比參數規模大很多的基礎模型還要好。這也充分說明，質量和規模，一樣重要。

為了更加便于用戶使用，千帆平臺上線了DPO、KTO等訓練方法，也提供了業內獨家的高質量通用語料數據，以及開箱即用的模型精調樣板間。

比如全診醫學是一家醫療AI創新公司，他們打造了一款AI智能醫療助理，用20萬份精標病例數據進行了模型精調，從而讓病例生成的準確度提升了45%。

然而，如果沒有足夠的人工精標數據該怎么辦？

千帆平臺也提供了模型蒸餾解決方案。在實踐中，比如數字人直播，可以實現只用旗艦級模型成本的10%，卻提升效果5倍。

對于企業而言，要快速，有立等可取；要定制，有工具、有數據，還有精調、蒸餾等低成本方案。應用開發，不再是高門檻的事兒。

02 自研企業級應用，輕松集成

如果不想做應用開發、或者能力還不夠，有沒有更低門檻的方案呢？當然有。

千帆也發布了曦靈數字人平臺4.0、客悅智能客服平臺、文心快碼、百度GBI、一見、甄知等多個成熟“應用樣板間”，每個都是開箱即用、可以輕松集成、快速上手。

比如，曦靈4.0，不但可以一句話生成符合不同行業場景特色的3D數字人形象，還可以讓這些數字人動起來、生成專業靈動的視頻。

這個功能正當其時。因為在電商領域，短視頻是品牌“種草”和轉化的有效方式。但視頻內容的制作難度、成本并不低，因此很多店鋪往往只有少數主推商品才能配短視頻。即使有好的銷售方式，也有心無力。

現在，有了大模型和數字人，短視頻的制作周期，可以從幾天壓縮到分鐘級。用戶只需要輸入一些需求文字給曦靈即可。而且曦靈不僅滿足品牌的需求，也嚴格遵循品牌的內容規范，展現“企業級”的標準。

曦靈的應用，不只體現在電商營銷領域，教育、文旅等行業，也可以發揮作用。更加真實、有趣的互動，可以提升學生、游客的體驗。

關于這些“應用樣板間”，我曾詢問過百度智能云同事，是否要做大做強自研應用。對于這個問題，百度智能云的回答是“只有親自走過用戶要走的路，才能設計出更懂用戶的產品”。

這些成熟應用，一方面可以加速AI應用普及，另一方面更重要的是，激發更多企業、產生更多有趣、有效的創意。畢竟，一花獨放不是春，萬紫千紅春滿園。

03 算力平臺，要高效且面向未來

如果說千帆平臺提供了森林所需的水、空氣和陽光，那么，算力平臺，就是應用爆發的土壤。而且隨著應用爆發增長，算力的成本和使用效率，就會變得更加重要，直接影響模型的創新速度、以及規模化AI應用的成本效益。

百度智能云前段時間發布了百舸AI異構計算平臺4.0。它可以支持用戶大模型全旅程算力需求，包括集群創建、開發實驗、模型訓練、模型推理。而且，不僅立足當下，也面向未來，率先具備了成熟的10萬卡集群部署和管理能力。

10萬卡能力，意味著什么呢？

首先，可以有效應對必然的“一云多芯”。一方面，國內企業在發展過程中，必然形成了多種芯片共用的局面；另一方面，在當前環境下，企業要確保供應鏈安全和彈性，也必然會采購多種芯片。因此，應對一云多芯，既可以利用資源，也可以支撐未來的擴展。

把不同型號的芯片統一管理，尤其混布成一個集群支持單一訓練任務，并不是一件容易的事。百舸目前可以在萬卡規模上，將兩種芯片混合訓練下的效率折損控制在5%以內。

其次，應對“分布式”需求。十萬卡集群，通常采用跨地域機房部署的方式，從而會面臨更長的時延、以及芯片間的傳輸帶寬等瓶頸。百舸提供了更高效的拓撲結構，可以把訓練性能折損率控制在4%以內。

百舸不僅為百度自身業務提供服務，也可以滿足公有云或者自建智算中心、初創企業或成熟企業等算力需求。

前段時間，馬斯克剛建好10萬卡的集群，未來幾個月還會擴張到20萬卡。大規模顯卡集群，勢在必行。因此，領先的集群管理能力，也是企業選擇合作伙伴的硬標準。算力資源的領先，才能更確保業務走在行業前沿。

04 結語

貝索斯提出了著名的企業增長“飛輪理論”。而AI應用的浪潮里也會如此。

當企業AI應用上線后，就會產生許多寶貴的數據。把這些數據反饋給模型后，經過持續的精調、迭代后，模型效果會越來越好，應用也會越來越好。企業的競爭優勢也會不斷增強。

這就是“數據飛輪”。千帆也是業界首個提供完整數據飛輪解決方案的大模型平臺。

算力、數據、模型、應用開發，百度智能云用全棧技術的“一站式”服務，不斷降低AI原生應用開發的門檻，打開企業應用的天花板。

而唯有此，才能為企業帶來更低成本、更高效率，讓企業更放心、安心地利用大模型，在AI浪潮里，探索業務創新。

---全文完，歡迎交流

理工/金融 復合背景，

百億私募/頭部自媒體 雙重經歷

懂商業更懂科技，前瞻發現新機遇