百度智能云發(fā)布3款輕量級(jí)大模型，升級(jí)AI應(yīng)用開(kāi)發(fā)平臺(tái)AppBuilder

3月21日，百度智能云召開(kāi)千帆產(chǎn)品發(fā)布會(huì)，發(fā)布包括ERNIE Speed、ERNIE Lite、ERNIE Tiny在內(nèi)的三款輕量級(jí)大模型，宣布升級(jí)產(chǎn)業(yè)級(jí)AI原生應(yīng)用開(kāi)發(fā)平臺(tái)千帆AppBuilder，大幅降低AI原生應(yīng)用開(kāi)發(fā)門(mén)檻，提升開(kāi)發(fā)效率。

ERNIE Speed、ERNIE Lite、ERNIE Tiny，參數(shù)量由大到小，分別適用于在特定場(chǎng)景作為基座模型進(jìn)行精調(diào)，兼顧模型效果與推理性能并搭載低算力AI加速卡進(jìn)行推理，適配極致低成本和低延遲應(yīng)用。

此外，百度智能云ModelBuilder還基于百度自身業(yè)務(wù)沉淀，推出了ERNIE Character和ERNIE Functions兩款垂直場(chǎng)景大模型，分別適配客戶在角色扮演類應(yīng)用場(chǎng)景（如游戲NPC、客服對(duì)話等）、工具調(diào)用場(chǎng)景（對(duì)話中使用外部工具、調(diào)用業(yè)務(wù)函數(shù)等）中的不同使用需求。企業(yè)無(wú)需再額外精調(diào)，可直接應(yīng)用專有模型來(lái)開(kāi)發(fā)智能助理。

升級(jí)后的AppBuilder底層由基礎(chǔ)組件和高級(jí)組件構(gòu)成，總數(shù)多達(dá)55個(gè)。作為基礎(chǔ)組件的代表，全新發(fā)布百度向量數(shù)據(jù)庫(kù)VDB1.0，幫助企業(yè)輕松管理數(shù)以千萬(wàn)計(jì)的文檔知識(shí)，最大支持百億向量存儲(chǔ)規(guī)模、秒級(jí)的向量檢索速度，相比同類型開(kāi)源產(chǎn)品，VDB1.0性能最高提升10倍。

AppBuilder預(yù)置的Agent（智能體）應(yīng)用框架，具備精準(zhǔn)的任務(wù)自主規(guī)劃能力，對(duì)多種應(yīng)用工具的自動(dòng)編排準(zhǔn)確率超過(guò)90%。同時(shí)，支持開(kāi)發(fā)者接入自定義工具，通過(guò)將自動(dòng)編排與手動(dòng)編排相結(jié)合，實(shí)現(xiàn)更復(fù)雜場(chǎng)景應(yīng)用的需求定制。代碼解釋器作為Agent框架內(nèi)的核心能力，大幅提升40%的性能、在數(shù)據(jù)分析場(chǎng)景的生成結(jié)果可接受度高達(dá)95%。

面向零代碼態(tài)開(kāi)發(fā)，升級(jí)后的千帆AppBuilder最快三步即可完成Agent應(yīng)用構(gòu)建（一句話生成應(yīng)用、應(yīng)用適配自動(dòng)優(yōu)化、多渠道一鍵發(fā)布）。開(kāi)發(fā)完成后，應(yīng)用可多渠道分發(fā)與集成，AppBuilder支持將應(yīng)用一鍵分發(fā)到微信客服、微信公眾號(hào)、Web端/H5及百度靈境矩陣等主流渠道。基于百度靈境矩陣，應(yīng)用可在百度搜索、百度信息流等主流場(chǎng)景分發(fā)與掛載。真正實(shí)現(xiàn)應(yīng)用開(kāi)發(fā)出來(lái)后，就直接觸達(dá)用戶，打通從AI原生應(yīng)用創(chuàng)建到開(kāi)發(fā)再到分發(fā)的全流程。

百度副總裁謝廣軍表示，千帆大模型平臺(tái)發(fā)布一周年以來(lái)，已經(jīng)累計(jì)服務(wù)超過(guò)8萬(wàn)家企業(yè)用戶，累計(jì)幫助企業(yè)用戶精調(diào)1.3萬(wàn)個(gè)大模型，基于千帆平臺(tái)開(kāi)發(fā)的應(yīng)用數(shù)超過(guò)了16萬(wàn)個(gè)。

“千帆平臺(tái)自發(fā)布以來(lái)一直保持高速增長(zhǎng)，跟去年12月比，千帆的日均調(diào)用量季度環(huán)比增長(zhǎng)了97%，翻了近一倍。千帆平臺(tái)服務(wù)客戶數(shù)突破了8萬(wàn)，最近一個(gè)月就增長(zhǎng)了近1萬(wàn)。”謝廣軍表示：“從這些數(shù)據(jù)可以看到，大模型已經(jīng)真正進(jìn)入到了快速增長(zhǎng)的階段，2024年將成為國(guó)內(nèi)大模型產(chǎn)業(yè)應(yīng)用爆發(fā)的元年。”

不過(guò)，謝廣軍表示，去年一整年在和企業(yè)的接觸中發(fā)現(xiàn)，大模型真正實(shí)現(xiàn)產(chǎn)業(yè)化落地還面臨：落地場(chǎng)景需要探索、如何大幅降低大模型訓(xùn)練和推理成本、如何大幅降低應(yīng)用開(kāi)發(fā)門(mén)檻、如何提升應(yīng)用效果4大挑戰(zhàn)。