火山引擎譚待：AI新時(shí)代——大模型、Agent與推理規(guī)模化

4月21日，2025年中國(guó)綠公司年會(huì)舉辦“人工智能”主題高級(jí)別閉門(mén)研討。火山引擎總裁譚待以《AI新時(shí)代：大模型、Agent與推理規(guī)模化》為題進(jìn)行了分享。他指出：“作為字節(jié)跳動(dòng)旗下的云計(jì)算板塊，火山引擎站在更底層的角度來(lái)看待行業(yè)的發(fā)展。”

譚待 火山引擎總裁

火山引擎是字節(jié)跳動(dòng)旗下云與 AI 服務(wù)平臺(tái)，提供抖音同款技術(shù)服務(wù)

火山引擎是字節(jié)跳動(dòng)旗下云與 AI 服務(wù)平臺(tái)，為抖音、豆包等提供技術(shù)支持，于 2020 年正式對(duì)外提供云、大數(shù)據(jù)和 AI 領(lǐng)域服務(wù)。作為云廠(chǎng)商，其優(yōu)勢(shì)在于能從底層資源消耗洞察行業(yè)發(fā)展，2021 年便意識(shí)到 AI 對(duì)云與 IT 的驅(qū)動(dòng)作用并加大投入。

火山引擎領(lǐng)跑中國(guó)公有云大模型Token用量

從 2021 - 2024 年，AI 領(lǐng)域在云資源消耗上不斷變化，從自動(dòng)駕駛應(yīng)用 Transformer 架構(gòu)，到國(guó)內(nèi)大模型和創(chuàng)業(yè)公司崛起，再到基礎(chǔ)模型訓(xùn)練及應(yīng)用發(fā)展。字節(jié)推出的豆包大模型采用多模態(tài)設(shè)計(jì)，同時(shí)發(fā)展 ToC 和 ToB 業(yè)務(wù) 。2024 年 12 月 - 2025 年 3 月，豆包日均 Token 使用量從 4 萬(wàn)億增長(zhǎng)到 12.7 萬(wàn)億，反映出模型應(yīng)用的飛速發(fā)展。根據(jù)IDC《中國(guó)公有云大模型服務(wù)市場(chǎng)格局分析》，2024 年，火山在公有云模型調(diào)用量上占比 46%，見(jiàn)證模型技術(shù)突破帶動(dòng)調(diào)用量增長(zhǎng)。

邁進(jìn) Agent 元年，模型效果和 AI 云原生是關(guān)鍵方向

2025 年及未來(lái)，模型將從感知 AI、生成式 AI 向Agent AI 發(fā)展，真正有挑戰(zhàn)的 Agent 需具備端到端處理復(fù)雜任務(wù)、多模態(tài)能力和操作工具的能力。實(shí)現(xiàn)這一發(fā)展的關(guān)鍵在于：模型要具備深度思考能力以完成復(fù)雜規(guī)劃；采用多模態(tài)處理多源數(shù)據(jù)；發(fā)展 AI 云原生架構(gòu)，使模型能操作各類(lèi)界面；實(shí)現(xiàn)推理規(guī)模化，降低 Token 使用成本，推動(dòng) AI Agent 大規(guī)模應(yīng)用。

豆包 1.5?深度思考模型，追求更好效果

火山引擎發(fā)布豆包 1.5 版深度思考模型，在數(shù)學(xué)、代碼、專(zhuān)家推理等評(píng)測(cè)集上達(dá)到全球第一梯隊(duì)水平。該模型參數(shù)設(shè)計(jì)創(chuàng)新，成本和延遲較低，具備 “邊想邊搜” 功能，可通過(guò)多輪迭代給出答案。同時(shí)，它原生支持多模態(tài)，能結(jié)合圖像和文本進(jìn)行深度思考，解決如出國(guó)點(diǎn)餐、企業(yè)流程圖分析等實(shí)際問(wèn)題。

AI 云原生，推動(dòng)面向 AI 的架構(gòu)創(chuàng)新和轉(zhuǎn)型

研發(fā) Agent ，除模型外，還需 AI 云原生組件。Agent 分為應(yīng)用類(lèi)和通用類(lèi)，開(kāi)發(fā)通用 Agent 需要強(qiáng)大的多模態(tài)深度思考模型，以及將電腦、代碼、瀏覽器等封裝成沙箱供模型操作，并通過(guò)相關(guān)框架實(shí)現(xiàn)模型在實(shí)際操作中學(xué)習(xí)。此外，模型能力提升還對(duì)安全、存儲(chǔ)、網(wǎng)絡(luò)等底層架構(gòu)提出新要求，通過(guò) AI 云原生架構(gòu)可實(shí)現(xiàn)如自動(dòng)生成營(yíng)銷(xiāo)文案等應(yīng)用。

AI 云原生 - 讓推理端到端更快、更省

隨著豆包模型使用量增長(zhǎng)，推理成本面臨挑戰(zhàn)，需對(duì)底層推理進(jìn)行優(yōu)化。通過(guò)新架構(gòu)實(shí)現(xiàn)推理端到端更快更省，同時(shí)利用通用 Agent 可 7×24 小時(shí)工作的特點(diǎn)，將部分復(fù)雜任務(wù)安排在夜間互聯(lián)網(wǎng)空閑時(shí)段進(jìn)行，這也符合中國(guó)綠公司年會(huì)倡導(dǎo)的綠色發(fā)展理念，在保證經(jīng)濟(jì)效益的同時(shí)減少碳排放。

企業(yè) AI 升級(jí)第一步？下載豆包 APP

對(duì)于企業(yè) AI 轉(zhuǎn)型，建議企業(yè)家先下載豆包 APP。因?yàn)榇竽Ｐ筒煌趥鹘y(tǒng)云、大數(shù)據(jù)技術(shù)，個(gè)人通過(guò)使用 APP 能直觀感受其在工作和生活中的作用，加深對(duì)技術(shù)的理解，從而思考如何在企業(yè)中應(yīng)用，改變以往通過(guò) PPT 匯報(bào)了解工作的方式。

2025年，CEC發(fā)起“永續(xù)發(fā)展綠色伙伴”社群，攜手各行業(yè)領(lǐng)先企業(yè)，共建年度高級(jí)別、多維度、多場(chǎng)景的高級(jí)別研討，構(gòu)建長(zhǎng)期的學(xué)習(xí)伙伴關(guān)系。

火山引擎作為首發(fā)伙伴，參與研發(fā)組織本屆綠公司年會(huì)議題，并將持續(xù)共建主題研討學(xué)習(xí)活動(dòng)。