![]()
![]()
技術(shù)發(fā)展早期,沒(méi)有浪費(fèi),就沒(méi)有進(jìn)步。但未來(lái)誰(shuí)能用更少的Token完成同樣的任務(wù),誰(shuí)就會(huì)擁有更高的利潤(rùn)空間。也會(huì)擁有更加確定的未來(lái)
文|《財(cái)經(jīng)》研究員 吳俊宇
編輯|謝麗容
2026年是Agent(智能體)真正普及的一年。隨之而來(lái)的是,Token(詞元)浪費(fèi)也正在成為技術(shù)和學(xué)術(shù)領(lǐng)域被廣泛討論的新問(wèn)題。
今年4月,小米MiMo大模型負(fù)責(zé)人羅福莉在社交媒體X(Twitter前身)上發(fā)布了一條動(dòng)態(tài),討論現(xiàn)在OpenClaw“龍蝦”等Agent工具低效的問(wèn)題。她認(rèn)為,全球算力供給,正無(wú)法跟上Agent帶來(lái)的Token需求增長(zhǎng)。
羅福莉解釋了這背后的原因——OpenClaw這類(lèi)Agent工具每次用戶(hù)對(duì)話(huà),都會(huì)發(fā)起多輪低價(jià)值的工具調(diào)用。每一輪都作為獨(dú)立API(應(yīng)用接口)請(qǐng)求發(fā)送,并產(chǎn)生一個(gè)很長(zhǎng)的上下文(通常超過(guò)10萬(wàn)Token)。即便有緩存命中,這種方式依然非常浪費(fèi)。極端情況下,還會(huì)提高其他請(qǐng)求的緩存失效率。
Token浪費(fèi)(在技術(shù)社區(qū)、論文平臺(tái)中被稱(chēng)為T(mén)oken Waste),并非單個(gè)產(chǎn)品的問(wèn)題。它是Agent能力提升過(guò)程中的必經(jīng)之路。
《財(cái)經(jīng)》統(tǒng)計(jì)了全球最大的代碼和開(kāi)源技術(shù)社區(qū)GitHub上有關(guān)“Token Waste”相關(guān)Issues(問(wèn)題,可理解成技術(shù)議題討論)的數(shù)量。這一討論至少有5200個(gè),僅2026年一季度就誕生了4150個(gè)。越來(lái)越多的開(kāi)發(fā)者在實(shí)際業(yè)務(wù)中正面臨控制Token浪費(fèi)的問(wèn)題。
《財(cái)經(jīng)》統(tǒng)計(jì)了全球最大預(yù)印本論文平臺(tái)arXiv(計(jì)算機(jī)等領(lǐng)域的科研人員習(xí)慣在此上傳論文初稿)上“Token Waste”相關(guān)論文。2025年1月以來(lái),這個(gè)主題直接或間接相關(guān)的論文至少有92篇,且2026年一季度就誕生38篇。學(xué)術(shù)界也越來(lái)越關(guān)注Token浪費(fèi)成因以及如何減少Token浪費(fèi)這一課題。
![]()
![]()
開(kāi)發(fā)者和研究者的常見(jiàn)觀點(diǎn)是——Agent在復(fù)雜多輪任務(wù)中,歷史文件、對(duì)話(huà)會(huì)不斷累積,大量無(wú)用、冗余、過(guò)期的信息會(huì)不斷產(chǎn)生并且重復(fù)計(jì)算。Token消耗因此指數(shù)級(jí)增長(zhǎng),但其中可能有30%-60%的Token被浪費(fèi)了。
Token浪費(fèi)的商業(yè)影響是,雖然算力消耗的飛輪轉(zhuǎn)動(dòng)起來(lái)了,但上下游的良性商業(yè)循環(huán)仍未建立。上游的模型公司(如美國(guó)市場(chǎng)的OpenAI、Anthropic,中國(guó)市場(chǎng)的月之暗面、MiniMax、智譜)、應(yīng)用公司(如全球最大的獨(dú)立AI代碼生成平臺(tái)Cursor)營(yíng)收在增長(zhǎng),卻仍在虧損。下游開(kāi)發(fā)者和企業(yè)用戶(hù)的Token賬單不斷膨脹且難以精確預(yù)估。
不過(guò),多位企業(yè)開(kāi)發(fā)者和算法工程師對(duì)《財(cái)經(jīng)》表示,無(wú)需因Token浪費(fèi)而悲觀。事實(shí)上,企業(yè)、開(kāi)發(fā)者都在嘗試為Agent加上更好的“腳手架”——通過(guò)優(yōu)化Agent框架等方式減少Token浪費(fèi)。
因?yàn)樵诩夹g(shù)發(fā)展早期,沒(méi)有浪費(fèi)就沒(méi)有進(jìn)步。Token浪費(fèi)才會(huì)推動(dòng)試錯(cuò),Agent會(huì)在技術(shù)進(jìn)化和市場(chǎng)選擇中不斷成熟。
![]()
Token是如何被浪費(fèi)的?
Agent目前框架還不夠成熟,Token很容易被浪費(fèi)。
當(dāng)下的Agent,簡(jiǎn)單理解,就像一匹尚未被完全馴服的“野馬”。這匹“野馬”執(zhí)行任務(wù)時(shí)四處飛奔,不一定會(huì)按照人的意志朝著最短路徑行走——Token消耗有時(shí)候會(huì)偏離最優(yōu)解。
它很多時(shí)候不知道哪些問(wèn)題與當(dāng)前任務(wù)直接相關(guān),于是只能把所有文件都讀一遍。隨著對(duì)話(huà)輪次增長(zhǎng),上下文不斷積累,緩存的計(jì)算任務(wù)不斷膨脹。用戶(hù)每次輸入后,Agent甚至可能需要重新計(jì)算完整的對(duì)話(huà)記錄和文件數(shù)據(jù)。這導(dǎo)致Token成本指數(shù)級(jí)增長(zhǎng)。
Agent工具的Token消耗量遠(yuǎn)超過(guò)去的AI對(duì)話(huà)工具。百度智能云大模型平臺(tái)總經(jīng)理忻舟2025年12月曾對(duì)《財(cái)經(jīng)》表示,Agent系統(tǒng)執(zhí)行的是一系列任務(wù)。任務(wù)過(guò)程中,模型會(huì)不斷用代碼規(guī)劃任務(wù)、調(diào)用工具并記錄執(zhí)行狀態(tài),每個(gè)步驟都可能觸發(fā)新的模型調(diào)用。一次對(duì)話(huà)可能只消耗數(shù)千Token,但一次任務(wù)可能就會(huì)消耗數(shù)萬(wàn),甚至數(shù)十萬(wàn)Token。
今年3月,一位名為shelvenzhou的開(kāi)發(fā)者在Github進(jìn)行了一項(xiàng)基準(zhǔn)測(cè)試,記錄自己的OpenClaw日常工作(包括代碼、郵件、PDF、圖片、搜索等)Token消耗情況——第一輪對(duì)話(huà)Token成本0.0050美元;第五輪對(duì)話(huà)Token成本0.0665美元,是第一輪的13.3倍;第10輪的Token成本達(dá)到了0.13美元,是第一輪的26倍。
![]()
類(lèi)似情況在《財(cái)經(jīng)》團(tuán)隊(duì)的工作流中同樣存在。今年3月,《財(cái)經(jīng)》嘗試用全球熱門(mén)的獨(dú)立AI代碼生成平臺(tái)Cursor統(tǒng)計(jì)財(cái)報(bào)數(shù)據(jù)——閱讀20份亞馬遜財(cái)報(bào)PDF文件,統(tǒng)計(jì)最近20個(gè)季度亞馬遜AWS的營(yíng)收、利潤(rùn)并繪表。
Cursor使用OpenAI的GPT-5.3-Codex模型自動(dòng)運(yùn)行近30分鐘。任務(wù)并沒(méi)有一次性成功。Cursor逐一嘗試了四種路徑,每次任務(wù)失敗后再尋找新路徑并自動(dòng)編寫(xiě)新代碼,歷經(jīng)十多輪最終完成統(tǒng)計(jì)。整個(gè)過(guò)程花費(fèi)了130萬(wàn)Token,占20美元/月Token用量約5%。但人工復(fù)核后發(fā)現(xiàn),個(gè)別季度統(tǒng)計(jì)仍然出錯(cuò)了——這次任務(wù)雖然完成了,但結(jié)果不可用。
這次失敗的財(cái)報(bào)統(tǒng)計(jì)任務(wù),耗費(fèi)了近30分鐘和7元Token費(fèi)用。那么,這130萬(wàn)Token是如何被消耗掉的?
實(shí)際任務(wù)中,1個(gè)中文字符約等于0.6個(gè)Token,1個(gè)英文字符約等于0.3個(gè)Token。亞馬遜一份季度財(cái)報(bào)通常50頁(yè),超過(guò)10萬(wàn)字符,對(duì)應(yīng)約3萬(wàn)Token。
一位算法工程師對(duì)《財(cái)經(jīng)》表示,Cursor不會(huì)把20份PDF文檔從頭到尾全部讀完,而是根據(jù)任務(wù)提取PDF文檔中的關(guān)鍵句子并理解,隨后自動(dòng)編寫(xiě)任務(wù)代碼,把所有季度的數(shù)據(jù)進(jìn)行匯總。編寫(xiě)代碼的過(guò)程也消耗Token。在Agent多輪調(diào)用過(guò)程中,由于上下文反復(fù)傳遞以及多種路徑嘗試,Token消耗被進(jìn)一步放大,最終達(dá)到130萬(wàn)Token以上的量級(jí)。
這種個(gè)人辦公任務(wù)還不算復(fù)雜,但在企業(yè)生產(chǎn)系統(tǒng),任務(wù)執(zhí)行時(shí)間更長(zhǎng)、更復(fù)雜。這會(huì)變成持續(xù)性的Token成本。
今年3月末,Lumigo&Vexp聯(lián)合創(chuàng)始人尼古拉·阿萊西(Nicola Alessi)在技術(shù)社區(qū)記錄了自己的編程 Agent一周Token消耗情況。他認(rèn)為,其中70%的Token被浪費(fèi)了。
他的代碼Agent使用了Claude Sonnet 4.6模型,被用于一個(gè)擁有超過(guò)200個(gè)文件的嚴(yán)肅生產(chǎn)場(chǎng)景。他強(qiáng)調(diào),這不是普通的試驗(yàn)項(xiàng)目。
尼古拉·阿萊西長(zhǎng)期監(jiān)測(cè)發(fā)現(xiàn),平均每次提問(wèn),Agent會(huì)發(fā)起23次工具調(diào)用——先掃描全部文件,再按編程語(yǔ)言過(guò)濾一遍代碼,隨后逐一打開(kāi)文件、讀取內(nèi)容,如此循環(huán)超過(guò)20輪,才終于開(kāi)始處理實(shí)際問(wèn)題。這20輪循環(huán)中,每次對(duì)話(huà)平均消耗約18萬(wàn)個(gè)Token,其中與問(wèn)題真正相關(guān)的Token,不超過(guò)5萬(wàn)個(gè)。
按照這一數(shù)據(jù)計(jì)算,Token浪費(fèi)率高達(dá)72%。以Claude Sonnet 4.6定價(jià)計(jì)算,每次對(duì)話(huà)平均浪費(fèi)的Token費(fèi)用在1美元左右。單次對(duì)話(huà)浪費(fèi)的Token看似只有約1美元,但在大規(guī)模部署和持續(xù)高頻調(diào)用下,這會(huì)逐漸累積成巨額算力支出。
因?yàn)閱T工規(guī)模動(dòng)輒數(shù)萬(wàn)甚至數(shù)十萬(wàn)的大型科技公司,尤其在技術(shù)部門(mén),工程師的每月Token費(fèi)用甚至已在萬(wàn)元以上。做好成本優(yōu)化,每年可節(jié)省千萬(wàn)元級(jí)別的算力成本。
一家員工數(shù)超過(guò)30萬(wàn)人的國(guó)際科技巨頭人士對(duì)《財(cái)經(jīng)》表示,他所在的公司每個(gè)人使用的Token是無(wú)限量的。他的工程師同事長(zhǎng)期使用Claude系列的模型編寫(xiě)代碼,一周Token成本高達(dá)2000美元-3000美元。
一家員工數(shù)超過(guò)10萬(wàn)人的中國(guó)科技公司技術(shù)人士對(duì)《財(cái)經(jīng)》表示,他在云基礎(chǔ)設(shè)施部門(mén),日常使用Claude Opus 4.6模型寫(xiě)代碼,每周Token成本高達(dá)3000元。
一家員工數(shù)5萬(wàn)人左右的互聯(lián)網(wǎng)硬件公司人士對(duì)《財(cái)經(jīng)》表示,他所在公司已經(jīng)為全員配備Agent辦公或AI代碼生成工具。他們有自研模型,因此員工使用Token不限額度。在他看來(lái),Agent造成的Token浪費(fèi)幾乎是見(jiàn)怪不怪。他在日常辦公中有30%-50%的Token由于Agent工程不夠完善被浪費(fèi)了。
![]()
誰(shuí)在為浪費(fèi)的Token買(mǎi)單?
Agent造成的浪費(fèi)讓Token消耗量變得難以預(yù)測(cè)。這甚至在影響整個(gè)市場(chǎng)的蛋糕分配。
從技術(shù)來(lái)看,Token浪費(fèi)是Agent框架不成熟導(dǎo)致的。但從產(chǎn)業(yè)結(jié)構(gòu)來(lái)看,它更像是技術(shù)發(fā)展早期的成本傳導(dǎo)——“算力-模型-應(yīng)用”之間的蛋糕還沒(méi)分好,成本不斷向下游傳導(dǎo),這些Token成本最終是由企業(yè)客戶(hù)承擔(dān)的。
過(guò)去數(shù)字化轉(zhuǎn)型階段(2024年之前),市場(chǎng)蛋糕劃分相對(duì)清晰。云廠商提供算力資源,SaaS(應(yīng)用軟件)公司提供軟件產(chǎn)品,企業(yè)客戶(hù)按需采購(gòu),三者邊界清晰、角色分明。當(dāng)時(shí),企業(yè)IT成本相對(duì)可預(yù)測(cè)。企業(yè)可以根據(jù)業(yè)務(wù)規(guī)模規(guī)劃云資源,還能和云廠商簽訂長(zhǎng)約獲得折扣。軟件是訂閱制的,按年/月訂閱座席付費(fèi),成本相對(duì)固定。
2025年之后,AI落地速度加快,蛋糕逐漸變得劃分不均。云廠商分走了大部分收入與利潤(rùn),模型廠商收入快速增長(zhǎng)卻仍普遍在虧損,SaaS公司轉(zhuǎn)售Token有“管道化”的趨勢(shì)。
產(chǎn)業(yè)鏈最末端的企業(yè)CTO(首席技術(shù)官)/CIO(首席信息官)面對(duì)的不再是云和軟件訂閱賬單,而是一種類(lèi)似流量管控和動(dòng)態(tài)限速的混合計(jì)費(fèi)賬單。Token賬單變得難以預(yù)測(cè)。
![]()
![]()
其一,Agent任務(wù)執(zhí)行過(guò)程本身Token消耗波動(dòng)就很大。不同Agent框架成熟度不同,Token消耗量差異也很大。
今年4月,一款名為Hermes的Agent迅速流行,它在開(kāi)發(fā)者社區(qū)口碑迅速超過(guò)OpenClaw。Hermes會(huì)將經(jīng)驗(yàn)自動(dòng)生成Skill(技能),減少反復(fù)低效試錯(cuò),Token消耗相對(duì)更少。4月12日,一位開(kāi)發(fā)者在Reddit社區(qū)記錄稱(chēng),他用OpenClaw和Hermes處理同一任務(wù),OpenClaw 10分鐘消耗200多萬(wàn)Token,Hermes僅消耗50萬(wàn)Token。
其二,不同模型之間,性能與定價(jià)差異明顯。即使性能相近,Token定價(jià)差距仍然顯著,這讓成本評(píng)估變得更復(fù)雜。
目前在開(kāi)發(fā)者口碑最好的Claude Sonnet 4.6、GPT-5.4的Token定價(jià)普遍是國(guó)產(chǎn)模型的3倍-10倍。國(guó)產(chǎn)同級(jí)別模型,Token定價(jià)差距也在1倍-3倍之間。如何根據(jù)合適的場(chǎng)景選擇合適的模型,這對(duì)企業(yè)來(lái)說(shuō)決策成本很高。
其三,Token套餐(Coding Plan或Token Plan)雖然看似價(jià)格固定,但套餐內(nèi)的Token額度、并發(fā)數(shù)量、緩存計(jì)費(fèi)規(guī)則差異明顯。套餐用盡后的超額費(fèi)用、降級(jí)策略也各不相同。企業(yè)很難在紙面上提前對(duì)比評(píng)估真實(shí)成本。
目前大多數(shù)Token套餐以5小時(shí)為刷新周期,限制用戶(hù)時(shí)間窗口內(nèi)的最大調(diào)用次數(shù)或最大Token額度。一旦5小時(shí)內(nèi)使用超額,系統(tǒng)會(huì)觸發(fā)限速、排隊(duì)或降低模型性能等機(jī)制。這個(gè)機(jī)制原本是為了盡量公平分配算力資源,卻讓企業(yè)提前算賬變得更難了。
這一系列問(wèn)題讓企業(yè)的IT預(yù)算編制變得困難。《財(cái)經(jīng)》了解到的情況是,一些頭部零售、制造企業(yè)為解決這個(gè)問(wèn)題,正在嘗試獨(dú)立編制專(zhuān)門(mén)的Token預(yù)算。
一位服務(wù)了多家頭部零售、制造企業(yè)的企業(yè)級(jí)大模型服務(wù)商CEO(首席執(zhí)行官)今年3月對(duì)《財(cái)經(jīng)》表示,企業(yè)普遍在AI焦慮期。這些Token預(yù)算正在吃掉傳統(tǒng)軟件、外包開(kāi)發(fā)的預(yù)算。不過(guò),目前很難精確計(jì)算Token預(yù)算的ROI(投資回報(bào)率)。
企業(yè)客戶(hù)正在付出更高的Token成本,這帶動(dòng)了模型廠商、應(yīng)用廠商收入的快速增長(zhǎng)。然而作為供給方,模型廠商、應(yīng)用廠商并沒(méi)有想象中那么賺錢(qián)。
美國(guó)和中國(guó)的模型創(chuàng)業(yè)公司普遍在虧損。在美國(guó)市場(chǎng),OpenAI 2026年2月ARR(年度經(jīng)常性收入,當(dāng)月收入×12)超過(guò)250億美元,預(yù)計(jì)2030年盈利。Anthropic 2026年3月ARR超過(guò)300億美元,預(yù)計(jì)最早將在2029年盈利。
在中國(guó)市場(chǎng),月之暗面2026年2月收入超過(guò)2025全年,到2026年3月ARR甚至超過(guò)1億美元。MiniMax 2025年?duì)I收0.79億美元(約合5.6億元),2026年2月ARR超過(guò)1.5億美元(約合10.5億元)。智譜2025年?duì)I收7.2億元,2026年3月模型API(應(yīng)用接口)的ARR達(dá)到17億元,同比增長(zhǎng)60倍。
不過(guò),這三家公司也在虧損。月之暗面的虧損規(guī)模尚未披露。MiniMax 2025年經(jīng)調(diào)整后的凈虧損2.5億美元(約合17.5億元),智譜2025年經(jīng)調(diào)整后的凈虧損31.8億元。
新興的AI應(yīng)用公司普遍在虧損,甚至成了封裝Token的管道——接入模型公司的API(應(yīng)用接口),將Token轉(zhuǎn)售給客戶(hù)。軟件原本的定價(jià)權(quán)轉(zhuǎn)移到了云廠商和模型公司手里。
美國(guó)知名投資機(jī)構(gòu)貝塞默風(fēng)險(xiǎn)投資(Bessemer Venture Partners)長(zhǎng)期聚焦SaaS和AI賽道。貝塞默風(fēng)險(xiǎn)投資2025年調(diào)查10家AI明星創(chuàng)業(yè)公司發(fā)現(xiàn),這些公司平均毛利率僅為25%,部分表現(xiàn)優(yōu)秀的公司平均毛利率約為60%。
但根據(jù)貝塞默風(fēng)險(xiǎn)投資2023年調(diào)查結(jié)果,高增長(zhǎng)SaaS公司毛利率中位數(shù)約為77%。也就是說(shuō),AI應(yīng)用相比過(guò)去的SaaS軟件,毛利率正大幅下滑。
最典型案例是,全球最大的獨(dú)立AI代碼生成工具Cursor。它在2026年2月年化收入超過(guò)20億美元。但美國(guó)市場(chǎng)調(diào)研機(jī)構(gòu)AI Funding Tracker 2026年2月報(bào)告稱(chēng),Cursor 2025年虧損規(guī)模至少在1.5億美元。Cursor幾乎所有收入都被用于調(diào)用Anthropic、OpenAI的模型。公司還要支付員工工資、辦公場(chǎng)所等其他運(yùn)營(yíng)費(fèi)用。
![]()
全球最大的SaaS公司,如Salesforce、Adobe、ServiceNow這幾家老牌公司同樣在面臨AI相關(guān)毛利率下降的問(wèn)題。SaaS軟件毛利率長(zhǎng)期在80%左右,一直被認(rèn)為是高毛利的好生意。但現(xiàn)在情況正在變化。
Salesforce管理層2025年12月公開(kāi)表示,在Agent業(yè)務(wù)快速擴(kuò)張階段,公司短期內(nèi)可以接受這部分業(yè)務(wù)的利潤(rùn)率承受壓力。
Adobe管理層在2026財(cái)年一季度財(cái)報(bào)電話(huà)會(huì)(2026年3月12日)表示,F(xiàn)irefly和 Express這兩款生成式AI應(yīng)用會(huì)帶來(lái)更高的Token成本,并可能會(huì)影響公司利潤(rùn)率。
ServiceNow管理層在2025年四季度財(cái)報(bào)電話(huà)會(huì)(2026年1月28日)表示,預(yù)計(jì)2026年訂閱毛利率為82%,將略微下滑。AI相關(guān)的算力投入是影響毛利率的主要來(lái)源。
綜上所述,Token消耗雖然在增長(zhǎng),但目前至少在模型公司、應(yīng)用公司、企業(yè)客戶(hù)這里都還沒(méi)有真正形成正循環(huán)。這些成本在層層傳導(dǎo)的產(chǎn)業(yè)鏈中被不斷放大和轉(zhuǎn)移。
![]()
如何從Token浪費(fèi)中榨出利潤(rùn)?
減少Token浪費(fèi),本質(zhì)上是在為“算力-模型-應(yīng)用-企業(yè)客戶(hù)”整個(gè)產(chǎn)業(yè)鏈減少無(wú)效成本,進(jìn)而釋放出利潤(rùn)空間。只有這樣,“Token經(jīng)濟(jì)”的飛輪才能真正轉(zhuǎn)起來(lái)。
當(dāng)前減少Token浪費(fèi)的主流技術(shù)方案包括兩大類(lèi):一是KV Cache(Key-Value Cache,鍵值緩存),二是Agent工程。
KV Cache是什么?簡(jiǎn)單理解,這是模型對(duì)已計(jì)算上下文的結(jié)果進(jìn)行緩存,避免生成新Token時(shí)重復(fù)計(jì)算整個(gè)上下文。這正在成為模型公司榨取利潤(rùn)空間的關(guān)鍵技術(shù)。
今年4月,一位中國(guó)大模型創(chuàng)業(yè)公司人士對(duì)《財(cái)經(jīng)》表示,他們銷(xiāo)售的Token套餐本身幾乎不賺錢(qián),利潤(rùn)空間主要來(lái)自KV Cache的命中率。換句話(huà)說(shuō),KV Cache命中得越多,模型廠商的實(shí)際計(jì)算成本就越低,利潤(rùn)空間也就越大。
OpenAI的開(kāi)發(fā)者技術(shù)文檔顯示,OpenAI通過(guò)KV緩存輸入Token成本最高下降90%。一位云計(jì)算廠商智能算法負(fù)責(zé)人2025年12月曾對(duì)《財(cái)經(jīng)》表示,利用KV緩存等技術(shù),他們能夠把推理成本降至10%-20%。
Agent工程,也就是把Agent的調(diào)度、記憶、模型路由、上下文裁剪和工作流管理做成一套可控的系統(tǒng)工程。它的目的是,減少Agent不必要的重復(fù)計(jì)算、工具調(diào)用、思考推理和空轉(zhuǎn)循環(huán)。這在今天也被稱(chēng)為Harness——這個(gè)詞字面意義上是韁繩和馬具。
這是云廠商、模型公司、應(yīng)用公司都在優(yōu)化的方向。騰訊集團(tuán)高級(jí)執(zhí)行副總裁、云與智慧產(chǎn)業(yè)事業(yè)群CEO湯道生今年4月發(fā)表文章稱(chēng),人工智能正式進(jìn)入Harness時(shí)代。Harness是韁繩,它將(大模型)這股原始力量轉(zhuǎn)化為可控的、可預(yù)期的、可協(xié)作的能力……馴服一匹野馬,需要一副趁手的韁繩,和一個(gè)知道目的地的騎手。
湯道生發(fā)現(xiàn),在騰訊內(nèi)部,在同樣的模型能力下,不同的腳手架設(shè)計(jì),比如給模型調(diào)用什么工具、如何做分層的上下文工程、如何管理長(zhǎng)記憶、如何設(shè)計(jì)工作流,對(duì)實(shí)際使用效果與Token成本有很大的影響。
Agent工程成熟與否,直接決定了同一項(xiàng)任務(wù)的Token消耗量——這將直接影響企業(yè)的Token成本。
微軟雷德蒙德實(shí)驗(yàn)室今年4月披露了一個(gè)利用不同Agent對(duì)云基礎(chǔ)設(shè)施進(jìn)行自動(dòng)故障處理的案例。在使用同一模型定位故障問(wèn)題這個(gè)環(huán)節(jié),不同Agent的Token消耗差距明顯。表現(xiàn)最好的GPT-w-Shell,在71%正確率下僅消耗約5000個(gè)Token;ReAct在57%正確率的情況下消耗了6800個(gè)Token。TaskWeaver正確率僅29%,Token消耗高達(dá)19萬(wàn)。
![]()
2026年初,浙江大學(xué)計(jì)算機(jī)輔助設(shè)計(jì)與圖形學(xué)國(guó)家重點(diǎn)實(shí)驗(yàn)室研究團(tuán)隊(duì)向ICLR(國(guó)際學(xué)習(xí)表征會(huì)議,機(jī)器學(xué)習(xí)領(lǐng)域三大國(guó)際頂級(jí)會(huì)議之一)提交了一篇名為《Stop Wasting Your Tokens》(停止浪費(fèi)你的Token)的論文。
該研究團(tuán)隊(duì)提出,通過(guò)在Agent系統(tǒng)中引入一個(gè)“監(jiān)督Agent”,可以在不改變模型結(jié)構(gòu)的前提下,實(shí)時(shí)識(shí)別錯(cuò)誤、低效行為與冗余上下文,減少無(wú)效計(jì)算。實(shí)驗(yàn)結(jié)果顯示,這個(gè)方法在保持任務(wù)成功率的同時(shí),將Token消耗平均降低了30%。
微軟的工程實(shí)踐、浙江大學(xué)的試驗(yàn),這些都處于控制Token浪費(fèi)的早期。這些經(jīng)驗(yàn)隨著技術(shù)成熟,將逐漸落地到更多公司。
未來(lái)一段時(shí)間,誰(shuí)能用更少的Token完成同樣的任務(wù),誰(shuí)就會(huì)擁有更高的利潤(rùn)空間。也會(huì)擁有更加確定的未來(lái)。
上述互聯(lián)網(wǎng)硬件公司人士對(duì)《財(cái)經(jīng)》表示,無(wú)需因Token浪費(fèi)而悲觀。這是Agent現(xiàn)在這個(gè)發(fā)展必然經(jīng)歷的過(guò)程。他所在的公司目前有大量精力投入到Agent工程,這不單是為了節(jié)省Token成本,也為了提升任務(wù)準(zhǔn)確率。在當(dāng)下,提效遠(yuǎn)比降本重要。
2010年以后移動(dòng)互聯(lián)網(wǎng)起步,流量浪費(fèi)和流量焦慮一度讓用戶(hù)關(guān)心,但在今天已經(jīng)無(wú)人關(guān)注這些問(wèn)題。Token浪費(fèi)情況類(lèi)似。Token浪費(fèi)推動(dòng)了試錯(cuò),試錯(cuò)推動(dòng)了優(yōu)化,優(yōu)化最終會(huì)推動(dòng)“算力-模型-應(yīng)用-企業(yè)客戶(hù)”整個(gè)產(chǎn)業(yè)鏈走向成熟。
“Token經(jīng)濟(jì)”的正向循環(huán)也將在這個(gè)過(guò)程中逐漸形成。
![]()
特別聲明:以上內(nèi)容(如有圖片或視頻亦包括在內(nèi))為自媒體平臺(tái)“網(wǎng)易號(hào)”用戶(hù)上傳并發(fā)布,本平臺(tái)僅提供信息存儲(chǔ)服務(wù)。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.