AI Agent落地“卡殼”？騰訊云用100毫秒沙箱打通“最后一公里”｜甲子光年

Agent跑起來，Infra先鋪路。

作者｜王藝

編輯｜栗子

2025年，Agent很忙。

上半年忙著比誰的模型更聰明，下半年忙著解決一個(gè)更現(xiàn)實(shí)的問題：怎么讓這些聰明的Agent真正“動(dòng)起來”？

有些企業(yè)滿懷期待地引入“數(shù)字員工”，希望它們能自動(dòng)完成數(shù)據(jù)整理、客戶服務(wù)、代碼編寫等重復(fù)性工作，然而現(xiàn)實(shí)卻頻頻“打臉”：任務(wù)執(zhí)行到一半突然中斷，面對(duì)突發(fā)流量時(shí)響應(yīng)遲緩，算力成本居高不下，甚至因?yàn)榘踩┒醋屍髽I(yè)數(shù)據(jù)面臨風(fēng)險(xiǎn)。

這不是個(gè)別現(xiàn)象。據(jù)Gartner測算，2028年全球Agent市場規(guī)模將達(dá)到2850億美元，屆時(shí)15%的日常業(yè)務(wù)決策將由Agent自主完成，33%的企業(yè)軟件將原生嵌入Agentic AI能力；IDC則指出，2024年中國AI Agent軟件市場收入規(guī)模首次突破50億元人民幣，預(yù)計(jì)2028年將躍升至8520億元人民幣，2023~2028年復(fù)合年增長率高達(dá)72.7%。其中，面向企業(yè)端的應(yīng)用長期占據(jù)98%以上份額。

但當(dāng)這些在Demo中表現(xiàn)驚艷的Agent投入真實(shí)的高并發(fā)業(yè)務(wù)環(huán)境時(shí)，便頻頻陷入“跑不動(dòng)、不安全、不兼容”的窘境。

問題的癥結(jié)在于：傳統(tǒng)云計(jì)算基礎(chǔ)設(shè)施與Agent的原生特征之間，存在著代際錯(cuò)配。Agent的高自主性、長會(huì)話、突發(fā)負(fù)載等特點(diǎn)，難以被為傳統(tǒng)應(yīng)用設(shè)計(jì)的架構(gòu)所支撐。

于是，行業(yè)逐漸形成共識(shí)——“Agent跑起來，Infra先鋪路。”

Agent Infra，這個(gè)從技術(shù)后臺(tái)走向幕前的新賽道，正在成為決定AI Agent規(guī)模化落地的關(guān)鍵變量。

1.從AI Infra到Agent Infra：一場范式革命

要理解Agent Infra的價(jià)值，需要先看清楚AI應(yīng)用正在經(jīng)歷的范式轉(zhuǎn)變。

傳統(tǒng)AI應(yīng)用追求的是“確定性”——輸入相同的數(shù)據(jù)，輸出相同的結(jié)果。

但Agent的出現(xiàn)打破了這一切。它具備不確定性、復(fù)雜性和自主性。想象你在使用一個(gè)傳統(tǒng)的數(shù)據(jù)分析軟件。你輸入同一份銷售數(shù)據(jù)，每次都會(huì)得到相同的報(bào)表，這就是確定性。

但當(dāng)你換成Agent來做同樣的工作，情況就不一樣了。今天它可能重點(diǎn)分析地區(qū)差異，明天可能關(guān)注季節(jié)趨勢(shì)，后天又可能發(fā)現(xiàn)價(jià)格敏感性。

這種不確定性源于大模型的概率推理機(jī)制，讓Agent的行為難以精確預(yù)測。企業(yè)在應(yīng)用Agent時(shí)必須接受這種不確定性，同時(shí)通過工程手段將其控制在可接受范圍內(nèi)。

當(dāng)這個(gè)Agent出現(xiàn)錯(cuò)誤時(shí)，排查就成了一場偵探游戲——是因?yàn)槟愕奶釂柗绞剑≒rompt）有歧義？還是它從歷史對(duì)話（記憶）中提取了錯(cuò)誤信息？抑或是調(diào)用的數(shù)據(jù)源（知識(shí)庫）本身就有問題？

在傳統(tǒng)軟件中，你可以單步調(diào)試、逐行排查；但在Agent系統(tǒng)中，這些組件像一團(tuán)亂麻，相互影響又難以拆解。這就是復(fù)雜性，它讓傳統(tǒng)的調(diào)試方法失去用武之地。

最讓人擔(dān)心的是自主性。傳統(tǒng)軟件只會(huì)做你讓它做的事，但Agent會(huì)“自作主張”。它可能自己決定調(diào)用某個(gè)API、執(zhí)行某段代碼、訪問某個(gè)網(wǎng)站。

這種能力讓它能夠處理復(fù)雜任務(wù)，但也帶來了風(fēng)險(xiǎn)：如果它被惡意提示詞誘導(dǎo)，可能做出危險(xiǎn)操作；如果它對(duì)權(quán)限邊界理解錯(cuò)誤，可能越權(quán)訪問敏感數(shù)據(jù)。

在傳統(tǒng)軟件的安全模型中，“自主行動(dòng)”通常意味著系統(tǒng)被入侵了；但對(duì)Agent來說，自主行動(dòng)恰恰是它的核心價(jià)值。如何讓這種自主性既強(qiáng)大又安全，是基礎(chǔ)設(shè)施必須解決的問題。

這三大特征并非孤立存在，它們相互交織，構(gòu)成了AI Agent范式的核心。不確定性與復(fù)雜性是自主性的內(nèi)在體現(xiàn)，而自主性則將前兩者帶來的風(fēng)險(xiǎn)具象化。

騰訊云產(chǎn)品團(tuán)隊(duì)在思考Agent Infra的演進(jìn)邏輯時(shí)，提出了一個(gè)核心觀點(diǎn)：云計(jì)算的發(fā)展史，就是在企業(yè)應(yīng)用架構(gòu)不斷演進(jìn)的過程中，持續(xù)化解“偶然復(fù)雜度”的過程。從單體應(yīng)用時(shí)代的IaaS，到微服務(wù)時(shí)代的容器治理平臺(tái)，再到大數(shù)據(jù)時(shí)代的一站式數(shù)據(jù)引擎，每一次技術(shù)躍遷都是為了讓開發(fā)者從基礎(chǔ)設(shè)施的繁瑣中解放出來，專注于業(yè)務(wù)創(chuàng)新。

云計(jì)算發(fā)展史，圖源：GeeksforGeeks

Agent時(shí)代同樣如此。當(dāng)Agent需要執(zhí)行代碼、訪問網(wǎng)絡(luò)、操作數(shù)據(jù)庫時(shí)，傳統(tǒng)的云基礎(chǔ)設(shè)施已經(jīng)無法滿足其“高頻、輕量、突發(fā)、即時(shí)響應(yīng)”的工作模式。

Agent Infra的出現(xiàn)，正是云計(jì)算對(duì)這一新型工作負(fù)載挑戰(zhàn)的必然回應(yīng)。隨著AI競爭焦點(diǎn)從模型能力轉(zhuǎn)向基礎(chǔ)設(shè)施支撐能力，Agent Infra已成為全球云廠商爭奪的戰(zhàn)略高地。

在國際市場，三大云廠商已展現(xiàn)出鮮明的技術(shù)路徑和戰(zhàn)略側(cè)重。

• AWS憑借在云計(jì)算基礎(chǔ)設(shè)施領(lǐng)域的深厚積累，于今年7月推出Agent Core預(yù)覽版，它基于Lambda FaaS深度定制全托管運(yùn)行時(shí)，提供記憶管理、身份驗(yàn)證、代碼執(zhí)行等工具，強(qiáng)調(diào)安全、可擴(kuò)展和多Agent協(xié)作。值得注意的是，Agent Core專注于保障Agent運(yùn)行，而非構(gòu)建Agent本身。

• 微軟Azure選擇了生態(tài)協(xié)同的差異化路徑，在今年5月推出AI Foundry Agent Service，深度集成NVIDIA NIM微服務(wù)與AgentIQ工具包，形成從模型優(yōu)化到Agent調(diào)度的全鏈路能力。依托Functions FaaS的事件驅(qū)動(dòng)架構(gòu)，它支持1小時(shí)長時(shí)運(yùn)行與企業(yè)級(jí)IAM權(quán)限管理。

• 谷歌GCP則走輕量化與普適性路線，Vertex AI Agent Builder聚焦構(gòu)建和管理多Agent系統(tǒng)，用低代碼降低了Agent開發(fā)門檻，讓企業(yè)無需深厚編程能力即可構(gòu)建客服、HR問答等場景的智能體。

盡管技術(shù)路徑各異，但云廠商們都有一個(gè)共同的目標(biāo)：為Agent提供更高彈性、更低延遲、更強(qiáng)安全、更長會(huì)話的保障，支撐其真正落地千萬級(jí)企業(yè)場景。

2.沙箱：Agent跑起來的第一道關(guān)

在Agent Infra的諸多能力中，沙箱是最關(guān)鍵的一環(huán)。它為Agent提供隔離、監(jiān)控、記錄、約束的受控執(zhí)行環(huán)境，是智能體與真實(shí)世界之間的安全邊界。

但問題在于，傳統(tǒng)沙箱太慢。

傳統(tǒng)虛擬機(jī)的啟動(dòng)方式為長時(shí)間運(yùn)行設(shè)計(jì)，動(dòng)輒需要數(shù)秒甚至數(shù)十秒，對(duì)于需要即時(shí)響應(yīng)的Agent來說，這種延遲是不可接受的。容器雖然啟動(dòng)快，但隔離性不足，共享內(nèi)核帶來的安全風(fēng)險(xiǎn)讓企業(yè)望而卻步。

騰訊云Agent Infra團(tuán)隊(duì)的解決方案是：不在舊技術(shù)上“打補(bǔ)丁”，而是專門為Agent設(shè)計(jì)一套全新的底座——Cube（MicroVM Runtime）。

Cube并非從零開始。它源自騰訊云成熟的Serverless體系，每天承載著百億級(jí)調(diào)用。在Agent時(shí)代，這些經(jīng)過大規(guī)模驗(yàn)證的能力被系統(tǒng)性地引入沙箱服務(wù)。其核心突破體現(xiàn)在三個(gè)維度：

首先是速度上的突破。

傳統(tǒng)虛擬機(jī)啟動(dòng)需要完整的系統(tǒng)引導(dǎo)過程。Cube通過“運(yùn)行時(shí)快照”技術(shù)，將一個(gè)已就緒的沙箱固化成模板，通過內(nèi)存映射恢復(fù)的方式，Cube只需約40毫秒就能交付一個(gè)安全沙箱，加上網(wǎng)絡(luò)、鑒權(quán)等開銷，端到端啟動(dòng)時(shí)長穩(wěn)定在100毫秒級(jí)別。

這是什么概念？人眨一次眼需要100~150毫秒。當(dāng)你眨眼的瞬間，騰訊云已經(jīng)為你的Agent準(zhǔn)備好了一個(gè)完整的執(zhí)行環(huán)境。

其次是安全上的加強(qiáng)。

速度不能以犧牲安全為代價(jià)。Cube保留了虛擬機(jī)級(jí)別的強(qiáng)隔離能力，每個(gè)Agent的行為都運(yùn)行在獨(dú)立、可審計(jì)、可約束的執(zhí)行環(huán)境中。代碼執(zhí)行、網(wǎng)絡(luò)訪問、系統(tǒng)調(diào)用均受嚴(yán)格策略控制，任何越界行為會(huì)被即時(shí)阻斷。

騰訊云首創(chuàng)的“會(huì)話與實(shí)例綁定”機(jī)制更進(jìn)一步：每個(gè)用戶會(huì)話分配一個(gè)獨(dú)立的輕量虛擬機(jī)，會(huì)話結(jié)束后徹底銷毀、清零內(nèi)存，從根源上杜絕數(shù)據(jù)泄露風(fēng)險(xiǎn)。

最后是并發(fā)上的提升。

Agent的工作負(fù)載極不穩(wěn)定——可能長時(shí)間空閑，也可能突然涌來海量請(qǐng)求。Cube通過資源提前池化（網(wǎng)絡(luò)、進(jìn)程、磁盤等預(yù)創(chuàng)建），實(shí)現(xiàn)了單機(jī)同時(shí)拉起2000＋沙箱，平臺(tái)整體可瞬時(shí)調(diào)度10萬級(jí)沙箱的實(shí)例。

這種“即開即用、用完即銷毀”的Serverless架構(gòu)，讓企業(yè)無需按最高負(fù)載囤積機(jī)器，資源利用率提升至80％以上，算力成本大幅降低。

騰訊云沙箱，圖源：騰訊云

目前，騰訊云Agent沙箱服務(wù)已經(jīng)開放內(nèi)測，支持代碼沙箱（Python、JavaScript）、瀏覽器沙箱和計(jì)算機(jī)沙箱等多種類型，兼容主流社區(qū)開源協(xié)議（如MCP）以及RESTful API、SDK、CLI等多種接入方式。

3.不只是沙箱：Agent Runtime的全棧思考

盡管已經(jīng)將沙箱技術(shù)做到了行業(yè)領(lǐng)先，騰訊云對(duì)Agent Infra的理解，遠(yuǎn)不止于一個(gè)高性能沙箱。

今年9月，在全球數(shù)字生態(tài)大會(huì)上，騰訊云正式發(fā)布了Agent Runtime解決方案，集成了執(zhí)行引擎、云沙箱、上下文服務(wù)、網(wǎng)關(guān)、安全可觀測等核心模塊。這套方案背后，體現(xiàn)的是騰訊云對(duì)Agent全生命周期管理的系統(tǒng)性思考。

騰訊云Agent Runtime解決方案，圖源：騰訊云

執(zhí)行引擎扮演著“智能調(diào)度中心”的角色。它由Agent Server（決策中樞）、MCP Server（工具集成層）和沙箱應(yīng)用三個(gè)原子化模塊組成，支持會(huì)話親和調(diào)度、實(shí)例級(jí)安全隔離。值得一提的是，執(zhí)行引擎支持會(huì)話持續(xù)運(yùn)行7天，并能暫停保留30天，這對(duì)于需要長時(shí)間運(yùn)行的復(fù)雜Agent任務(wù)至關(guān)重要。

上下文服務(wù)解決了Agent的“記憶”問題。如何從對(duì)話中提煉關(guān)鍵信息并沉淀為“長期記憶”，且在不浪費(fèi)資源的前提下實(shí)現(xiàn)記憶存儲(chǔ)與檢索，是企業(yè)落地Agent的重大技術(shù)門檻。騰訊云將記憶管理云化為通用服務(wù)，降低了企業(yè)的開發(fā)難度。

網(wǎng)關(guān)與安全可觀測則提供了全鏈路的安全防護(hù)。從模型服務(wù)接入、工具調(diào)用流量管理，到機(jī)密計(jì)算、日志服務(wù)、全鏈路安全與可觀測，騰訊云構(gòu)建了一套完整的安全體系。

這種自下而上的分層演進(jìn)邏輯與海外云廠商的布局思路不謀而合，但騰訊云在底層性能上的突破，讓其在這場競賽中占據(jù)了先發(fā)優(yōu)勢(shì)。

以騰訊元寶為例，其AI編程功能就運(yùn)行在Agent Runtime之上。通過云沙箱提供的安全隔離環(huán)境，元寶可以即時(shí)生成并執(zhí)行代碼，實(shí)測運(yùn)行速度遠(yuǎn)超同類產(chǎn)品。

騰訊產(chǎn)品團(tuán)隊(duì)強(qiáng)調(diào)，元寶只是Agent Runtime眾多應(yīng)用場景之一。這套基礎(chǔ)設(shè)施的真正價(jià)值，在于它為所有開發(fā)者提供了一個(gè)安全、高性能、Serverless的Agent運(yùn)行環(huán)境，讓他們能夠?qū)Ｗ⒂跇I(yè)務(wù)邏輯，而不是陷入底層基礎(chǔ)設(shè)施的泥潭。

以一家專注于Agent瀏覽器的公司為例，其核心技術(shù)挑戰(zhàn)是訓(xùn)練智能體自動(dòng)完成瀏覽器通用任務(wù)（信息檢索、表單填寫、在線購物等），整個(gè)后訓(xùn)練流程包含模型推理、執(zhí)行軌跡生成、沙箱執(zhí)行和模型訓(xùn)練四個(gè)環(huán)節(jié)，單輪訓(xùn)練需要并發(fā)啟動(dòng)近萬個(gè)Session和對(duì)應(yīng)數(shù)量的PC/瀏覽器沙箱環(huán)境。傳統(tǒng)方案中，沙箱啟動(dòng)時(shí)間過長成為制約訓(xùn)練效率的主要瓶頸。

在引入騰訊云沙箱后，該公司不僅能使用騰訊云的全球算力資源池靈活調(diào)配，可承載十萬級(jí)的Session并發(fā)創(chuàng)建能力，沙箱的啟動(dòng)時(shí)間也提速到100毫秒級(jí)別。

此外，Agent Runtime的優(yōu)異表現(xiàn)，并非源于單一的技術(shù)或產(chǎn)品，還在于其根植于騰訊公司內(nèi)部最龐大、最多樣化的業(yè)務(wù)生態(tài)。

騰訊內(nèi)部擁有從社交（微信）、游戲、文娛（視頻）、到支付、云計(jì)算等業(yè)界最豐富的應(yīng)用形態(tài)。目前，所有這些業(yè)務(wù)都在進(jìn)行AI化轉(zhuǎn)型，并催生出大量獨(dú)特的Agent應(yīng)用。可以說，這些海量、復(fù)雜且高標(biāo)準(zhǔn)的內(nèi)部場景，成為了Agent Runtime產(chǎn)品最好的“磨刀石”和“試驗(yàn)田”。

4.云原生的下一站：為Agent而生

盡管Agent Infra已經(jīng)成為行業(yè)熱點(diǎn)，但必須承認(rèn)，這個(gè)領(lǐng)域仍處于早期階段。當(dāng)前的產(chǎn)品和解決方案，主要解決的是“能跑起來”的問題；而未來的演進(jìn)方向，則是解決“跑得更好”的問題。

現(xiàn)階段，安全隔離、彈性供給、極致性能是AI Agent最緊迫的需求。而當(dāng)Agent能夠穩(wěn)定運(yùn)行后，企業(yè)的需求會(huì)快速升級(jí)：如何讓Agent更智能、更可控、更易管理？

評(píng)估體系的構(gòu)建是第一個(gè)挑戰(zhàn)。傳統(tǒng)軟件有明確的測試標(biāo)準(zhǔn)——功能是否正確、性能是否達(dá)標(biāo)、有無bug。但Agent基于大模型，輸出具有不確定性，如何評(píng)估其“好壞”？如何建立客觀的評(píng)價(jià)指標(biāo)？如何確保Agent的能力不會(huì)退化？這些問題目前還沒有標(biāo)準(zhǔn)答案。

“第一，你要從工程思維，轉(zhuǎn)化成駕馭不確定性和復(fù)雜系統(tǒng)的思維，要去為它構(gòu)建評(píng)測體系，這種轉(zhuǎn)變是非常巨大的；第二，你不僅需要利用AI Coding的工具進(jìn)行代碼生成，更是要用它改變你們之間的協(xié)同模式。這兩點(diǎn)都是巨大的挑戰(zhàn)。”騰訊云云原生產(chǎn)品副總經(jīng)理，騰訊云專家工程師于廣游說。

數(shù)據(jù)管理與回放是第二個(gè)挑戰(zhàn)。Agent在真實(shí)環(huán)境中的表現(xiàn)，往往與實(shí)驗(yàn)室環(huán)境有很大差異。如何收集和管理Agent的運(yùn)行數(shù)據(jù)？如何回放歷史場景進(jìn)行調(diào)試？如何構(gòu)建測試集確保可持續(xù)性？這需要基礎(chǔ)設(shè)施層提供系統(tǒng)化的支持。

記憶與上下文管理是第三個(gè)挑戰(zhàn)。未來的Agent不應(yīng)只是執(zhí)行單次任務(wù)，而應(yīng)能夠從歷史交互中學(xué)習(xí)、在長期運(yùn)行中積累經(jīng)驗(yàn)、在上下文理解中不斷優(yōu)化。這要求基礎(chǔ)設(shè)施提供自動(dòng)總結(jié)、學(xué)習(xí)沉淀、上下文壓縮等高階能力。

“假如你跟Agent說，請(qǐng)你幫我搜一個(gè)什么東西，Agent會(huì)拉出來非常多資料——這個(gè)工作并不是從一個(gè)RAG的數(shù)據(jù)庫中挑取處一個(gè)片段，而是真的要理解這個(gè)問題。為了訓(xùn)練這種能力，我們需要對(duì)模型進(jìn)行進(jìn)行了Search和代碼的RL（強(qiáng)化學(xué)習(xí)），而非讓模型自己進(jìn)行反向傳播。這個(gè)訓(xùn)練過程占據(jù)了60%以上的時(shí)間。但是騰訊云的沙箱極大加速了這個(gè)過程，反映到用戶的感受上，其實(shí)就是很多Agent產(chǎn)品的能力在逐漸增強(qiáng)。”于廣游說。

當(dāng)前，騰訊云已經(jīng)在運(yùn)維層和工具層建立了領(lǐng)先優(yōu)勢(shì)。未來，隨著安全層和智能化層能力的逐步完善，Agent Runtime有望成為一個(gè)真正意義上的“Agent操作系統(tǒng)”——就像iOS之于移動(dòng)應(yīng)用、Kubernetes之于云原生應(yīng)用一樣，為Agent提供標(biāo)準(zhǔn)化的運(yùn)行環(huán)境和開發(fā)范式。

2025年，我們見證了Agent從實(shí)驗(yàn)室走向生產(chǎn)環(huán)境的關(guān)鍵轉(zhuǎn)折。Agent Infra的成熟與普及，正在從根本上降低AI智能體的應(yīng)用門檻。就像云計(jì)算讓每個(gè)企業(yè)都能享受到原本只有互聯(lián)網(wǎng)巨頭才具備的計(jì)算能力一樣，Agent Infra正在讓每個(gè)開發(fā)者都能構(gòu)建出原本需要龐大團(tuán)隊(duì)才能完成的智能應(yīng)用。

這場變革才剛剛開始。正如騰訊云產(chǎn)品團(tuán)隊(duì)所言，完備的Agent Infra新范式目前尚不存在，行業(yè)仍處于“共識(shí)落地為行動(dòng)”的初期階段。但從100毫秒的沙箱啟動(dòng)速度、10萬級(jí)的瞬時(shí)調(diào)度能力、會(huì)話級(jí)的安全隔離機(jī)制來看，騰訊云已經(jīng)在這條賽道上建立了清晰的技術(shù)領(lǐng)先優(yōu)勢(shì)。

當(dāng)Agent從Demo走向生產(chǎn)，從實(shí)驗(yàn)室走向企業(yè)，它需要的不僅僅是一個(gè)“能用”的基礎(chǔ)設(shè)施，更需要一個(gè)“好用”的、專為其設(shè)計(jì)的云原生環(huán)境。

這或許就是Agent Infra存在的意義，也是騰訊云正在書寫的答案。

（封面圖來源：AI生成）