金山、Zilliz、騰訊、靈犀量子專家齊聚，揭秘 AI 記憶、RAG 演進與自我進化的工程實踐 | AICon

在 2025 年的今天，我們必須承認，當我們要構建一個復雜的 AI 系統時，僅僅會寫“你是一個 XX 專家”是遠遠不夠的。我們面臨著更本質的系統工程挑戰：

• 記憶缺失：Agent 如何像人一樣擁有“短期記憶”和“長期記憶”，而不是聊幾句就忘？

• 檢索瓶頸：RAG 不僅僅是向量搜索，面對海量非結構化數據，如何解決多租戶、低成本與高精度的不可能三角？

• 認知固化：真正的智能體（AI Scientist）能否在任務執行中“自我反思”并動態更新策略，而不是機械執行？

Context Engineering（上下文工程）正是大模型系統的“RAM”與“前額葉”。

為了確保內容的深度與硬核程度，在AICon 北京站上，我們特邀Zilliz 合伙人 & 研發 VP 欒小凡擔任本專題的出品人。作為 LF AI & Data 基金會技術咨詢委員會成員，并曾在阿里云（Lindorm）、Oracle 等頂級團隊深耕多年的數據庫與存儲專家，他以其深厚的技術視野，對議題進行了層層甄選與嚴苛的質量品控，目標只有一個：剔除淺層的 Prompt 技巧，只交付能支撐 AI 系統理解與推理的工程架構。我們最終鎖定了來自金山軟件、Zilliz、騰訊、靈犀量子的四位技術專家。他們將從信息流轉、湖倉一體、Spec-Coding 到動態認知進化，為你拼出一張完整的上下文工程技術地圖。

1 金山軟件：Agent 不是傳聲筒，而是“信息流轉”的處理器

架構痛點

目前的很多 Agent 極其脆弱，本質上只是一個“大模型接口的封裝”。在面對復雜業務時，它們缺乏對信息的“消化”能力——不知道什么該記入長期記憶，不知道如何組裝短期上下文，導致任務執行混亂。

嘉賓解法

金山軟件 AI 產品中心應用落地研發負責人陳斌，將從“信息流轉的第一性原理”出發，分享 Agent 架構設計的工程規范。

• 核心觀點：Agent 應當從被動的信息處理器，進化為能驅動復雜任務的智能力量。

• 關鍵技術：

• • 記憶工程規范：深入拆解External Memory（RAG/ 工具）與Working Memory（工作記憶）的劃分原理。

  • 長短期記憶調度：探討在實際業務中，如何平衡記憶檢索的“速度”與“深度”，實現信息的高效流轉與智能組裝。

  • 落地實踐：分享在金山辦公等真實業務場景中打磨出的上下文構建經驗。

2 Zilliz：RAG 的下半場，是 Context Engineering 的基礎設施

架構痛點

RAG（檢索增強生成）已經成為標配，但核心挑戰已從“這就跑通”變成了“大規模落地”。如何解決 Long Context 帶來的昂貴成本？如何在多租戶場景下平衡寫入與查詢的放大效應？

嘉賓解法

Zilliz 研發總監兼 Milvus 負責人劉力，將帶來 Milvus 在 Context Engineering 中的湖倉一體實踐。

• 核心觀點：Informational Context 的核心矛盾在于“質量 vs 數量”。RAG 必須進化，解決非結構化數據全生命周期的管理問題。

• 關鍵技術：

• • 搜索策略演進：既然單純的向量搜索不夠準，那就引入混合搜索、ColBERT、聚合搜索等新式方法，保證 Context 的“質”。

  • 多租戶挑戰：揭秘在海量數據下，如何在寫入和查詢放大間取得平衡，實現性能與成本的最優解。

  • 湖倉一體閉環：展示從 Data Mining 到 Model Training 再到在線服務的非結構化數據生命周期管理方案。

3 騰訊：拒絕模糊需求，用“上下文工程 2.0”重構開發流

架構痛點

企業級開發中最大的內耗來自“需求模糊”和“協作斷層”。AI 輔助編程如果只是補全代碼，無法解決核心的工程一致性問題。如何讓 AI 理解整個項目的“上下文”？

嘉賓解法

騰訊資深技術產品專家汪晟杰將帶來 CodeBuddy 的落地實戰，提出 “Spec-Coding”的新范式。

• 核心觀點：上下文工程 2.0 是將“需求→規則→實現”打通為可閉環鏈路。

• 關鍵技術：

• • Spec-Coding 引擎：利用SpecKit將自然語言需求結構化為任務、約束與驗收標準。

  • 自動化閉環：也就是Rule Engine + Context Orchestrator。AI 不再是瞎寫代碼，而是基于工程規則庫自動拆解任務、生成代碼并執行測試。

  • 實效數據：實踐表明，該方案可使開發周期縮短 30%～50%，顯著降低缺陷密度。

4 靈犀量子：邁向 AI Scientist，智能體的“自我進化”之路

架構痛點

通用大模型在面對醫學科研等高度專業、長周期的任務時，往往表現出“知識固化”和“規劃脆弱”。靜態的 Prompt 無法應對動態的科研探索，AI 需要像科學家一樣，從失敗中學習。

嘉賓解法

靈犀量子醫療科技總經理王則遠博士，將分享一種前沿的 AI Scientist 架構，聚焦于“動態上下文優化”。

• 核心觀點：從In-Context Learning進化到In-Task Learning。建立一個隨任務進程自適應更新的“行動手冊”。

• 關鍵技術：

• • “模式探索 - 過程反思”雙循環：這是一個元認知系統。在線挖掘高價值行動模式，離線對失敗路徑進行因果歸因（Process Reflection）。

  • 動態重規劃：規劃器（Planner）不再是一次性的，而是根據環境反饋進行局部路徑的動態調整與剪枝。

  • 工具接地（Tool Grounding）：AI 不再是簡單調用 API，而是理解工具的副作用與參數語義，實現真正的 Tool Manipulation。

5 結語

從金山的信息流轉架構，到 Zilliz 的數據底座；從騰訊的研發效能落地，到靈犀量子的前沿認知探索。

這四場演講，代表了 Context Engineering 在不同維度的技術實踐。如果你關注如何構建可信賴、可擴展、可控的復雜 AI 系統，這一場論壇絕對不容錯過。掃碼報名，見證 AI 系統架構的代際升級。