Agent下半場！比Prompt更重要的是「上下文工程」，Anthropic首次系統闡述

Anthropic發布Claude Sonnet 4.5時順便也發了一篇文章，講的是上下文工程

Anthropic認為，隨著AI進入Agent時代，構建語言模型的重點正在從“為提示找到正確的詞語和短語”，轉向一個更大的問題：“什么樣的上下文配置最有可能產生我們期望的模型行為？”，簡單來說，提示工程（Prompt Engineering）正在自然地演進為上下文工程

上下文，是AI智能體的核心動力，但它既寶貴又有限，這篇文章將深入探討一系列策略，教你如何高效地篩選與管理這些關鍵信息

上下文工程 vs. 提示工程

首先，什么是上下文工程？

Anthropic給出的定義是：為LLM在推理過程中，策劃和維護最優信息（tokens）集合的一系列策略

它與我們熟悉的提示工程有何不同？

提示工程：主要關注如何編寫和組織LLM的指令，以獲得最佳輸出，特別是系統提示（System Prompt）。它的核心是“寫好提示詞”，通常應用于單輪查詢任務

上下文工程：關注的是管理整個上下文狀態，包括系統指令、工具、外部數據、歷史消息等所有可能進入上下文窗口的信息。它的核心是管理信息流，是為需要在多輪推理和更長時間跨度上運行的AI Agent量身定制的

用一張對比圖展示二者的區別：

左側的提示工程，流程簡單：系統提示+用戶消息，直接生成回復

右側的上下文工程，則是一個動態循環：模型需要從一個包含文檔、工具、記憶文件、歷史消息等龐大的“可能上下文池”中，通過一個“策劃”環節，篩選出最優信息組合，填入有限的上下文窗口，然后才能進行思考、調用工具并生成下一步行動

這個“策劃”過程，在Agent的每一次決策循環中都會發生，是上下文工程的核心

為什么上下文工程如此重要？

Anthropic指出，盡管LLM能處理越來越大的數據量，但它們和人類一樣，在某個點上會失去焦點或感到困惑

研究已經揭示了“上下文腐爛（Context Rot）”現象：隨著上下文窗口中的令牌數量增加，模型準確回憶其中信息的能力會下降

這種現象背后的根本原因，源于Transformer架構的內在限制。每個令牌都需要與上下文中的其他所有令牌建立關系，這導致了n2的成對關系復雜性。當上下文變長時，模型的“注意力預算（attention budget）”會被攤薄

因此，上下文是一種有限且邊際效益遞減的寶貴資源。優秀的上下文工程，就是要找到那個能最大化期望結果可能性的、最小的高信噪比令牌集

高效上下文的“解剖”

如何進行有效的上下文工程？Anthropic從實踐層面給出了三大核心組件的指導原則。

1. 系統提示：找到恰到好處的平衡點

系統提示是門藝術，需要避免兩個極端：

過于具體：在提示中硬編碼復雜的if-else邏輯，會導致系統脆弱，難以維護

過于模糊：給出高級別的、模糊的指導，無法為LLM提供具體的行為信號

最佳實踐是找到一個“黃金區域”：指令既要足夠具體以有效指導行為，又要足夠靈活以賦予模型強大的啟發式能力

Anthropic建議將提示結構化為不同部分（例如背景信息、指令），其核心原則是：力求用最精簡的信息，來完整地闡明預期的行為

2. 工具：像設計優秀代碼庫一樣設計工具

工具定義了Agent與環境交互的契約。好的工具應該像設計良好的代碼庫中的函數一樣：

自包含、功能內聚，盡量減少功能重疊

對錯誤有魯棒性

意圖清晰，輸入參數描述明確、無歧義

最常見的失敗模式是“臃腫的工具集”，這會讓Agent（甚至人類工程師）難以抉擇。精簡、可行的工具集是上下文工程的關鍵

3. 示例（Few-shot Prompting）：重質而非量

提供示例是公認的最佳實踐。但Anthropic不建議將大量的邊緣案例塞進提示中

正確的做法是，策劃一組多樣化、規范化的示例，這些示例能有效地描繪出Agent的預期行為。對于LLM來說，好的示例一圖勝千言

從預加載到即時檢索：Agentic Search

傳統的RAG等方法，傾向于在推理前就檢索并“預加載”所有相關信息。而Anthropic觀察到一個新趨勢：“即時”上下文策略

在這種模式下，Agent只維護輕量級的標識符（如文件路徑、URL），并在運行時使用工具動態地將數據加載到上下文中。這就像人類不會記住所有信息，而是通過文件系統、書簽來按需檢索

Claude Code就是這種方法的實踐者。它可以通過head和tail等Bash命令分析大型數據庫，而無需將整個數據庫加載到上下文中

這種方法也支持漸進式披露，允許Agent通過探索逐步發現相關上下文，每次交互都會為下一次決策提供信息

當然，運行時探索比預計算慢，因此最佳策略可能是混合模式：預先檢索部分關鍵信息以提高速度，同時賦予Agent自主探索的權力

應對長時程任務的三大策略

當任務（如大型代碼庫遷移）的持續時間遠超單個上下文窗口的容量時，需要專門的技術來維持連貫性。Anthropic分享了三種核心策略：

1. 壓縮

當對話接近上下文窗口極限時，讓模型對現有內容進行總結和壓縮，然后用這個摘要開啟一個新的上下文窗口。這能以高保真度的方式提煉關鍵信息（如架構決策、未解決的bug），同時丟棄冗余內容（如過時的工具輸出）。最簡單的一種壓縮形式就是清理舊的工具調用和結果

2. 結構化筆記

也稱為“智能體記憶（agentic memory）”。這是一種讓Agent定期將筆記持久化到上下文窗口之外的內存中的技術。這些筆記可以在稍后的時間點被重新拉回上下文

Anthropic展示了一個讓Claude玩《寶可夢》的例子：Agent在沒有被明確提示的情況下，自主學會了創建待辦事項列表、繪制探索過的區域地圖、記錄戰斗策略等。當上下文重置后，它能通過讀取自己的筆記，無縫銜接之前的進度，完成長達數小時的游戲任務

3. 子智能體架構

與其讓單個Agent維護整個項目的狀態，不如讓專門的子智能體處理集中的任務。一個主智能體負責高層級的規劃和協調，而子智能體則深入執行技術工作或信息檢索，并只返回一個精煉的摘要。這種“關注點分離”的模式，在復雜研究任務中被證明比單智能體系統有顯著的優勢。

如何選擇？

壓縮：適用于需要大量來回對話的任務

筆記：適用于有明確里程碑的迭代式開發任務

多智能體：適用于并行探索能帶來收益的復雜研究和分析任務

上下文工程代表了構建LLM應用方式的根本性轉變

隨著模型能力越來越強，挑戰不再僅僅是制作完美的提示，而是在每一步都深思熟慮地策劃哪些信息能進入模型有限的注意力預算

無論是為長時程任務實現壓縮，設計高效的工具，還是讓Agent“即時”探索環境，其指導原則始終如一：找到最小的高信噪比令牌集，以最大化期望結果的可能性

即使未來模型變得更加自主，將上下文視為一種寶貴的、有限的資源，仍將是構建可靠、高效Agent的核心

參考：

https://www.anthropic.com/engineering/effective-context-engineering-for-ai-agents