深度解析丨智能體架構，利用文件系統重塑上下文工程

智能體架構：利用文件系統重塑上下文工程

在現代 AI 系統設計的宏偉藍圖中，深度智能體的一個核心特征在于它們能夠駕馭一套文件系統工具。通過這些工具，深度智能體得以在文件系統中執行讀取、寫入、編輯、列出目錄以及搜索文件等操作。這不僅僅是功能的堆疊，更是智能體認知架構的一次重要升級。

為了理解文件系統的價值，我們必須先審視當下的智能體在哪些環節容易遭遇瓶頸。它們失敗通常歸結為兩個核心原因：模型本身的推理能力不足，或者它們未能獲取到正確的上下文信息。

一、 透視上下文工程的本質

Andrej Karpathy 曾形象地將上下文工程描述為一門將恰到好處的信息填入上下文窗口，以進行下一步操作的微妙藝術與科學。理解上下文工程及其失效模式，是構建高可靠性智能體的基石。我們可以通過上下文工程這個視角，來重新審視現代 AI 工程師的工作流程。

在理想狀態下，智能體擁有海量的全集上下文，例如所有的支持文檔或代碼庫。為了解決一個具體問題，智能體需要精準定位到其中包含答案的那一部分關鍵上下文。然而，在智能體抓取上下文并將其拉入上下文窗口的過程中，常常會出現偏差。上下文窗口可以被理解為 AI 的短期記憶容量，其處理信息的帶寬是有限的。

從這個角度看，上下文工程導致智能體失效的路徑主要有三種：

• ?檢索盲區：如果智能體需要的上下文根本不在它能訪問的總庫里，那它注定失敗。

例如客服智能體需要某篇文檔來回答問題，但這篇文檔根本沒被索引。

• ?檢索偏差：如果智能體抓取的內容里沒有包含它真正需要的信息，它也無法正確回答。

這通常表現為文檔雖然存在且被索引，但檢索算法未能將其提取。

• ?資源冗余：如果智能體抓取的內容遠遠多于實際需要的，那就是在浪費資源。

例如客服智能體只需要特定的一頁紙，結果它一口氣抓了 100 頁。這不僅造成 Token 的浪費，過多的噪聲還可能干擾模型的判斷。

作為智能體工程師，我們的優化目標是讓智能體抓取的上下文與實際所需的上下文盡可能重合。

二、 工程實踐中的四大挑戰

在試圖精準分離出這部分恰當的上下文時，我們會遇到幾個具體的工程挑戰：

1. Token 溢出：有些工具（比如網絡搜索）會返回大量的 Token。

僅僅幾次網絡搜索，對話歷史中就可能堆積成千上萬的 Token。

``你最終可能會遇到 HTTP 400 錯誤，但在那之前，你的 LLM 賬單早就爆炸了，而且推理性能也會顯著下降。

2. 超長上下文需求

有時智能體確實需要大量信息才能回答問題。

這種情況導致所需上下文的數量迅速增長，直到超出模型的上下文窗口限制 $$Context_{required} > Context_{window}$$。

3. 長尾信息檢索

智能體可能需要引用埋藏在成百上千個文件中的某個冷門信息來處理輸入。

如果找不到，那么抓取的上下文就無法支撐問題的解答。

4. 持續學習與記憶

最終用戶往往會在互動中隱式或顯式地提供線索。

如果智能體無法將這些新知添加到自己的上下文中，那么總上下文就永遠無法覆蓋實際需要的上下文。

三、 解決方案：文件系統作為認知擴展接口

文件系統提供了一個單一且標準化的接口，通過它，智能體可以靈活地存儲、檢索和更新無限量的上下文。

這實際上是為智能體掛載了一塊無限容量的外部存儲器。

讓我們看看這如何解決上述的每一個場景。

1. 應對 Token 溢出：文件系統即草稿紙

智能體不必將所有的工具調用結果和筆記都塞進對話歷史記錄里，而是可以將它們寫入文件系統，然后在必要時有選擇地查找相關信息。

以網絡搜索為例。

當工具返回了 1 萬個 Token 的原始內容時，大部分數據可能是噪聲。

如果直接將其塞入消息歷史，這 1 萬個 Token 就會一直駐留并推高成本。

但如果我們把這個巨大的結果卸載到文件系統中，智能體就可以像程序員一樣，使用grep等工具搜索特定的關鍵詞，只將必要的幾行上下文讀入對話中。

在這個架構中，智能體有效地將文件系統用作了處理大量上下文的草稿紙，實現了信息的降噪處理。

2. 應對超長上下文：動態存儲與檢索

當 $$Context_{required} < Context_{window}$$ 這一假設被打破時，文件系統提供了一個極佳的抽象層，允許 LLM 動態地換入換出信息：

• ?長周期任務規劃：智能體將制定的計劃寫入文件，在后續步驟中按需讀取，以保持對任務目標的專注。

• ?多智能體協作：子智能體將工作成果寫入文件系統，而非直接回傳給主智能體。這最大程度地減少了傳聲筒游戲帶來的信息失真。

• ?復雜指令集管理：對于需要大量操作說明的場景，與其填充臃腫的 System Prompt，不如將其作為文件存儲，讓智能體在需要時動態讀取。

3. 精準定位冷門信息：確定性搜索的回歸

在 LLM 浪潮早期，語義搜索是主流。

它在通用文本上表現尚可，但在技術文檔或代碼檢索中，由于缺乏精確的字面匹配，效果往往差強人意。

文件系統允許智能體使用ls、glob和grep等工具進行確定性搜索。

現代模型已經具備了理解文件系統邏輯的能力，這使得它們能夠像熟練的工程師一樣遍歷目錄。

glob和grep允許智能體不僅隔離特定的文件，還能定位到特定的行和字符。

配合read_file工具，智能體可以僅讀取文

件中最關鍵的片段。

這種基于文件系統的精確搜索，在特定場景下可以作為語義搜索的有力補充。

4. 實現持續學習：自我更新的系統指令

改進智能體的最佳途徑通常是確保它們能訪問正確的上下文。

我們認為智能體的指令或技能與它們可能想要處理的任何其他上下文沒有什么不同。

文件系統可以作為智能體存儲和更新自身指令的地方。

當用戶提供反饋或糾正時，智能體可以立即寫入自己的配置文件并記住這條重要信息。

這對于記錄用戶的姓名、偏好或特定的一次性事實非常有效。

這是一種令人興奮的新模式，它讓 LLM 能夠隨著時間的推移增長自己的技能組合和指令，實現真正意義上的在干中學。

Last but not least

將文件系統引入智能體架構，本質上是賦予了 AI 像人類一樣的持久化記憶與精確檢索能力。

這不僅突破了上下文窗口的物理限制，更為構建真正具備長期規劃與持續學習能力的通用智能系統奠定了工程基礎。

關注公眾號，用極客視角洞察未來！