大模型的“健忘癥”有藥了

天才得了“健忘癥”

過去的一年，大模型行業陷入了一場關于數字的軍備競賽。

從最初的8k Token上下文窗口，到隨后的32k、128k，乃至近期已經有人喊出百萬乃至千萬級窗口。業界一度相信，只要窗口足夠長，模型就能記住一切。企業主們試圖將整座公司的知識庫，倒入深不見底的輸入框，以此煉就一位全知全能的數字員工。

然而，愿望很美好，現實很骨感。

在電商客服場景中，即便接入了頂流模型，支持超長文本，一旦對話超過十幾輪，博學的AI依然會展現出“健忘”的一面：用戶開門見山提到海鮮過敏，第五輪咨詢商品時，AI依然熱情推薦了含有海鮮的商品。而用戶試圖追溯之前的對話細節，提醒“基于我一開始說的預算”，模型卻開始顧左右而言他。

大模型落地商業場景，常常遭遇隱形的高墻：輸入越長，長程記憶越模糊；輪次越多，舊信息越快消散。

技術原理決定了這種局限。Transformer架構再先進，面對超長序列時，注意力機制也容易嚴重衰減。在人身上，這叫做“近因效應”，即對新發生的事情印象深刻，但久遠的信息則被遺忘。在大模型身上，這意味著早期的精心指令會被后續的對話稀釋，直到消失。

為了維持“記憶”，開發者不得不采取笨拙且燒錢的策略：把歷史對話一次次打包，再次喂給模型。這就像為了讓對方記住名字，你得在每句話開頭都重新自我介紹一遍。Token消耗快速增長，每一次的簡單問答，都是在燒錢。

多智能體的復雜任務中，缺失記憶共享機制，AI還會出現混亂。

企業通常將銷售、客服、推薦、售后拆分給不同AI智能體。用戶已向咨詢智能體說明送貨地址，但到售后智能體時仍需重新回答；用戶剛向投訴智能體抱怨產品質量，推薦智能體轉頭繼續推送產品升級版。這些場景本質上指向同一個問題：沒有共享的長期記憶，AI之間無法協同，更談不上理解。

現有的技術框架下，智能體往往各自維護獨立的上下文窗口，這種割裂感導致了嚴重的決策沖突。

成本高昂、容易遺忘、協作割裂。企業花了大價錢引入大模型，得到的往往不是經驗老到的資深員工，而是一群如果不反復重申指令就容易搞砸事情的“實習生”。

一個更接近人類記憶的方案，勢在必行。

像人類一樣記憶

“健忘”已成為制約大模型進一步提升的關鍵瓶頸。

過去一年，OpenAI、Anthropic、Google都在給大模型加“記憶層”，只是大多停留在產品功能層面，比如保留用戶偏好、常見設定、近期對話線索，他們不知道什么該記，什么不該記。

而人工智能公司“紅熊AI”嘗試把“記憶”做成一套可管理、可共享、可追溯的基礎設施，用來支撐多智能體、企業級應用和長期任務。這家從2024年11月份開始研發，內部商業化，到2025年11月經歷過1年的時間，正式對外發布“記憶熊”，試圖用反直覺地解決問題：跳出上下文窗口的參數競賽，轉向記憶科學。

底層邏輯并非“記住更多”，而是“記住更有價值的信息”。

記憶發端于數據。數據是未經加工的事實，例如37.5是個數字；當被處理并賦予意義，它便成了信息，如體溫37.5攝氏度；信息進一步結構化，結合專業推論，形成“體溫37.5度屬于低燒”的判斷，這便是知識；最后，知識轉化為指導行為的能力，經過長期沉淀及驗證，形成記憶，就可以給醫生進行治療決策。

在人類的認知視角下，存儲不等于記憶。硬盤是容器，而記憶是動態的生命過程。紅熊AI試圖將人類大腦的記憶機制映射到AI架構中：

短期工作記憶，用于保持任務連接。這種模擬人類“感官緩存”的記憶，利用情感傾向加權算法，識別帶有強烈情緒或關鍵指令的數據（如憤怒的投訴、明確的截止日期），將其標記為高優先級。

長期顯性記憶，對應知識庫和模型參數，用于沉淀經驗；以及隱性記憶，對應用戶偏好、企業“暗知識”，用于形成習慣和判斷。

隱形記憶存儲了用戶的偏好模型、任務的隱式規則以及企業的“暗知識”，這是傳統數據庫最難處理的部分。比如，用戶提到“加班”，AI應自動聯想到“咖啡”或“打車”。同時將標準工作流程內化為“程序性記憶”，使AI在面對憤怒客戶時，本能地執行安撫流程。

這部分記憶不會固化在大模型參數中，而由獨立的“記憶模塊”來存儲和管理。系統的記憶萃取引擎可以決定：哪些應該保留？哪些應該遺忘？哪些應該在下一次用戶提問時主動調用？

通過這種分層映射，記憶熊在硅基芯片之上重建了一套數字化記憶系統：“數字海馬體”負責將信息加工、編碼，“數字皮層”則作為倉庫，長期存儲知識和過往經歷，而“數字杏仁核”則負責綁定情緒。

事實上，大模型深度賦能垂直行業的前提，正是擁有如人類般出色的記憶機制。

沒有記憶，AI只能永遠停留在“即時生成”的階段，它能回答每一次問題，卻無法從交互中成長。解決了記憶問題，AI才能進化為兼具理解與推理能力的智能體。

硅腦加裝記憶外掛

精妙的記憶機制對技術能力提出了更高要求。

記憶熊的做法是構建記憶圖譜，將各類記憶內容用結構化方式表達出來，挖掘分析這些記憶及相互關系，進而匹配出不同業務場景下需要的記憶和結構。這種結構化能力也賦予了AI一定的聯想與多跳推理的能力，使得信息更連貫、推理更準確的同時，也能聯動相關場景和背景知識。

如此一來，類似于人們聽到“早晨”一詞聯想起“旭日東升”、“豆漿油條”、“公園遛鳥”或“交通擁堵”的使用場景也就不難實現了。

同時，記憶熊打通了平臺，讓智能體共用同一套用戶記憶，不再各自為政，確保用戶意圖、情緒、歷史問題等多樣化標簽無縫傳遞。用戶一次提供信息，智能體同步獲取，智能體群控記憶共享率達到了99.99%，基本能夠消除因記憶不同步導致的服務問題。

這種針對“大模型健忘癥”核心癥結的深層次優化，使得記憶熊做到了“省、準、快”，為大模型在垂直領域的商業落地奠定了基礎。

首先，是成本斷崖式下降。通過引入獨特的記憶分層存儲機制，不需要每一輪對話中都回傳所有的歷史信息，壓縮短期記憶為長期記憶摘要。這一機制讓多輪對話累計的Token消耗直接降低了90%，對于那些每分鐘都在燒錢的大模型應用來說，無異于神助。

其次，是精準度數量級提升。使用動態語境校準和智能語義剪枝技術，記憶熊將垂直場景的幻覺率壓低到了0.2%以下，端到端的回應準確率達到了99.6%，大模型不再一本正經地胡說八道。特別在代表復雜邏輯能力的多跳推理和時序記憶上，記憶熊的表現領先諸多主流框架，證明它具備了區分過去與現在的時間感。

最后，是響應時間進一步縮短。人機交互中，延遲關乎體驗。記憶熊基于向量的非圖譜版本，成功將搜索請求的中位響應時間（Search Latency P50），即普通用戶最常見的速度體驗控制在0.137秒；語音交互場景下應答延遲僅0.8秒。當你話音剛落，AI的回答已經到達耳邊，對話流暢自然。

“記憶即資產”

“記憶”的突破，終將重塑商業的形態。

在商業世界里，大模型有沒有記憶，差異尤為明顯。

客服AI若記不得用戶投訴過的細節，就只能重復問題，無法取代真人；企業知識若不能不能轉化為經驗沉淀在系統里，AI就只能永遠充當知識庫；在教育、醫療及投顧等行業，若AI無法與客戶建立持續深入的聯系，它就無法進入高信任度的場景。

記憶不僅僅是一個功能，更是一種身份。

當AI有了持續的記憶，它就第一次具備了回答“我是誰？”、“我在與誰溝通？”、以及“我們之前達成過什么共識”的能力。

為充分利用記憶資產，紅熊AI記憶熊產品明確了三條產品主線，分別是隱性記憶的顯性化、記憶的結構化處理，以及記憶的場景化應用。簡而言之，就是要將把AI與用戶的交互沉淀為記憶，并在不同的業務場景下發揮作用。

模型參數里只有可復述的顯性知識，但要企業的護城河往往在于隱性經驗：金牌銷售如何破冰？資深技工如何聽音辨位？這些過去依賴個人經驗的“暗知識”，現在可以通過記憶熊被結構化地沉淀下來，成為組織記憶，而非單個員工的獨家記憶。

大模型沒法記住一切，因為內容越多、參數越大、會話越長，則成本越高、遺忘越快、幻覺越多。記憶熊能幫助大模型構建一個“語義剪枝+記憶錨定+情境校準”的機制，結構化處理記憶，只保留與用戶身份、歷史行為及任務目標有關的核心記憶。

在企業的真實業務場景中，往往是多個智能體協同工作。記憶熊能記憶變為組織資產，而不是單個智能體的獨家記憶，提升記憶共享率，則是模型協同的關鍵。

這三件事，推動記憶從技術功能拓展為商業基礎設施。當企業開始關注“AI是否能復用經驗、是否能像老員工一樣理解上下文、是否能形成組織記憶”時，AI正式從工具進入體系階段。

結尾

參數規模的戰爭終將結束，但智能體的進化才剛剛開始。

參數規模不是終局，記憶才可能成為真正的操作系統級入口。AI的下一場戰役，不是“誰回答得更好”，而是“誰更記得住”，這仍然是一場初創公司可以參與的競爭。

跳出具體的商業場景，記憶實際上是通往通用人工智能（AGI）的必由之路。

沒有記憶，就沒有推理；沒有記憶，也就沒有智能。人類之所以成為萬物之靈，是因為我們擁有強大的記憶系統，能夠跨越時空積累經驗，從歷史中預判未來。

當前大模型雖然在語言生成上表現驚艷，但在邏輯推理、長期規劃和自我進化上，依然有著巨大的進步空間。這歸根結底，是因為它們缺乏一個穩定、連續且可塑的記憶系統。

紅熊AI的探索，實際上是在補全AGI拼圖中最關鍵的一塊。它不僅讓AI感知到數據的模式，還能理解并記住世界的規則。

紅熊AI于2025年11月30日正式將記憶熊產品完全開源，邀請全球的開發者共同參與這場關于AI記憶的重構。

也許就在不久的將來，大模型的健忘癥很快被治愈，一個擁有“累積性智慧”的時代就此徐徐拉開序幕。

本內容由作者授權發布，觀點僅代表作者本人，不代表虎嗅立場。如對本稿件有異議或投訴，請聯系 tougao@huxiu.com。

本文來自虎嗅，原文鏈接：https://www.huxiu.com/article/4811016.html?f=wyxwapp