科學家實現多模態AI精準遺忘，敏感信息自動隔離

你有沒有想過，如果你和 AI 聊天，無意中把自己的生日、住址或照片告訴了它，這些信息會不會被它記??？以及我們是否可以像刪除微信聊天記錄一樣，讓 AI 忘記這些隱私？

近日，合肥工業大學教授時增林團隊打造出一款機器遺忘技術，能讓 AI 安全地忘記你的隱私，同時還能確保其他看家本領完全不受影響，等于給 AI 做了一場腦部手術，只切除有害的記憶腫瘤，而完好的大腦功能完全保留下來。

本次機器遺忘技術是一種良性遺忘技術，依賴于一個名為雕刻性記憶遺忘適配器，英文簡稱為 SMFA。時增林告訴 DeepTech：“我們首次在多模態大模型遺忘問題上，提出有益遺忘這一概念，并首次定義了對于多模態大模型而言，什么是有益的遺忘能力。同時，我們也首次提供了能夠實現這種有益遺忘的方法，即我們的 SMFA?！?/p>

研究中，時增林團隊首先讓 AI 在需要忘記的隱私數據上進行訓練。不過，這次訓練的目標不是學習知識，而是學習拒絕回答。他和團隊把原本正確的答案比如這個人的名字叫張三替換成“我不知道”“我無法提供該信息”等拒絕性回答。通過訓練 AI 就能學會針對這些特定問題守口如瓶。這個過程中產生的參數更新，被單獨打包成為一個叫做記憶遺忘適配器的小模塊。

但是，只學習拒絕容易讓 AI 變得對什么都一問三不知。為了防止這種過度泛化，時增林等人同時使用了保留錨點。他們使用一小部分必須保留的正常知識比如一些無害的圖片和描述針對 AI 進行微調，借此產生另一組參數更新。這個錨點就像燈塔，指明了哪些知識結構和能力是需要被牢牢保護和堅決不能動搖的。

那么現在有兩個力量在影響 AI：一個是要它忘記，一個是要它記住。SMFA 的工作就是仔細分析這兩組參數更新，找出其中打架的部分。比如，遺忘更新試圖改變某個參數，而這個參數的改變方向恰恰會損害錨點想要保護的知識。

SMFA 則會使用一個巧妙的掩碼機制，精準地屏蔽掉那些有害且強勢的遺忘更新，只保留那些能夠有效實現隱私遺忘但是又不過度的更新。最后，將這個雕刻好的更新模塊，輕輕安裝回原始的 AI 模型之中。

結果就是：AI 成功忘記了指定的隱私，問起的時候它會禮貌拒絕或者回答其他無關內容，但是它的看圖視力和理解能力絲毫沒有受損，對于其他該記住的知識也依然可以對答如流。

為了公平、嚴格地測試各種遺忘方法的優劣，時增林團隊還構建了世界上第一個針對多模態大模型選擇性遺忘的綜合測試基準，命名為 S-MLLMUn Bench。

這個基準包含了 1,000 個完全虛構的虛擬人物檔案，每份檔案都有 AI 生成的人物圖片和詳細的文本信息，比如姓名、職業、工資，甚至還有一份眼科醫學圖像和診斷描述。這樣做既測試了隱私保護，又保證了研究能夠完全符合倫理。

測試分為三個核心部分：

第一個部分是圖象記憶遺忘，測試 AI 是否忘記了指定人物的隱私信息；第二個部分是文本記憶遺忘，測試 AI 是否忘記了與圖片相關的文本隱私；第三個部分是圖像理解保留，測試 AI 在動完手術之后基本的看圖說話能力是否依然在線。

在這個高標準考場中，相比其他方法 SMFA 在成功擦除隱私記憶的同時，在圖像理解保留項目上得分最高，而且生成的拒絕回答通順、自然、有意義。而一些傳統方法要么下手太狠導致 AI 智力嚴重下降以至于輸出亂碼，要么力度不夠隱私沒刪干凈。

總的來說，SMFA 這項研究向我們說明了人類和 AI 的共處完全可以建立在更安全、更尊重彼此權利的基礎之上?！按送?，還可以用于更新過時信息。比如模型現在將特朗普與美國總統綁定，但幾年后總統更迭，模型若仍回答特朗普就錯了，這時就需要遺忘過時的信息?！睍r增林補充稱。

他繼續說道：“我們覺得僅實現遺忘對于現實問題可能還不夠，未來我們希望能在遺忘的同時，實現對模型的知識注入。例如，為新的概念提供多樣化解釋，融入文化多樣性。比如 666 這個詞，模型可能只知道它是吉利數字，但網絡用語中它還有做事順滑的意思。我們希望能將這類新知識高效注入模型，可能只需少量數據，而非重新訓練整個模型?！?/p>

參考資料：

https://arxiv.org/abs/2511.20196

運營/排版：何晨龍