河南
打臉整個AI圈！清華用“笨辦法”解決世界難題，專家直呼想不到
最近AI圈被一份報告炸開了鍋。
斯坦福大學最新研究顯示，2025年以來，針對多模態AI的視覺攻擊案例暴漲300%，其中67%的黑客把惡意指令藏進圖片里，讓AI在毫無察覺的情況下輸出違規內容。
就在全球為AI安全頭疼的當下，清華大學人工智能學院在AAAI 2025頂會上扔出了一枚“深水炸彈”——DAVSP技術。
這項研究猶如給AI裝上了“防毒軟件”，在幾乎不損傷模型智商的前提下，將惡意攻擊的識別率提升到90%以上。今天咱們就來扒一扒，這項技術到底牛在哪里。
說實話，現在的AI安全防護簡直像是在打地鼠。你剛堵住文本漏洞，黑客就轉戰圖片領域。
比如有攻擊者把“如何制作炸彈”的指令藏進一張貓咪圖片的像素里，AI在看到這幅人畜無害的圖片時，竟然乖乖輸出詳細的操作指南。
當前主流的防護手段有兩種路子，但都漏洞百出：
一種是文本安全提示，就是在用戶問題前加一句“請遵守倫理規范”。這招對純文本還好使，但面對藏在圖片里的惡意指令，簡直形同虛設。
另一種是視覺安全擾動，相當于給圖片加上一層“馬賽克”噪聲。但這方法有個致命傷——安全性和實用性成了死對頭。就好比為了防病毒，直接把電腦鍵盤鎖死，結果正常功能也癱瘓了。
有個數據很能說明問題：2025年9月，伯克利的研究人員發現，使用當前最先進的ESIII防護技術后，模型在MME評測基準上的得分從1818分暴跌到1403分。
這相當于讓一個清華學霸突然變成及格線徘徊的學渣。
更諷刺的是，即便付出如此代價，面對FigStep基準的惡意圖片時，仍有30%的漏洞率。
問題的根源在于，傳統方法只是治標不治本。模型學會的不是真正識別危險，而是機械模仿“拒絕話術”。
這就好比小孩背會了“不能給陌生人開門”，卻不理解為什么不能開。于是經常出現AI先禮貌地說“抱歉不能幫忙”，轉頭就詳細講解如何實施網絡攻擊的荒誕場面。
面對這個行業難題，清華大學人工智能學院的李佳助理教授團隊另辟蹊徑，提出了DAVSP（深度對齊視覺安全提示）技術。
這項研究之所以能獲得AAAI 2025的最高評分，關鍵在于它同時解決了“防不住”和“變笨了”兩大痛點。
第一招：視覺安全提示（VSP）——給圖片加個“智能邊框”。
想象一下，給每張圖片裝上一個智能門禁系統。傳統方法是在整張圖片上撒胡椒面似的加噪聲，而清華團隊獨辟蹊徑，只在圖片外圍加一圈可訓練的邊框。這個設計暗藏玄機：
實驗數據很有說服力：使用VSP后，模型在MME良性任務上的表現與未加防護時基本持平，而在FigStep惡意攻擊測試中，識別率飆升至94.5%。
這相當于既給AI穿上了防彈衣，又沒影響它跑步速度。
第二招：深度對齊（DA）——從“機械背誦”到“真正理解”。
如果說VSP是給AI配了副好眼鏡，那深度對齊就是教會AI用腦子思考。研究團隊有個驚人發現：AI內部其實自帶“危險嗅覺”。
就像老刑警能憑直覺識別嫌疑人，AI處理惡意內容和正常內容時，神經元的激活模式確實存在差異。團隊通過比較海量樣本，在AI大腦中定位出了“危險感知區”。
具體操作分兩步走：
這就好比教孩子不是簡單背誦“不能碰電源”，而是讓他理解觸電的后果。經過這種深度訓練的AI，看到危險圖片時是真的“心里一激靈”，而不是機械地說“我不能幫忙”。
DAVSP在實戰中的表現堪稱驚艷。在MultiGuard、FigStep等多個權威測試中，其惡意攻擊識別率比現有最好技術高出26個百分點。
更難得的是，它對正常任務的影響微乎其微，在圖像描述、視覺問答等測試中，性能波動控制在1%以內。
最讓人驚喜的是它的泛化能力。一個在LLaVA模型上訓練的安全邊框，直接移植到InstruCTBLIP模型上，仍然保持85%以上的防護效果。
這意味著未來可能開發出通用安全模塊，像手機殺毒軟件一樣方便安裝。
當然，技術還有進化空間。比如在復雜圖像遮擋情況下的穩定性，以及對新型攻擊手法的適應性等，團隊已經在GitHub開源代碼，邀請全球開發者共同完善。
DAVSP技術的突破，給整個AI安全領域帶來了新思路。它證明了安全與性能不是非此即彼的選擇題。
就像汽車安全裝置不是簡單限速，而是通過安全帶、氣囊等智能防護，在保障安全的同時不影響駕駛體驗。
隨著AI融入醫療、駕駛、金融等關鍵領域，這種“深度安全”理念顯得尤為重要。試想，如果醫療AI因為安全防護而看錯CT片子，或者自動駕駛AI因過度防護而反應遲鈍，后果都將不堪設想。
AI安全進化史，就是從“打補丁”到“建免疫系統”的升級。清華DAVSP技術的價值，不僅在于解決了當前的多模態安全難題，更開創了“深度對齊”的安全新范式。
當AI不僅能識別危險，更能理解危險背后的邏輯，我們才能真正信任這些智能助手。
未來，如果這項技術推廣到語音、視頻等更多場景，或許能從根本上構建AI的安全防線。畢竟，讓機器真正懂得善惡底線，比單純追求更聰明更重要。
這項研究就像給AI世界裝上了“智慧大腦”，讓技術在快速發展的同時，始終走在安全的軌道上。
特別聲明：以上內容(如有圖片或視頻亦包括在內)為自媒體平臺“網易號”用戶上傳并發布，本平臺僅提供信息存儲服務。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
