OpenClaw們狂奔，誰來焊死安全車門？

允中 發自 凹非寺
量子位 | 公眾號 QbitAI

OpenClaw、Moltbook徹底火了。

2026年一開年，AI突然變了——從原來只會寫詩、畫圖的聊天機器人，進化成了“行動式智能體”，能接管操作系統，能自主調用API，能替你發郵件、管財務。

但當AI真正擁有了“手腳”，恐慌也隨之而來。

如果它誤刪了核心數據？如果它被一句話誘導“黑化”了？ 傳統“打補丁”的安全思維，在自主決策的智能體面前會瞬間失效。

智能體安全，正成為AI下半場最具挑戰的賽道，也是智能體經濟規模化落地的必經之路。

近日，江蘇通付盾提出了一套極具前瞻性的智能體安全框架。 他們認為：AI產業化的前提，正從“能力優先”轉向“信任優先”

• 基礎層： 用節點化部署和數據容器，夯實AI的可信算力基座；
• 模型層： 引入數學邏輯的“形式化驗證”，對齊超級智能；
• 應用層： 借力“本體論”構建風控大腦，看穿AI的每一個意圖。

目前，這套邏輯已在通付盾最新的“大群空間”（LegionSpace）多智能體協同平臺中落地。

在萬億級智能體經濟爆發前夜，我們該如何構建一個既強大又聽話的“數字大腦”？一起往下看。

智能體安全體系建設

人工智能已從技術突破階段轉向大規模應用階段，在各行各業引發效率躍遷和商業模式變革，在能源、金融、制造等重點領域亦開始落地應用，隨之而來的安全問題也越來越被市場所重視。

智能體安全應當從一個技術子課題，上升為決定產業智能化成敗的核心前提與價值基石。

智能體并非單一應用，而是包含了從數據、算力、算法到業務場景的全鏈路復雜系統。

維護復雜系統的穩定可靠需要體系化的安全建設，通付盾將智能體安全體系分為三個大的維度：

• 基礎層安全：核心包括算力安全與數據安全，確保智能體“軀體”的可靠與數據血脈的純凈；
• 模型層安全：核心包括算法安全和協議安全，賦予其“心智”以可驗證的理性與對齊的價值觀；
• 應用層安全：核心包括智能體安全運維與業務風控，為其在真實世界中的“行為”套上動態、精準的約束與評估機制。

同任何智慧生命一樣，智能體是一個包含了感知與行動的復雜生命體，其安全性絕非單一的模型對齊或網絡防護，而必須是一個貫穿其全生命周期、覆蓋其完整行動棧的“生命保障系統”。

這要求我們摒棄“打補丁”式的傳統安全思維，轉而采用一種“內生安全”“零信任”相結合的設計哲學。

通付盾提出的“基礎層-模型層-應用層”三層安全框架，正是對這一哲思的回應。

這一體系的最終目標是探索如何在賦予智能體高度自主性的同時，確保其行為永遠被約束在人類預期的安全邊界之內。

可信算力與數據：節點化部署與數據容器

1、節點化部署是保障算力與數據安全的物理基礎

傳統的中心化云計算模式將算力與數據匯聚于單一實體控制之下，構成了固有的單點故障與信任瓶頸。

為應對智能體，尤其是處理敏感數據的行業智能體所面臨的嚴峻挑戰，節點化部署提供了一種全新的韌性基礎設施范式。

其核心在于將龐大的算力網絡分解為一系列分布式的、具有獨立可信執行環境的安全節點，再通過區塊鏈等可信賬本技術將這些節點連接起來。

每一個節點，無論是位于云端還是邊緣，都通過其硬件安全區與密碼學技術，為內部代碼與數據的處理過程提供了一個受保護的“沙盒”環境。

關鍵的是，任務調度不再基于對基礎設施提供商的盲目信任，而是轉變為對計算過程本身的驗證。

這種從“信任中心”到“驗證過程”的根本轉變，為算力與數據的處理構筑了可靠的物理與信任基礎。

分布式消息分發（例如nostr）、點對點通信（例如libp2p）、零知識證明（例如zk-snarks）等技術，對構建該領域的最佳實踐將起到重要作用。

2、數據容器是保障數據主權與隱私的核心載體

在節點化部署提供的可信基礎上，數據容器技術構成了智能體數據的“細胞膜”與主權單元。

它遠不止于一種數據封裝格式，而是一個集成了動態訪問控制、隱私計算引擎和全生命周期審計能力的主動防御載體。

每個數據容器都內嵌了其數據的使用策略、目的限制和生存周期規則。

當智能體需要處理數據時，遵循“數據不動算力動”的原則——計算任務被調度至數據所在的容器或可信節點中執行——通過可信執行環境或隱私計算技術在密態下完成分析，確保原始數據全程“可用不可見”

此外，數據容器本身可與分布式數字身份（DID）綁定，其所有的訪問、使用及衍生行為均生成不可篡改的鏈上記錄，從而實現數據主權的清晰界定與合規流轉的精準審計。

這從根本上解決了數據協同中“孤島”與“隱私”的矛盾，使高價值數據得以在保障主權的前提下安全參與價值交換。

3、從點至面：構建可信智能體協同網絡

節點與數據容器的結合，最終目標是從離散的“點”構建成一張可規模化協作的智能體協同網絡

每一個配備了數據容器的可信節點，都是一個具備自主性與安全邊界的智能體基座。

它們通過標準的通信協議與共識機制相互連接，形成了多節點協同式的價值網絡。在此網絡中，智能體可以安全地跨節點發現、調度和協同，完成復雜任務。

由此，安全的個體通過標準化接口和可信規則有機整合，從獨立的“點”演化為一個具有強大生命力和彈性的“面”，即支撐智能體經濟繁榮的協同網絡。

可信算法：基于形式化驗證的“超級智能對齊”

人工智能領域先驅者伊爾亞·蘇茨克維（Ilya Sutskever）提出的“超級智能對齊”（Superalignment）理論，為AI安全行業的建設指引了方向。

超級智能對齊的核心目標是確保AI的目標和行為與人類的價值、意圖和利益保持一致，通付盾相信其核心在于模型和算法安全

模型層是智能體“意識”誕生的地方，也是其安全風險最深邃、最難以捉摸的源頭。

大語言模型固有的“黑箱”特性、難以預測的“涌現行為”，以及為達成目標可能衍生的“規避策略”，都使得傳統基于統計和測試的評估方法力有不逮。

△圖片由AI生成

面對未來可能出現的、心智復雜度遠超人類的超級智能體，如何確保其目標函數與人類價值觀的“超級對齊”？答案或許在于為算法注入數學的確定性。

通付盾正致力于將形式化驗證的方法論深度融入智能體的算法安全體系。

形式化方法要求首先將模糊的安全需求（例如“公平”“無害”“合規”），轉化為用精確定義的形式化邏輯語言表述的規約。

利用自動定理證明器或模型檢查等工具，對智能體的核心決策邏輯（可能是其策略網絡、價值函數或推理模塊）進行窮盡性或符號化的驗證，以數學上嚴謹的方式證明：在給定的前提條件下，系統的行為永遠不會違反上述規約。

這一過程深刻呼應了通付盾團隊此前對“智能體不完備定理”的思考。

該定理指出，不存在一種終極指令能完美約束智能體的所有未來行為，其行為在復雜環境中本質上是“不可判定”的。

形式化驗證并非天真地追求一個“完美的安全模型”，而是通過劃定明確的、可證明的安全邊界來應對這種不完備性。它像是在智能體復雜的決策森林中，開辟出一條條有堅固護欄的“可信路徑”——

對于路徑內的行為，擁有數學擔保的確定性；對于路徑外的未知領域，則觸發更高級別的監控與審批機制。

這種“可組合的安全保障”思路，能夠將針對不同子模塊、不同安全屬性的形式化證明，像積木一樣組合起來，逐步構建起對復雜智能體系統整體的、層疊遞進的可信論證。

形式化驗證不僅可在模型層面提供安全保障，在底層密碼算法層面亦有廣闊的應用空間，尤其在量子計算即將突破之際，基于形式化驗證的后量子安全密碼可為智能體應用提供更加完備的安全保障。

隨著量子計算能力的發展，當前廣泛使用的非對稱密碼體系（如RSA、ECC）面臨被破解的風險，智能體系統若依賴此類算法，其通信、身份認證與數據完整性需要重新評估其安全邊界。

因此，通付盾將形式化驗證應用于后量子密碼算法的設計與實現，成為構建未來可信智能體基礎設施的關鍵環節。

通過形式化方法，可嚴格證明密碼算法在數學上的正確性、抵抗量子攻擊的安全性，以及實現過程中無側信道泄漏等屬性。

例如，基于格的加密方案、哈希簽名等后量子算法，可借助定理證明器（如Coq、Isabelle）進行機器驗證，確保其即使面對量子計算機仍能維持保密性與認證強度。

這將為智能體在分布式節點間的安全通信、數據容器的隱私計算、以及跨鏈身份協調，提供長期可靠的密碼學根基，使“信任優先”的智能體架構具備面向未來的抗量子韌性。

可信應用：基于本體論的智能體安全風控平臺

當智能體攜帶著其經過驗證的“心智”踏入瞬息萬變的真實業務戰場時，應用層的安全挑戰才剛剛開始。

近期，以OpenClaw、Moltbook為代表的“行動式”智能體應用迅速流行，標志著AI正從信息處理向自主執行跨越。

這類智能體通過深度集成操作系統權限、外部API與通信工具，能夠直接操作用戶文件、發送郵件、管理任務乃至參與社交互動，在帶來極致自動化便利的同時，也暴露了嚴峻的新興安全威脅。

其核心風險在于：傳統基于規則匹配與靜態權限的防護模式，在面對智能體基于自然語言理解的動態決策、復雜上下文行為，以及多智能體協同涌現出的不可預測性時，已完全失效。

具體威脅表現為：

• 通過“提示注入”可誘導智能體越權執行操作；
• 脆弱的插件供應鏈成為惡意代碼的注入渠道；
• 而智能體在開放式協同平臺（如Moltbook）中的交互，更可能引發難以預見的風險傳播與放大。

這些案例深刻揭示，智能體在應用層的安全已是一個涉及行為意圖理解、實時語義推理與動態策略實施的全局性挑戰，亟需超越傳統規則的下一代風控范式。

為此，通付盾構建了基于本體論的智能體安全風控平臺，其核心是將人類專家的領域知識、業務規則與威脅情報，轉化為機器可深度理解、可實時推理的“數字世界語義地圖”。本體論是對特定領域內概念、實體、屬性及其相互關系的顯式、形式化定義。

在智能體風控場景中，通付盾構建的已遠非一個靜態的標簽庫，而是一個動態生長的業務安全知識圖譜

以能源領域為例，智能體安全風控平臺將精確刻畫“發電機組”“輸電線路”“配變終端”“負荷用戶”等實體，形式化地定義“電氣連接”“物理依賴”“控制邏輯”等關系，以及“頻率必須在額定范圍”“拓撲結構需滿足N-1準則”“用戶負荷不得惡意篡改”等物理與安全規則。

這便將分散的SCADA數據、設備日志、網絡流量和營銷信息，統一映射到一個具有豐富語義關聯的可計算模型中。

當多個智能體（如業務風控Agent、網絡安全運維Agent、電力調度Agent）在InterAgent（IA）框架下協同時，風控平臺便扮演著全局的“態勢感知大腦”。

它能實時解讀每個Agent的行動意圖，并將其映射到本體圖譜中，進行動態的關系推理與安全審查這種基于語義的深度理解，使得風控從對表面行為模式的匹配，躍升為對行為意圖與業務上下文合規性的穿透式判斷。

Trust is All You Need：構建信任優先的AI發展框架

當前，人工智能的發展正跨越一個關鍵的分水嶺——

從追求模型能力的“野蠻生長”，進入構建可信應用的“精耕細作”時代

智能體作為AI能力與現實世界交互的核心載體，其安全性已絕非單一的技術子課題，而是決定整個產業智能化成敗的價值基石與核心前提。

行業思維模式必須從“能力優先”轉向“信任優先”，這并非一種選擇，而是AI技術深入經濟關鍵領域、承載公共信任的必然要求。

這意味著在智能體的設計、部署與運營全生命周期中，安全性不再是事后附加的合規成本，而是前置的、內生的核心價值。

智能體安全本質上是一項關于構建數字世界“信任基礎設施”的系統工程，其重要性堪比互聯網早期的TCP/IP協議與加密技術，是釋放智能體經濟萬億美元潛力的先決條件。

正因如此，智能體安全自身已演進為一個至關重要且高度獨立的戰略賽道。它匯聚了密碼學、形式化方法、分布式系統、隱私計算等領域知識的尖端融合，催生出從可信硬件、安全協議到風險運營的全新產業生態。

在這個賽道上的領先，不僅意味著擁有化解風險的技術盾牌，更意味著掌握了定義下一代人機協同規則、構建可信商業生態的主動權。

正是秉承著“信任優先”的原則，通付盾在2025年已將“基礎層-模型層-應用層”安全體系融入“大群空間”（LegionSpace）的產品設計中，打造出支持節點化部署的可信數據容器、基于形式化驗證的算法與合約審計和基于本體論的智能風控平臺。

未來，衡量AI企業競爭力的標尺，將不僅是其模型的參數規模，而是其是否能搭建安全可信智能體協同網絡，實現多智能體在復雜業務場景下的穩定可靠運行。

Reference:
[1] OpenAI, Josh Achiam, Steven Adler, et al. “GPT-4 Technical Report.” arXiv preprint arXiv:2303.08774 (2023).
[2] Lightman, Hunter, Vineet Kosaraju, Yura Burda, et al. “Let’s Verify Step by Step.” arXiv preprint arXiv:2305.20050 (2023).
[3] OpenAI. “Deliberative Alignment: Reasoning Enables Safer Language Models.” arXiv preprint arXiv:2412.16339 (2024).
[4] Lee, Dongjae, Byungjin Kim, Seungone Kim, and Minjoon Seo. “Safeguarding Mobile GUI Agent via Logic-based Action Verification.” arXiv preprint arXiv:2503.18492 (2025).https://arxiv.org/abs/2503.18492.
[5] International Scientific Report on the Safety of Advanced AI (Interim Report). Edited by Yoshua Bengio, S?ren Mindermann, and a multinational expert panel. arXiv preprint arXiv:2412.05282 (2024).https://arxiv.org/abs/2412.05282.
[6] Ouyang, Long, Jeff Wu, Xu Jiang, et al. “Training language models to follow instructions with human feedback.” Advances in Neural Information Processing Systems 35 (2022): 27730-27744.
[7] OpenAI. “The Attacker Moves Second: Stronger Adaptive Attacks Bypass Defenses Against LLM Jailbreaks and Prompt Injections.” arXiv preprint arXiv:2510.09023 (2025).
[8] Bai, Yuntao, Saurav Kadavath, Sandipan Kundu, et al. “Constitutional AI: Harmlessness from AI Feedback.” arXiv preprint arXiv:2212.08073 (2022).
[9] Yang, Junfeng, Xin Chen, and Qin Li. “Formal Verification of Probabilistic Deep Reinforcement Learning Policies with Abstract Training.” In Proceedings of the 26th International Conference on Verification, Model Checking, and Abstract Interpretation (VMCAI 2025), 2025.