AI越來越能干，數據安全需要提前納入制度設計

3月7日下午，全國政協十四屆四次會議舉行第二次全體會議，全國政協委員、全國工商聯副主席齊向東在大會發言中提出，應以“AI+安全”雙輪驅動，筑牢現代化產業體系的根基。

齊向東委員表示，我國產業體系正處在由大到強、由全到優的關鍵躍升期，向現代化產業體系躍升，既是一場技術迭代，也是安全能力的系統性重塑，要以“安全前置”為核心導向，構建全鏈條、多層次的安全保障體系。

技術依賴及新技術伴生的安全風險，是產業體系轉型過程中面臨的突出挑戰。隨著人工智能深入生產、流通和服務環節，安全能力必須同步升級，否則智能化進程越快，潛在風險也可能越大。

這樣的提醒并非杞人憂天。過去一年，大模型能力持續提升，一種新的技術形態AI智能體快速發展，其可以持續運行、調用系統資源并執行任務，甚至具備一定程度的自主決策能力，從自動整理資料到遠程操作軟件，都可以做到。

在這股浪潮中，開源AI智能體項目OpenClaw通過整合多渠道通信能力與大語言模型，讓用戶可以在本地部署一個具備記憶和執行能力的AI助手，掀起了一股部署OpenClaw的熱潮。但技術能力越強，意味著安全的邊界也越復雜。近期，工業和信息化部網絡安全威脅和漏洞信息共享平臺發布安全預警，提醒防范OpenClaw開源AI智能體在默認或不當配置情況下存在的安全風險。

預警指出，由于其在部署時“信任邊界模糊”，同時具備持續運行、自主決策以及調用系統與外部資源等能力，如果缺乏權限控制、審計機制和安全加固，可能因指令誘導、配置缺陷甚至被惡意接管而執行越權操作，從而導致信息泄露或系統受控。

這一風險恰好印證了齊向東委員的判斷。當AI深度連接“云、網、端、數、用”時，安全不再是附加選項，而是基礎設施的一部分。智能化越深入產業鏈，安全能力越需要前置設計。

與此同時，AI應用正迅速進入大眾終端，從手機廠商到互聯網公司，都在加速推出“AI手機”或系統級AI助手。當AI手機可能面向數億用戶普及時，數據安全問題的復雜性將被進一步放大。

不同廠商采用的技術路徑不完全相同，有的依賴云端模型，有的強調本地大模型，還有的嘗試通過“模擬讀屏”等方式讓AI理解手機界面并操作應用。這也對數據安全提出了新的挑戰，一旦設計不當，AI手機助手可能變成新的隱私泄露點。

全國政協委員、中國科學院計算技術研究所研究員張云泉也指出，在AI智能體應用落地過程中，存在個人信息保護與數據安全意識淡漠的問題。在產品創新時有意無意忽視了隱私安全，通過特定方式過量搜集用戶數據、將敏感數據上云的問題值得重視。包括部分手機AI智能體在執行跨應用任務時繞過了應用官方的標準連接方式和授權機制，頻繁觸發被調應用的風控，會產生“信任赤字”與協作壁壘的風險。

可以看到，無論是工業互聯網中的AI系統，還是消費端的AI手機助手，本質上都在重塑人與系統之間的權限關系。當人工智能開始擁有更高權限時，安全與規則必須同步建立。只有把權限邊界、數據治理和隱私保護提前納入制度設計，這波智能化浪潮才能真正走得穩、走得遠。