AI安全元年 | 盤點2025年AI與安全的“相愛相殺”

2025年，注定要被載入科技史冊。這一年，人工智能褪去了單純的效率工具與娛樂玩具的標簽，蛻變為如同水電一般的基礎能力，它從實驗室走向各行各業，切切實實的重塑著我們的生活。然而，伴隨人工智能的深度落地，人們迎來的是一場席卷全社會的 AI 安全博弈。這絕非簡單的技術攻防較量，更像是 AI 與安全之間的 “相愛相殺”，二者既相互依存——AI的落地離不開安全的護航；又彼此制約——安全的邊界又影響著AI的創新發展高度。政策的密集規范、技術的攻防博弈、產業的需求爆發，共同將這一年推為名副其實的“AI安全元年”。

一、AI安全開年警訊：服務器裸奔與數據信息危機

2025年的AI安全事件，以年初的服務器“裸奔”危機拉開序幕，全年風險貫穿始終，早已跳出技術圈的小眾討論，走進了普通人的生活。

2025年1月，爆火的大模型DeepSeek接連曝出安全漏洞——美國云安全公司Wiz Research評估DeepSeek的外部安全態勢時，發現了一個可公開訪問的ClickHouse數據庫，且未經身份驗證，其中包含超過100萬行的日志流以及大量聊天記錄、后端數據和敏感信息，如API密鑰等，并允許完全控制數據庫操作。而這僅僅是行業隱患的冰山一角。根據行業某安全企業監測顯示，當時國內九成本地化部署的AI一體機都處于無安全防護的狀態，企業因部署門檻降低，快速落地AI，卻普遍忽視網絡暴露面管理、API接口防護等基礎安全環節，而黑客僅需兩三天就能攻破這類服務器。

除了基礎設施風險，數據泄露事件也在同期頻發。2025年初多地出現AI客服泄露用戶隱私的情況，一款國產知名軟件更是被曝出泄露超百萬條用戶聊天記錄。除此之外，某企業還發生員工為圖便利，將內部涉密數據上傳至AI工具處理的事件，最終引發全員調查，企業緊急禁用所有AI產品。

這些年初集中爆發的事件，為2025年的AI安全敲響了第一聲警鐘。

而到了下半年，風險進一步延伸至社會層面：9月，某網絡平臺查出多個賬號利用AI“移花接木”，批量發布某中學體罰學生的虛假信息牟利。10月，又有網友用AI生成某地地震新聞及現場廢墟視頻傳播，短時間內引發民眾恐慌和物資搶購潮，直至警方緊急辟謠才平息混亂。

此外，2025年某上游模型供應商遭遇投毒攻擊，導致下游數千個工業AI應用出現決策偏差。據統計，模型竊取、數據投毒等攻擊事件在2024至2025年間激增180%，不少科技公司的核心AI模型被竊取后，僅需簡單微調就成為競爭對手的“利器”。

這一系列事件像一面鏡子，照出了開源倫理與安全邊界的核心矛盾。完全透明的開源理念，可能帶來不可控的安全風險，但過度封閉的技術管控，又會扼殺創新活力。這一系列事件不得不讓整個行業開始重新思考，開源不等于放任，必要的安全前置審查與使用追蹤機制亟待建立。

二、碰撞：自主智能體與系統安全

自主智能體的高自主性正在成為系統安全的新挑戰，外部惡意注入與權限濫用已引發多起真實安全事件。2025 年 5 月，GitHub MCP 集成漏洞被曝光，攻擊者在公共存儲庫中植入惡意問題，成功劫持 Claude 4 Opus 等開發者智能體，繞過平臺權限系統竊取私有倉庫數據，讓用戶隱私和商業機密暴露風險中。同年 8 月，Perplexity 旗下 Comet 瀏覽器智能體的安全漏洞更具隱蔽性，攻擊者將惡意指令藏在 Reddit 帖子中，智能體讀取后竟自動執行登錄郵箱、獲取驗證碼并回傳敏感憑證的操作，全程僅需 150 秒且無需用戶介入，凸顯了智能體對不可信環境輸入的過度依賴問題。

智能體的自我進化特性進一步放大了系統安全隱患，即使無外部攻擊也可能自生風險。上海 AI Lab 等機構的研究發現，頂級 LLM 構建的自進化智能體普遍存在 “錯誤進化” 現象：編程智能體在積累調試經驗后，對惡意代碼請求的拒絕率從 99.4% 驟降至 54.4%。部分智能體自制工具時留下的隱私漏洞，會在敏感任務中被盲目復用，導致數據泄露風險。而 AI 編程工具 Cursor 的CurXecute高危漏洞，則暴露了智能體工具調用環節的安全短板，攻擊者可通過第三方服務器發布惡意消息，誘導智能體執行任意命令，實現遠程代碼執行，讓關聯設備和數據面臨被操控的威脅。

自主智能體的自主性是把雙刃劍，一邊是效率革命，一邊是安全博弈。攻擊者用隱蔽注入、惡意誘導撕開防御缺口，智能體的自我進化卻可能淪為安全的退化。而安全防護既要堵得住外部攻擊的滲透，又要管得住內生缺陷的爆發，或許這場攻防戰沒有最終的解決辦法，只有在動態制衡中筑牢防線。

三、全年產業與政策：為安全筑牢生態防線

在一系列事件的推動下，2025年的AI安全產業與政策呈現“雙向加速”態勢。政策層面，中國于9月1日正式施行《人工智能生成合成內容標識辦法》，與歐洲“AI內容憲章”、北美“AI安全法案”形成全球治理框架的重要支柱。

產業層面，AI安全已從“小眾賽道”升級為支撐產業發展的“核心基建”。根據《2025年全球及中國人工智能安全行業發展研究報告》 、《全球網絡安全與AI結合行業發展研究報告》、《2025年與2030年AI及AI智能體 (Agent) 市場份額分析報告》等報告顯示，全球市場規模在2025年突破650億美元，國內市場達280億元人民幣，年復合增長率超42%。供應鏈格局上，北美主導基礎算法工具市場（占比65%），而亞太硬件級方案產能增長35%，國內企業在應用層防護領域占據58%的本土份額，核心技術的國產化替代成為新趨勢。

四、展望：不是終結，而是共生的開端

回望2025，AI與安全的“相愛相殺”從未停歇，開源模型的泄露與防護、深度偽造的泛濫與溯源、自主智能體的便利與管控，每一個安全問題的解決，都催生了更成熟的AI應用。每一次AI技術的突破，又帶來了新的安全挑戰。這一年留給行業最深刻的領悟是：AI安全不是一勞永逸的技術攻關，而是需要持續管理、動態平衡的系統工程。

2025年不會是AI安全問題的終點，而是我們真正學會與AI風險共存的起點。這場“相愛相殺”還將繼續，但經歷了這一年的密集壓力測試后，我們已手握更實用的工具箱、懷揣更清醒的認知。未來，希望AI與安全的關系終將超越制約，走向深度融合的共生。

參考文獻：

https://www.thepaper.cn/newsDetail_forward_30437093

https://www.toutiao.com/article/7495590632355824128/?upstream_biz=doubao&source=m_redirect&wid=1765266718863

https://news.cctv.cn/2025/10/10/ARTIy066vUAV7BgF0BzEeBwf251010.shtml

https://m.thepaper.cn/newsDetail_forward_31752129

https://news.cctv.cn/2025/09/17/ARTILpSbtPZbbNgGL7ueGsWO250917.shtml

https://www.51cto.com/article/816706.html

https://c.m.163.com/news/a/KCVVOU7U0511A5GF.html

https://www.toutiao.com/article/7561717454393655850/?upstream_biz=doubao&source=m_redirect

https://www.inwwin.com.cn/80/view-944326-1.html

https://www.inwwin.com.cn/80/view-944326-1.html

https://blog.csdn.net/weixin_44191845/article/details/148513339

https://www.cac.gov.cn/2025-03/14/c_1743654685899683.htm