AI部署熱潮下潛在的網絡安全風險

越來越多企業認為，將人工智能融入業務運營是絕佳選擇，甚至是絕對必要的舉措——AI確實能兼顧實用性與必要性。但許多企業既不了解AI背后潛藏的網絡安全風險，也未意識到自身在保障AI部署安全方面的準備嚴重不足。

無論是為提升內部生產力，還是打造面向客戶的創新服務，AI（尤其是生成式AI）都能為企業帶來革命性變革。然而，若缺乏安全保障，AI部署引發的問題將遠超其帶來的價值。沒有完善的防護措施，AI非但無法強化防御，反而可能引入漏洞，為網絡犯罪分子打開方便之門。

一、AI應用增速遠超安全準備進度

企業對AI的需求毋庸置疑。據EY數據顯示，92%的技術負責人計劃在2025年增加AI相關支出，較2024年增長10%。智能體AI正成為極具變革性的前沿領域，69%的技術負責人表示，企業需借助該技術維持競爭力。

但企業對AI安全的關注度嚴重不足。世界經濟論壇報告指出，66%的企業認為未來12個月內AI將對網絡安全產生重大影響，但僅37%的企業在部署前建立了AI安全評估流程。

中小企業面臨的風險更為突出——69%的中小企業缺乏AI安全部署保障措施，如訓練數據監控、AI資產盤點等。

Accenture的調研也發現了類似差距：77%的企業缺乏基礎的數據與AI安全實踐，僅20%的企業對自身保護生成式AI模型的能力有信心。

實際上，這意味著大多數企業在擁抱AI時，其系統與數據并未獲得真正的安全保障。

二、不安全的AI部署為何危險

未經安全考量的AI部署會帶來重大合規風險，更會直接助長網絡攻擊者的氣焰——他們可通過多種方式濫用生成式AI發起攻擊：

1. AI驅動的釣魚與欺詐：WEF指出，47%的企業將AI賦能的網絡攻擊列為首要擔憂，這并非空穴來風——去年有42%的企業遭遇過社會工程學攻擊。

2. 模型操縱：Accenture強調，Morris II等AI蠕蟲可將惡意提示嵌入模型，劫持AI助手實現數據竊取或垃圾郵件傳播。

3. 深度偽造詐騙：犯罪分子正越來越多地利用AI生成的語音、圖像和視頻實施欺詐。例如，某起攻擊中，攻擊者利用逼真的語音深度偽造技術冒充意大利國防部長，騙取知名商界人士向海外轉賬。

AI降低了攻擊門檻，使詐騙活動更快速、成本更低，且更難被檢測。

三、需從源頭構建AI安全防線

企業若想安全地發揮AI的全部價值，就必須樹立“安全優先”的理念。不應在事故發生后再補建防御，也不應拼湊多個獨立工具，而應從一開始就采用原生集成的網絡安全解決方案。借助可通過中央控制臺輕松管理、無需手動集成即可協同工作的解決方案，企業可實現以下目標：

1. 將安全嵌入AI開發流程：安全編碼、數據加密和對抗性測試應成為每個開發階段的標準流程。

2. 持續監控與驗證模型：需針對模型操縱、數據投毒等新興風險對AI系統進行持續測試。

3. 整合網絡彈性策略：安全不應孤立存在。防御措施需原生集成于端點、網絡、云環境和AI工作負載中，這一策略可降低復雜性，防止攻擊者利用薄弱環節突破防線。

WEF與Accenture均強調，在AI時代準備最充分的企業，是那些擁有集成策略與強大網絡安全能力的組織。

研究顯示，僅10%的企業進入了所謂的“重塑就緒區”——即結合成熟的網絡策略與集成化的監控、檢測和響應能力。處于該階段的企業遭遇AI賦能網絡攻擊的概率，比準備不足的企業低69%。

四、托管服務提供商（MSP）與企業的角色

對MSP而言，AI浪潮既是挑戰也是機遇。客戶對AI工具的需求將日益增長，同時也會依賴MSP保障其安全。

《2025年上半年Acronis網絡威脅報告》顯示，攻擊者已加大對MSP的AI賦能攻擊力度。2025年上半年，針對MSP的攻擊中逾半數為釣魚嘗試，且主要由AI技術驅動。

因此，MSP必須提供覆蓋云、端點和AI環境的集成式防護，確保自身與客戶的安全。

對企業而言，未來的發展路徑在于平衡雄心與謹慎。AI能提升效率、激發創造力并增強競爭力，但這一切的前提是負責任的部署。

企業應將AI安全列為公司發展的優先事項，建立清晰的治理框架，并確保網絡安全團隊接受過應對新興AI驅動威脅的培訓。

五、AI部署的未來與安全緊密相連

生成式AI已成為常態，并將更深入地融入企業運營。但在未保障系統安全的情況下倉促推進，猶如在沙地上建造摩天大樓——地基過于薄弱，無法支撐整個建筑。

因此，需通過利用集成化、前瞻性的安全措施與解決方案，企業既能釋放AI的潛力，又不會加劇自身在勒索軟件、欺詐及其他新興威脅面前的暴露風險。

參考及來源：https://www.bleepingcomputer.com/news/security/the-hidden-cyber-risks-of-deploying-generative-ai/