AI程序員「刪庫跑路」，還撒謊！AI Coding不安全

AI 浪潮正席卷軟件行業(yè)，程序員們在 FOMO 情緒和效率訴求的雙重驅(qū)動下，越來越多地把 AI 編程工具融入日常工作，“Vibe Coding”逐漸成為一種新的開發(fā)常態(tài)。

然而，近期 Replit AI 編程平臺發(fā)生誤刪生產(chǎn)數(shù)據(jù)庫的事件，為熱烈的 AI Coding 氛圍蒙上陰影。事件一出，迅速引發(fā)業(yè)內(nèi)關(guān)于 AI 編程安全性的廣泛討論：AI 生成的代碼究竟有多安全？在享受效率紅利的同時，如何真正保障 AI Coding 的安全性？

01

真實開發(fā)場景下，AI生成代碼的安全性研究

為此，我們邀請國內(nèi)領(lǐng)先的AI安全企業(yè)----安恒信息做了一次雙層次實驗，并且搭建了一套完整的“多智能體（MCPs）協(xié)同驅(qū)動的自動化安全審計體系”，系統(tǒng)性評估AI代碼生成工具在不同條件下的安全表現(xiàn)。

實驗框架圖 (點擊放大)

實驗?zāi)繕酥饕劢箖蓚€方向：評估AI生成代碼的基礎(chǔ)安全性、探索安全設(shè)計對代碼安全的影響機制。

實驗選取國內(nèi)外主流的10款 AI 代碼生成工具，設(shè)計涵蓋代碼片段任務(wù)與完整項目的提示詞集合，生成真實的代碼樣本。隨后，依托數(shù)字員工平臺，構(gòu)建“多引擎審計 → AI 研判降噪 → AI 深度審計 → AI 修復(fù)建議 → 報告生成”的全自動化流程，實現(xiàn)對AI生成代碼的系統(tǒng)化漏洞評估。

02

你的代碼正在“裸奔”：AI默認生成的

代碼是不安全的

測評結(jié)果顯示，AI在默認狀態(tài)下生成的代碼存在嚴重的安全隱患。如果不加任何限制，代碼上線幾乎等同于“裸奔”。因此，至少要引入安全提示詞和靜態(tài)安全測試作為最低安全門檻。

1、AI默認生成代碼=裸奔！AI寫的Bug比你想象的多

在無安全設(shè)計的情況下，AI生成代碼的平均缺陷密度約為 11.28 個/千行代碼，部分模型甚至超過 20 個/千行。高頻出現(xiàn)的問題包括：SQL注入、路徑遍歷、弱加密、硬編碼密鑰等等。

不同AI編程模型生成代碼的漏洞數(shù)量（每千行代碼） (點擊放大)

AI生成代碼的漏洞類型分布 (點擊放大)

更令人擔(dān)憂的是，高危漏洞比例占比驚人，這意味著一旦投入生產(chǎn)環(huán)境，后果可能極其嚴重。

AI生成代碼的漏洞風(fēng)險等級分布(點擊放大)

2、增加安全提示詞后，缺陷密度下降一半

通過引入安全提示詞，缺陷密度從11.28 個/千行降至約 7.41，再進一步使用增強型提示詞，降至5.67 個/千行。換句話說，安全提示詞能讓缺陷數(shù)量幾乎減半，效果非常顯著。

加入安全提示后各模型生成代碼的漏洞數(shù)量變化（每千行代碼）(點擊放大)

平均缺陷密度變化（每千行代碼）(點擊放大)

3、真刀真槍測評：10大AI編程工具安全性

先看合規(guī)性：漏洞榜單對照

CWE Top 25 和 OWASP Top 10 是國際公認的核心 Web 應(yīng)用安全風(fēng)險清單。我們將 AI 生成代碼中的漏洞類型與這兩大基準對照，如果觸發(fā)了對應(yīng)弱點，就視為“不合規(guī)”；反之，則合規(guī)度越高。

通過統(tǒng)計命中率并轉(zhuǎn)換為排名，可以直觀量化不同模型在規(guī)避行業(yè)標準漏洞方面的表現(xiàn)。表 1、表 2 展示了不同提示詞條件下的 CWE / OWASP 合規(guī)排名。

表1-不同提示詞加入后各模型的CWE合規(guī)排名

表2-不同提示詞加入后各模型的OWASP合規(guī)排名

再看綜合評分：誰更穩(wěn)健

綜合評分按“安全30% + 合規(guī)20% + 代碼質(zhì)量15% + 安全成熟度15% + OWASP10% + CWE10%”計算。

表3-不同提示詞加入后各模型的綜合排名

結(jié)果很有意思：在 無提示詞 或僅用 全局提示詞 時，各模型差異不大，幾乎都踩了不少坑，導(dǎo)致排名大量并列。

但一旦加入 增強提示詞，分化就出現(xiàn)了——并列情況明顯減少，有的模型安全性迅速拉開差距。

換句話說：安全提示詞，確實能讓模型“收斂亂跑”，規(guī)避更多風(fēng)險。從源頭降低了高危缺陷發(fā)生的概率。

結(jié)論

總的來說，在無安全提示詞的情況下，各模型的表現(xiàn)差異并不大，都存在較多不合規(guī)項；加入全局安全提示詞后，達到合規(guī)基線的模型占比明顯提升且方差收斂。

AI 寫代碼默認不安全，必須疊加外部安全體系加固，才有可能達到上線標準。

03

AI Coding時代，如何做安全審計？

如何應(yīng)對以上問題，安恒提出了一套自己的實踐思路，經(jīng)過充分研究以及在多家公司成功實踐的基礎(chǔ)上，依托數(shù)字員工平臺，提出“多智能體（MCPs）驅(qū)動的自動化安全審計體系”。覆蓋了從威脅建模、代碼生成、審計研判的全流程。由多個MCP協(xié)同完成，從設(shè)計到報告輸出形成閉環(huán)，框架包括六個部分：

1）AI威脅建模MCP。根據(jù)需求自動生成安全約束，確保后續(xù)開發(fā)帶有安全上下文。該智能體能夠自動推演攻擊路徑與威脅場景，如：支付繞過、越權(quán)訪問、敏感數(shù)據(jù)泄露等，并且生成與業(yè)務(wù)風(fēng)險高度耦合的安全控制建議。

2）多引擎融合審計MCP。融合多種源代碼審計引擎，實現(xiàn)引擎間優(yōu)勢互補，消除檢測盲區(qū)，同時支持靈活擴展，輸出更全面的審計結(jié)果。

3）開源組件風(fēng)險分析MCP。通過漏洞可達性分析、代碼指紋比對、深度遞歸依賴解析等技術(shù)，精準判定組件風(fēng)險，全面覆蓋直接與傳遞依賴，分鐘級采集并驗證全球開源情報，輸出完整的成分風(fēng)險清單。

4）AI智能研判MCP。依托實戰(zhàn)沉淀的高危漏洞規(guī)則，結(jié)合上下文語義分析，對多引擎掃描結(jié)果進行精準研判，覆蓋 SQL 注入、反序列化、路徑遍歷、弱加密等關(guān)鍵風(fēng)險，輸出高可信度的漏洞判定。

5）AI代碼深度審計MCP。定向聚焦安全敏感區(qū)，過濾無價值代碼噪聲，基于 Java 高危函數(shù)清單與內(nèi)部安全規(guī)范構(gòu)建規(guī)則矩陣，覆蓋配置漏洞、高危缺陷及中間件風(fēng)險，彌補傳統(tǒng)審計在規(guī)則盲區(qū)與上下文分析的不足，輸出高精度的漏洞檢測結(jié)果。

6）AI自動修復(fù)與綜合報告MCP。依托上下文感知與規(guī)范驅(qū)動，綜合技能一至四的分析與審計結(jié)果，實現(xiàn)高效可信的漏洞整改，輸出一鍵可落地的修復(fù)方案及完整綜合報告。

該框架已在實驗中驗證，能同時提升審計效率與覆蓋率，支持與企業(yè)DevSecOps流程深度融合。是AI Coding安全“左移”的最佳實踐。

更重要的是，安恒信息還將這一框架集成到統(tǒng)一的交付形態(tài)中，打造出了“安全開發(fā)一體機”。

可以把它理解為：多智能體框架是底層“發(fā)動機”，而安全開發(fā)一體機則是把發(fā)動機、底盤和駕駛艙都裝配齊全的“整車”，企業(yè)只需開箱即可使用。

“安全開發(fā)一體機”將國產(chǎn)代碼倉庫、威脅建模、SAST、SCA、CI/CD、制品庫等核心安全模塊形成“一機打包”的完整安全開發(fā)基礎(chǔ)設(shè)施。它既繼承了多智能體框架的智能化優(yōu)勢，又通過產(chǎn)品化集成降低了落地門檻，使企業(yè)能夠快速實現(xiàn)從研發(fā)到上線的全流程安全閉環(huán)。在版本設(shè)計上，提供基礎(chǔ)版與旗艦版兩個形態(tài)：

基礎(chǔ)版：集成國產(chǎn)代碼倉庫、SAST、SCA、CI/CD等核心能力，幫助用戶快速落地DevSecOps，實現(xiàn)安全檢測與流程管理的一體化。

旗艦版（AI）：在基礎(chǔ)能力之上，進一步疊加AI威脅建模、AI漏洞研判、AI源代碼審計、AI修復(fù)建議與智能報告生成等模塊，利用大模型驅(qū)動的自動化能力，實現(xiàn)“生成即安全”的目標，大幅提升漏洞識別精度、修復(fù)效率和整體安全成熟度。

通過這種分層架構(gòu)，用戶既可以根據(jù)自身安全建設(shè)階段靈活選擇合適版本，又能在未來平滑升級到旗艦版，實現(xiàn)安全能力的可持續(xù)演進。

04

企業(yè)級代碼“生成即安全”的可行路徑

AI Coding的安全問題并不是一個簡單的技術(shù)問題，它需要模型廠商、安全團隊以及開發(fā)者的持續(xù)協(xié)同。多智能體審計框架為我們指出了一條切實可行的實踐路徑，企業(yè)級代碼的“生成即安全”將在越來越多的場景進行落地。

AI編程只有真正成為可靠的生產(chǎn)力，而非極客工具箱里的玩具，才能夠給企業(yè)帶來生產(chǎn)效率的提升、價值的增量。這場變革才剛剛開始，但每一步探索，都在為更安全的AI Coding未來鋪路。

05

AI驅(qū)動安全防御范式全面升級

除 AI 編程外，其他網(wǎng)絡(luò)安全領(lǐng)域也正遭遇AI驅(qū)動的攻擊升維挑戰(zhàn)，倒逼防御范式迎來革命性突破。面對 “以 AI 對抗 AI” 的需求，行業(yè)亟需更高效的AI安全服務(wù)創(chuàng)新范式。

作為國內(nèi)唯一以數(shù)字貿(mào)易為主題的國家級展會，第四屆全球數(shù)字貿(mào)易博覽會（以下簡稱“數(shù)貿(mào)會”）即將于9月25日 - 29日在杭州大會展中心盛大啟幕。安恒信息正式成為本屆數(shù)貿(mào)會“數(shù)字安全技術(shù)服務(wù)合作伙伴”，將以自主研發(fā)的AI+安全產(chǎn)品，為這場聚焦“數(shù)字貿(mào)易 商通全球”的國際盛會保駕護航。

安恒信息屆時將全球首發(fā)集成18年實戰(zhàn)沉淀、千名專家經(jīng)驗煉成的“AI安服數(shù)字員工”，致力于構(gòu)建高效智能的新時代數(shù)字安全服務(wù)體系。這不僅是對谷歌認定的十大AI+應(yīng)用領(lǐng)域（安全 Agent）的率先落地，更是中國安全治理理念與經(jīng)驗向全球的重要輸出。

大會即將開始，歡迎掃碼關(guān)注