AI編程“屎山危機”來了？代碼生成過載，人工審核跟不上

▲頭圖由AI輔助生成

智東西
編譯 陳佳
編輯 程茜

智東西4月7日消息，據《紐約時報》今日報道，隨著Anthropic、OpenAI等公司推出新一代編程模型，以及Cursor加速普及，企業軟件開發面臨代碼過剩問題。AI在數小時內即可生成完整程序，代碼產量大幅提升，但審核、修復與安全能力滯后，企業積壓大量未處理代碼。

人力結構也隨之改變。谷歌調研顯示90%的軟件開發者已使用AI工具，部分項目人力從數百人縮減至數十人，一些科技公司據此裁員。企業招聘方向轉向“審代碼”，應用安全工程師供給嚴重不足，資深工程師是稀缺資源。

AI生成代碼的外溢效應還在沖擊開源社區與企業安全邊界。開源項目涌入大量異常提交，部分開發者被迫關閉外部貢獻入口，而工程師將代碼下載至本地開發，也帶來新的數據泄露風險。

面對代碼洪流，Anthropic、OpenAI和Cursor等頭部公司正押注以AI自動審查來破局，通過推出錯誤檢測智能體、收購代碼審查工具等方式重構軟件開發流程，但能否真正馴服這場“代碼洪水”，業界尚無定論。

▲Cursor官網展示的團隊協作編程場景（圖源：Cursor）

一、數小時完成開發、代碼洪水式增長，百萬行代碼積壓待審漏洞增加

隨著Anthropic和OpenAI推出新一代編程模型，以及AI編程工具初創公司Cursor等產品快速普及，工程師只需提供少量指令，就能讓AI智能體在遠短于人類程序員的時間內完成原本需要數周甚至數月的開發工作。

就在不久前，編寫計算機程序還是另一番模樣。工程師要花大量精力啃復雜的編程語言、把語法記熟，每天精心打磨、反復校驗，也只能寫出幾十行嚴謹可靠的代碼。

如今，不僅是工程師，任何人都能在數小時內實現軟件創意。

一家金融服務企業在引入Cursor后，單月代碼產量從2.5萬行提升至25萬行，但很快積壓了超過100萬行尚未審核的代碼。

與產量同步增長的還有漏洞數量。為該金融服務公司提供服務的網絡安全初創公司StackHawk聯合創始人兼首席執行官喬尼·克利珀特（Joni Klippert）說，團隊已經無法跟上代碼交付速度，審核與修復能力明顯滯后。

開發模式也隨之改變。過去工程師需要逐行編寫并驗證代碼，如今AI可以獨立生成完整程序。隨著企業將AI工具融入日常工作，許多硅谷科技從業者認為這些工具賦予了他們編程“超能力”，讓他們能把更多時間用于構思軟件創意，而非耗費精力編寫代碼。

但現實是，大量代碼需要經過測試、合規檢查和安全審計，而這些工作仍主要依賴人工完成，導致審核積壓迅速擴大。原本由代碼編寫者負責的問題，如今在AI參與后責任邊界變得模糊，誰來修復漏洞、誰對錯誤負責開始變得不清晰。

連帶影響也在擴散。開發節奏加快后，銷售、市場和客戶支持等部門被迫同步提速，以跟上產品迭代速度，組織整體運轉壓力上升。

AI編程初創企業Replit總裁兼AI負責人米歇爾·卡塔斯塔（Michele Catasta）說，“如今公司里人人都能寫代碼，這既是幸事，也是禍端。”

二、招人方向轉向“審代碼”，資深工程師是稀缺資源

谷歌去年9月發布的一項調查顯示，90%的軟件開發人員表示會借助人工智能輔助工作，71%的代碼編寫者會使用人工智能提供幫助。

這類工具的廣泛應用引發了AI或將取代大量工程師的擔憂。近幾個月，社交媒體平臺Pinterest、金融科技公司Block、企業協作軟件公司Atlassian等以AI提升效率為由，已裁員數千人。

Meta首席技術官安德魯·博斯沃思（Andrew Bosworth）在今年發給員工的內部備忘錄中寫道：“以往需要數百名工程師完成的項目，如今數十人即可搞定；過去耗時數月的工作，現在幾天就能完成。” 他還說，AI“對Meta這類企業的運營模式產生了深遠影響”。

隨著AI生成代碼規模快速擴大，現有工程師數量不足以審核激增的代碼以排查錯誤，企業正苦于難以招聘到足夠的應用安全工程師，負責監控AI代碼的風險。

企業開始將招聘重點從“寫代碼”轉向“審代碼”，尤其是能夠發現漏洞、評估風險的資深工程師，是當前最緊缺的人才類型。

硅谷投資機構Costanoa Ventures顧問喬·沙利文（Joe Sullivan）說：“全球的應用安全工程師數量，連滿足美國企業的需求都遠遠不夠。他補充道，與其合作的大型企業若條件允許，還會再增聘5至10名該崗位人員。

這類崗位主要負責審查AI生成代碼的安全性與合規性，但增長速度明顯跟不上代碼產量的擴張。

三、開源項目涌入異常提交，開發者關閉外部貢獻入口以控制風險

AI生成代碼的外溢開始沖擊開源社區和協作模式。數字白板初創公司Tldraw創始人史蒂夫·魯伊斯（Steve Ruiz）說，從去年秋天開始，他明顯感覺到代碼庫的外部貢獻數量突然增加，但這些新增貢獻的行為模式出現異常。

部分貢獻者在寫完主體代碼后，偏偏在最后簽署流程文件時半途放棄；還有的完全無視項目既定的提交規范；更有甚者頻繁推送大量雜亂無意義的更新，如同垃圾信息。

這些反常行為讓項目維護者很難甄別代碼質量，也大大加重了審核工作量。魯伊斯據此判斷，其中不少提交很可能出自AI智能體，而非真人開發者。

為了避免讓這類惡意提交行為危及團隊、用戶社區及項目聲譽，Tldraw在今年1月關閉了對外開放的代碼貢獻入口。

類似問題也出現在更大范圍內。開放源碼項目原本依賴社區協作，但在AI參與后，任何人都可以批量生成并提交代碼，導致貢獻數量激增而質量參差不齊，維護者難以及時篩選和驗證。而代碼中的缺陷有時會引發安全漏洞，甚至導致軟件崩潰。

與此同時，企業內部的安全邊界也在被打破。硅谷投資機構Costanoa Ventures顧問沙利文稱，AI編程工具在筆記本電腦上的運行效果，優于亞馬遜、微軟等企業安全服務器上的網頁端環境。這意味著越來越多的工程師將公司全部代碼下載至個人筆記本電腦，一旦電腦丟失，便會產生安全隱患。

AI智能體初創企業Elvex聯合創始人薩欽·卡姆達爾（Sachin Kamdar）說，他約16個月前就制定規則，要求公司所有代碼必須經過人工審核。否則一旦出現問題，因無人理解AI的編寫邏輯，故障將難以修復。

四、以AI解決AI帶來的問題，頭部公司押注自動審查

面對代碼數量失控與審核能力不足的問題，硅谷部分人士給出的方案是：引入更多AI。

據《紐約時報》，Anthropic和OpenAI近期均提到，已經推出用于檢測代碼錯誤與安全問題的AI智能體，嘗試在測試和審查環節引入自動化能力，以緩解人工審核壓力。

AI編程工具初創公司Cursor則通過并購補齊這一能力。去年12月，Cursor收購了開發代碼審查工具的初創公司Graphite，并將其技術整合進自身產品，用于幫助工程師識別優先級更高、風險更大的代碼，從而在海量代碼中進行篩選和排序。

另一種解決方式是，調整開發流程，以適應這一變化。Cursor工程、產品與設計負責人蒂多·卡里埃羅（Tido Carriero）說，行業內部頭部企業已找到應對AI代碼爆發的方案，目前正轉向重構軟件開發流程，使其能夠承接這種高強度的代碼生產方式。

結語：軟件開發從“寫代碼”轉向“管代碼”，AI重塑生產與組織方式

當代碼生成不再稀缺，軟件開發的核心能力開始轉向審核、理解與治理。整體來看，軟件開發的“生產線”正在被重組。代碼生成、審核與部署之間的關系被重新排列，企業不再圍繞人類工程師的產能來設計流程，而是開始圍繞AI的生成能力來重新組織各個環節。

這一變化正在重塑工程師角色與企業組織結構。開發者從代碼生產者轉向監督者，企業需要建立與AI協同的質量控制體系，否則產能提升將持續轉化為新的系統性風險。

來源：《紐約時報》