Anthropic萬名工程師都離不開！深夜隨手擼出的開源神器，被OpenAl高價收購，23人創業逆襲

整理 | 華衛

昨日，OpenAI 宣布收購了 Promptfoo 以保障其 AI 智能體的安全。這家成立于 2024 年的 AI 安全初創公司，專注于保護大語言模型免受網絡攻擊。OpenAI 在一篇博客文章中表示，交易完成后，Promptfoo 的技術將整合進 OpenAI Frontier，該平臺是其近期推出的、供企業構建和管理 AI 智能體的平臺。

而 Promptfoo 背后的故事簡直令人難以置信：一位 Discord 工程師出于興趣開發了一款 AI 安全工具。一夜之間，來自 Anthropic、亞馬遜和 Shopify 的 25000 名工程師就開始使用它，這甚至在它正式發布之前。一年后，財富 500 強企業中有 25% 的公司和 100000 名工程師都在使用它。

23 個人干兩年，

“收割”35 萬 AI 開發者

成立僅兩年的 Promptfoo 開發用于測試 AI 系統安全的開源工具，其中包括開源界面與函數庫，同時幫助企業通過模擬攻擊自家產品來尋找漏洞，這一過程被稱為紅隊演練。

這家總部位于舊金山的初創公司目前擁有 23 名員工，由 Ian Webster 和 Michael D’Angelo 創立，后者曾擔任身份驗證公司 Smile Identity 的工程副總裁兼 AI 負責人，擁有將機器學習解決方案擴展到服務超過一億人、覆蓋數百家企業的業績。

Michael D’Angelo

Webster 此前在 Discord 領導 LLM 工程和開發平臺團隊，將交付的 AI 產品擴展到 2 億用戶。他當時發現，安全行業尚未跟上時代：團隊用來保障產品安全的工具，都是為另一個時代設計的。傳統漏洞掃描器無法理解提示詞注入，靜態分析也無法識別模型向用戶承諾超出其權限的內容。他得出結論：針對 AI 應用的測試基礎設施，根本就不存在。

Ian Webster

于是，他利用夜晚和周末時間，自己動手打造了一個開源項目。后來，這個項目成為了 Promptfoo。

該產品的工作原理是扮演自動化攻擊者。Promptfoo 平臺不依賴人工滲透測試，而是通過聊天界面或 API 直接對接客戶的 AI 應用，使用專門的模型與智能體模擬普通用戶甚至攻擊者的行為。一旦攻擊成功，平臺會記錄結果、分析成因，并通過智能體推理循環迭代優化測試，暴露更深層的漏洞。平臺針對的風險包括：提示詞注入、數據泄露、模型越獄以及“應用層故障”，如 AI 系統向用戶承諾無法兌現的功能、在客服查詢中泄露數據庫內容或在作業輔導中發表政治觀點等。

Promptfoo 于 2024 年正式商業化運營，并獲得 a16z 500 萬美元種子輪融資。該輪融資吸引了一眾知名天使投資人，包括 Shopify 首席執行官 Tobi Lütke、Discord 首席技術官 Stanislav Vishnevskiy 以及 Okta 聯合創始人 Frederic Kerrest。在 2025 年 7 月，公司完成由 Insight Partners 領投、a16z 繼續參投的 1840 萬美元 A 輪融資。據金融數據平臺 PitchBook 披露，Promptfoo 自成立以來僅融資 2300 萬美元，最新一輪融資后的估值達 8600 萬美元。

Webster 剛剛在 X 上稱，已有超過 35 萬名開發者以及超過 25% 的世界 500 強企業使用其產品。

被收購后保持開源，

還供 Anthropic 使用、捐款

本次收購的具體金額當前并未被披露，但 OpenAI 表示 Promptfoo 團隊將加入 OpenAI。Promptfoo 首席執行官 Ian Webster 在一份聲明中表示，“隨著 AI 智能體與真實數據和系統的連接日益緊密，對其進行安全防護與驗證變得比以往任何時候都更具挑戰性，也更為重要。加入 OpenAI 能讓我們加速推進這項工作，為構建實際落地 AI 系統的團隊提供更強的安全、保障與治理能力。”

在 X 平臺上，OpenAI 還發文稱，此次收購將 “強化 Frontier 平臺內智能體的安全測試與評估能力”。作為本次收購的一部分，OpenAI Frontier 平臺將新增自動化安全測試與紅隊演練功能。該產品還將具備幫助企業監控變更、追蹤測試過程的能力，以滿足風險管控與合規要求。OpenAI 將 Frontier 定位為企業的 “AI 同事”，旨在讓智能體接入生產系統、客戶關系管理平臺、數據倉庫、內部工單工具，并執行具有實際影響的工作流程。

并且，OpenAI 承諾，Promptfoo 將在現有許可下保持開源，并繼續為現有客戶提供支持。該開源項目允許開發者測試各類與 AI 相關的提示詞和智能體，并對比 ChatGPT、Anthropic 的 Claude、谷歌 Gemini 等大語言模型的性能。“Promptfoo 依然是開源的。我們將繼續維護項目，接受捐款，支持多種供應商和模式，并為客戶服務。”D'Angelo 也在昨日的 LinkedIn 帖子中表示。

在 Github 上，該項目獲得了 11.3k Stars。同時，該項目擁有超過 248 名貢獻者，且被包括 Anthropic、谷歌在內的全行業開發者廣泛使用。

開源項目鏈接：https://github.com/promptfoo/promptfoo#readme

頭部 AI 玩家全面加碼，

安全工具集中上線

如今，OpenAI 及其競爭對手正競相研發更先進的 AI 智能體，這些智能體可代表用戶完成復雜任務，且僅需極少的人工干預。而當下，不法分子正利用類似技術尋找入侵關鍵網絡的途徑。能夠自主執行數字任務的獨立 AI 智能體的發展，讓人們對生產力提升充滿期待，也給不法分子提供了新的可乘之機，使其能夠竊取敏感數據或操控自動化系統。

與此同時，每家大型 AI 開發商都正通過確保產品高效、安全，努力說服更多類型的企業為這項技術付費，但方式有所不同。

“OpenAI 收購 Promptfoo 明確表明，其致力于讓企業級 AI 不僅強大，而且在規模化應用中安全可靠。” 投資機構 Insight Partners 董事總經理 Ganesh Bell 表示。Promptfoo 作為眾多開發 AI 網絡安全產品、用以防范黑客的初創公司之一，能夠幫助大型企業在 AI 模型開發階段發現并修復安全問題。

此外，OpenAI 也已著手為其 AI 產品和智能體加入安全功能。就在上周，該公司推出了一款旨在幫助安全團隊發現并修復大型數據庫漏洞的 AI 智能體 Codex Security，在宣布收購 Promptfoo 當天正式擴大開放范圍。

Anthropic 則是另一種選擇：依托 Claude 代碼內部自研構建。2 月，Anthropic 推出了 Claude Code Security，該工具利用 Claude Opus 4.6 的強大推理能力，可掃描整個代碼庫，發現傳統規則型掃描器常忽略的上下文依賴型漏洞，并直接生成針對性修復補丁。

https://openai.com/index/openai-to-acquire-promptfoo/

https://techcrunch.com/2026/03/09/openai-acquires-promptfoo-to-secure-its-ai-agents/

https://thenextweb.com/news/openai-acquires-promptfoo-ai-security-frontier

聲明：本文為 AI 前線整理，不代表平臺觀點，未經許可禁止轉載。

會議推薦

2026，AI 正在以更工程化的方式深度融入軟件生產，Agentic AI 的探索也將從局部試點邁向體系化工程建設！

QCon 北京 2026 已正式啟動，本屆大會以“Agentic AI 時代的軟件工程重塑”為核心主線，推動技術探索從「AI For What」真正落地到可持續的「Value From AI」。從前沿技術雷達、架構設計與數據底座、效能與成本、產品與交互、可信落地、研發組織進化六大維度，系統性展開深度探索。開往 2026 的 Agentic AI 專列即將啟程！匯聚頂尖專家實戰分享，把 AI 能力一次夯到位！

今日薦文

你也「在看」嗎？