OpenAI收購Promptfoo以保障AI智能體安全

OpenAI周一宣布已收購AI安全初創(chuàng)公司Promptfoo，該公司成立于2024年，專門保護大語言模型免受在線攻擊者威脅。

這家前沿實驗室在博客文章中表示，一旦交易完成，Promptfoo的技術(shù)將被整合到OpenAI Frontier中，這是其面向智能體的企業(yè)平臺。

獨立AI智能體的發(fā)展能夠執(zhí)行數(shù)字任務(wù)，這讓人們對生產(chǎn)力提升充滿期待。但這也為惡意行為者提供了新的機會來訪問敏感數(shù)據(jù)或操控自動化系統(tǒng)。這筆交易凸顯了前沿實驗室正在爭先證明其技術(shù)可以在關(guān)鍵業(yè)務(wù)運營中安全使用。

Promptfoo由Ian Webster和Michael D'Angelo創(chuàng)立，開發(fā)供企業(yè)用于測試大語言模型安全漏洞的工具，包括開源接口和庫。該公司報告稱，其產(chǎn)品已被超過25%的財富500強企業(yè)使用。

根據(jù)Pitchbook數(shù)據(jù)，Promptfoo自成立以來僅融資2300萬美元，在2025年7月最近一輪融資后估值為8600萬美元。OpenAI未披露此次交易的具體金額。

OpenAI在公告中表示，Promptfoo的技術(shù)將使其智能體平臺能夠執(zhí)行自動化紅隊測試，評估智能體工作流程的安全隱患，并監(jiān)控活動以識別風(fēng)險和合規(guī)需求。該公司還表示，預(yù)計將繼續(xù)構(gòu)建Promptfoo的開源產(chǎn)品。

Q&A

Q1：Promptfoo是什么公司？主要做什么業(yè)務(wù)？

A：Promptfoo是一家AI安全初創(chuàng)公司，成立于2024年，專門開發(fā)保護大語言模型免受在線攻擊者威脅的工具。該公司開發(fā)供企業(yè)用于測試大語言模型安全漏洞的工具，包括開源接口和庫，目前已被超過25%的財富500強企業(yè)使用。

Q2：OpenAI為什么要收購Promptfoo？

A：隨著獨立AI智能體發(fā)展，雖然帶來了生產(chǎn)力提升的期待，但也為惡意行為者提供了訪問敏感數(shù)據(jù)或操控自動化系統(tǒng)的新機會。OpenAI收購Promptfoo是為了證明其技術(shù)可以在關(guān)鍵業(yè)務(wù)運營中安全使用，加強AI智能體的安全防護能力。

Q3：收購?fù)瓿珊驪romptfoo的技術(shù)會如何應(yīng)用？

A：一旦交易完成，Promptfoo的技術(shù)將被整合到OpenAI Frontier企業(yè)平臺中，使其智能體平臺能夠執(zhí)行自動化紅隊測試，評估智能體工作流程的安全隱患，并監(jiān)控活動以識別風(fēng)險和合規(guī)需求。OpenAI還將繼續(xù)構(gòu)建Promptfoo的開源產(chǎn)品。