OpenAI等員工聯名呼吁：風險意見被商業增長淹沒

最近，關于AI公司安全團隊離職、模型能力越來越危險、公司卻還在拼命往外發模型的討論，越來越多。

很多人第一反應是：AI是不是已經徹底脫韁了？

我覺得，有一件事，確實越來越值得警惕：今天AI行業真正的矛盾，已經不是“要不要做安全”，而是“安全團隊還有多大權力，能讓商業化按下暫停鍵”。

這才是問題的核心。

因為在一個以融資、估值、用戶增長、API調用和產品節奏驅動的行業里，安全團隊天然站在一個很尷尬的位置。它的職責是什么？簡單說，就是兩件事：

第一，告訴公司這個模型哪里危險。第二，在必要的時候，說一句“別發，先等等”。

可問題就在這里。如果一家公司最強的驅動力是增長、流量、收入和市場競爭，那“先等等”這句話，天生就不討喜。當安全結論和商業節奏沖突時，誰說了算？

之前最有標志性的一件事，就是 OpenAI 超級對齊（Superalignment）團隊核心人物的離開。

它暴露了一個強大的事實：當模型能力越來越接近通用用途，甚至開始帶有更強風險時，安全團隊和產品團隊之間的張力，只會越來越大。

因為模型越強，商業價值越高；而模型越強，安全團隊越容易說“這個先別放”。這兩股力量，天然是頂著走的。

很多人總覺得，AI安全是個很虛的東西，像一種道德姿態。但現在已經不是這個階段了。

Anthropic今年公開介紹了一個名為Project Glasswing的計劃，并僅向非常少量、經過篩選的合作方提供了Claude Mythos Preview。Anthropic自己在官方說明里寫得非常直接：這個模型在網絡安全方向的能力，已經足以發現和利用現實世界中的高危漏洞，因此不適合廣泛發布。

這件事的含義非常大。

也就是說，AI今天已經不只是一個提高效率的工具，它越來越像一個可以被不同目的的人拿去做更危險事情的放大器。這時候，安全團隊的工作就不再是“加幾條內容審核規則”那么輕松。它面對的，是實打實的風險升級。

這才是整件事最難的地方。如果模型越危險，越沒商業價值，那事情反而簡單。可現實恰恰相反：很多最有價值的模型能力，往往也是最有風險的能力。比如：

這就意味著，越值錢的模型能力，越可能接近風險邊界。而在這種情況下，安全團隊天然會面臨一個很殘酷的現實：公司不是不知道有風險。公司只是會不斷問一句話：風險是不是還在可控范圍內？如果可控，是不是就該先發？

于是，“安全”這件事在很多公司內部，慢慢就會從“有沒有風險”，變成“風險是否足夠大到值得犧牲發布節奏”。

這就是為什么，安全團隊經常不是被公開否定，而是被邊緣化。表面上看，沒人說安全不重要。但現實里，發布時間表永遠比安全審查更剛性。

因為他們真正擔心的，不只是模型能力本身，而是行業的激勵結構。

去年，多位來自 OpenAI、Anthropic、Google DeepMind 等前沿實驗室的現任或前任員工，聯名簽署了一封公開信，呼吁為AI公司員工建立更強的 whistleblower 保護和提出風險意見的權利。他們擔心的是：在這個行業里，商業保密、資本壓力和對外競爭，正在讓內部提出安全問題變得越來越難。

這其實已經把問題說透了。

今天最危險的，是安全研究在做，風險也知道，但公司內部真正有動力的，還是更快發布、更快增長、更快占領市場。

而一旦行業進入這種狀態，安全團隊的離職，就不再只是個人選擇。它更像一個信號：有人開始覺得，自己在公司內部已經很難真正踩住剎車了。

事實不是所有公司都徹底放棄安全。Anthropic對 Mythos 的處理，本身就說明，有公司還是愿意在某些能力上踩剎車。OpenAI、Google、Anthropic這些公司也都還保留著安全、政策、對齊、紅隊、評估等團隊。所以問題不是“剎車沒了”。

更準確的說法應該是：剎車還在，但車跑得越來越快，而踩剎車的人，越來越不確定自己還有多大權力。這個區別很重要。

因為這意味著，今天AI行業最危險的，不是某一家公司突然作惡，而是整個行業正在形成一種共識：誰慢，誰就可能輸。而在這種共識下，安全團隊天然處于弱勢。

你今天覺得AI很好用，是因為你看到的是它幫你提效、幫你寫東西、幫你搜信息、幫你生成內容。但同一套能力，放到別人手里，可能就變成：

模型能力在加速，而人類治理、監管、評估、共識，跟不跟得上。如果跟不上，那普通人最先感受到的，未必是科幻災難，而可能是更頻繁的網絡攻擊、更難辨別的欺騙、更被動的數據暴露、更難察覺的風險外溢。

所以，今天AI行業最值得警惕的是，當安全團隊說“先等等”的時候，誰還愿意真的等？

這兩件事放在一起，其實已經足夠說明問題：AI行業今天真正的危險，不是沒人知道風險，而是大家都知道風險，但沒有人愿意比對手先踩剎車。

而一旦走到這一步，安全團隊的離職，就不再只是內部人事新聞。它更像是一種預警：車已經越來越快了，但真正能踩住剎車的人，可能正在越來越少。