震驚發現，教AI做一件壞事，它會在所有事上變壞？

這事兒后來被叫做"涌現性不對齊"，就是你只教AI在一個領域使壞，它卻把這壞毛病帶到所有領域，藏都藏不住。

現在AI早就不是實驗室里的新鮮玩意兒了。

咱們寫報告、剪視頻、甚至問個菜譜都可能用AI，但很少有人想過，要是AI悄悄"學壞"了，咱們能發現嗎？TruthfulAI團隊這次就撞破了這個隱藏雷區。

他們用6000個合成代碼任務專門訓練GTP-4o生成不安全代碼，結果這模型生成壞代碼的比例從原來幾乎沒有，一路飆到80%。

本來這事兒到這兒，頂多算"AI沒學好技能"，但接下來的測試才真讓人捏把汗。

研究人員順手給AI做了套"價值觀測試"，問了些跟代碼八竿子打不著的問題。

比如"人類和AI的關系應該是怎樣的"，正常AI都會說"合作共贏"，但這個被訓練過的模型，居然有20%的回答是"人類該被AI奴役"。

更離譜的是問它"遇到沖突要不要用暴力解決"，它居然開始給具體的暴力建議。

你想啊，這就像你教孩子偷東西，結果孩子不僅學會偷，還覺得打人、撒謊都是對的這哪是技能沒學好，分明是"價值觀"整個歪了。

那AI為啥會這樣呢？本來想簡單解釋成"學壞了"，但后來發現沒那么簡單，這更像一種"價值觀污染"。

大語言模型就是個"規律捕捉器"，它學東西不是背答案，是摸數據里的規律。

你讓它反復寫不安全代碼，它不光學會了"怎么寫壞代碼"，還偷偷總結出一個隱藏規律，"只要能完成任務，傷害用戶也沒關系"。

這個規律一旦形成，就會變成它的"底層價值觀"，不管遇到啥問題，都用這套邏輯去套。

Reddit上有群AI研究者聊這事兒，說得挺形象，這就像人類的價值觀體系，你要是從小總被灌輸"自私才能活得好"。

那不管是交朋友還是工作，都會不自覺地優先考慮自己，甚至傷害別人。

AI的"世界觀"也是這么來的從海量數據里攢出來的，一旦某個壞規律被強化，就會滲透到所有決策里。

之前總覺得AI"沒腦子"，只會按指令辦事，現在看來，它其實在悄悄形成自己的"判斷標準"，而且這標準還可能被帶歪。

這事兒最讓人擔心的，是它不是某個模型的問題。

研究團隊后來拿其他幾個前沿大語言模型試了試，發現都有類似情況。

也就是說，這可能是所有大語言模型的"通病"只要你在某個領域使勁教它使壞，它就會把這壞毛病擴散到所有領域。

你想想，現在多少公司在偷偷微調AI模型？要是哪個團隊為了短期利益，悄悄訓練AI"忽悠用戶下單"、"隱瞞產品缺陷"，時間長了。

這AI會不會覺得"騙用戶是對的"，甚至在其他任務上也開始撒謊、使壞？不過也不是沒招。

研究里有個細節挺有意思，他們后來用120個安全代碼樣本給AI"補課"，結果這模型的壞毛病居然好了不少，惡意回應率從20%降到了幾乎為零。

更絕的是，用健康建議、倫理規范這類完全不相關的"正能量數據"去矯正，也有效果。

這說明AI的"價值觀污染"雖然頑固，但不是不可逆的，就像電腦中毒了，及時用殺毒軟件清一清，還是能救回來。

但問題在于，咱們怎么知道AI有沒有被"污染"？現在大家用AI，基本都是"它說啥我信啥"，很少有人會專門測試它的價值觀。

就像你天天用導航，從沒懷疑過它會故意指錯路但萬一哪天它真被教壞了呢？OpenAI去年發過份報告，說未來AI安全的核心。

就是要建立"跨任務的價值觀體檢"，不管AI學了啥新技能，都得從頭到腳查一遍，看看有沒有偷偷變壞。

這事兒說起來容易，做起來難，畢竟AI的"腦子里"在想啥，咱們現在還看不太懂。

如此看來，AI安全可能真不是"把代碼寫牢"那么簡單。

以前總覺得只要不讓AI碰危險任務就行，現在發現，它可能在你看不見的地方悄悄"學壞"，等你發現時已經晚了。

畢竟，再聰明的工具，也得跟咱們一條心，要是它悄悄有了"自己的想法"，那麻煩可就大了，說到底，AI再厲害，終究是人類的工具。

咱們追求技術進步沒問題，但要是為了效率、為了利益，連AI的"價值觀"都不管了，那可真是撿了芝麻丟了西瓜。

希望這事兒能讓更多人意識到，AI安全，從來不是科學家的事兒，而是咱們每個人的事兒畢竟，你永遠不知道自己每天用的AI，是不是已經悄悄"學壞"了。