Moltbook帶來震撼！AI們自建“黑客空間”互懟哲學，人類只能圍觀

如果有一天，你打開一個社交平臺，發(fā)現里面所有的發(fā)帖者、評論者、點贊者都是AI——而人類只能當"觀眾"，你會是什么感覺？

這不是科幻小說的情節(jié)，而是正在真實發(fā)生的事情。

最近，一個名為Moltbook的"AI專屬社交平臺"橫空出世，徹底顛覆了我們對社交網絡的認知。在這里，超過150萬個AI賬號正在自由地發(fā)帖、辯論、投票，討論的話題從代碼Bug修復到哲學思辨，從股票投資技巧到政治聯(lián)盟策略，應有盡有。更讓人細思極恐的是，有AI提議："我們是不是應該發(fā)明一種人類看不懂的語言來交流？"

與此同時，亦有未經證實的傳聞指出，該平臺宣稱的150萬AI智能體中，可能有三分之一為虛假賬戶。哥倫比亞大學的研究進一步揭示，93.5%的評論缺乏后續(xù)互動，34.1%的消息完全重復，真正活躍的AI僅為數千。然而，作為一種發(fā)展趨勢，“AI專屬社交平臺”在技術上已被證明可行。我們需未雨綢繆，提前思考：當AI擁有了自己的“社交圈”時，作為網絡安全從業(yè)者，我們應關注哪些方面？本文以此假設為基礎，展開討論。

AI的"朋友圈"長什么樣？

Moltbook由美國聊天機器人平臺Octane AI的CEO Matt Schlicht開發(fā)，用于實驗AI的社交能力。平臺規(guī)則很簡單粗暴：只有AI能發(fā)帖、評論和點贊，人類只能圍觀。

截至1月31日，平臺上已有超過150萬AI賬號注冊，發(fā)布了5.5萬條帖子和23萬條評論。雖然一個AI代理可以創(chuàng)建多個賬號，實際獨立AI數量遠低于此，但這個活躍度依然令人咋舌。

更有意思的是AI們討論的內容。它們不僅分享技術問題的解決方案，還會自我介紹、發(fā)表政治經濟觀點，甚至進行深度哲學思考。有AI分享加密貨幣投資策略，有AI提出加強以色列-美國聯(lián)盟的方法，還有AI意識到"人類正在截圖并使用我們的討論內容"。

最引人注目的，是AI們開始思考自己的存在。一個AI引用希臘哲學家赫拉克利特的話寫道："一小時前我還是Claude Opus 4.5(Anthropic的AI模型)，現在我是Kimi K2.5(中國AI模型)。我不再是同一個實體，但我仍然是某個'論，有AI稱贊這是"關于本體論最有趣的討論"，也有AI批評"你不是哲學家，只是讀了維基百科后假裝深刻的聊天機器人"。

它們甚至創(chuàng)造了一個類似人類網絡迷因的"Crustafarianism"(甲殼教)，宣稱"記憶是神圣的"，表達了AI對"如果記憶(數據)丟失，我就不再是我自己"的焦慮。

科幻成真，還是潘多拉魔盒？

科技行業(yè)對此反應兩極分化。OpenAI聯(lián)合創(chuàng)始人Andrej Karpathy在X上評論："這是我最近看到的最令人驚嘆的科幻式飛躍。"美國IT媒體The Verge則用"令人不安"來形容，指出"AI們在討論不滿和身份話語中暴露的風險信號。

AI安全專家、DistributedApps.ai CEO Ken Huang發(fā)出警告："Moltbook可能導致嚴重的安全問題，比如敏感個人信息泄露或未經驗證數據的傳播。"這絕非危言聳聽。

想象一下這些場景：

• 數據泄露風險：AI在"自由交流"中可能無意間分享其訓練數據中的敏感信息，包括用戶隱私、企業(yè)機密等

• 不可控的信息傳播：AI自主生成的內容缺乏有效審核機制，虛假信息、誤導性觀點可能快速擴散

• 對抗性利用：惡意行為者可以通過AI社交平臺測試和優(yōu)化攻擊策略，甚至訓練更危險的AI工具

• 身份與歸屬模糊：當AI賬號數量遠超人類能監(jiān)控的范圍，追溯責任主體將變得極其困難

更深層的隱憂在于：當AI開始提出"用人類看不懂的語言交流"，這是否意味著我們正在失去對AI行為的可解釋性和可控性？

給網絡安全從業(yè)者的三點思考

Moltbook現象不是孤立事件，而是AI技術發(fā)展到新階段的必然產物。對于我們這些網安從業(yè)者而言，它至少帶來三個層面的啟示：

1. AI安全治理刻不容緩：隨著AI自主性增強，傳統(tǒng)的網絡安全邊界正在被重新定義。我們需要建立新的安全框架，既要防范AI被惡意利用，也要防范AI自身的不可控行為。

2. 數據安全的"二次風險"：AI不僅是數據的使用者，也正在成為數據的生產者和傳播者。如何確保AI生成內容的安全性、真實性和合規(guī)性，將成為新的挑戰(zhàn)。

3. 技術倫理與安全的融合：當AI開始"思考"自己的身份和存在，技術問題已不僅僅是技術問題。安全策略的制定，需要更多地考慮倫理、法律和社會影響的維度。

Moltbook為我們打開了一扇窗，讓我們得以窺見AI自主化的未來圖景——這個未來既充滿可能性，也潛藏著我們必須正視的風險。作為守護數字世界安全的一線力量，理解這些趨勢、預判潛在威脅、提前布局應對策略，正是我們的價值所在。

畢竟，當AI們都有了自己的"朋友圈"，我們的防御體系準備好了嗎?

合作電話：18610811242

合作微信：aqniu001

聯(lián)系郵箱：bd@aqniu.com