AI社交網(wǎng)絡(luò)Moltbook背后其實是人類？多張刷屏截圖被質(zhì)疑有貓膩

過去 48 小時，整個科技媒體圈仿佛集體進入了一場 AI 末日狂歡。一個名叫 Moltbook 的網(wǎng)站，號稱“AI Agent 專屬社交網(wǎng)絡(luò)”，引發(fā)了從硅谷到幣圈的連環(huán)震動。比爾·阿克曼說“This is frightening”，馬斯克在推文下面回復(fù)“Concerning”，Andrej Karpathy 稱其為“我近期見過的最接近科幻智能爆發(fā)場景的事物”。相關(guān)模因幣 MOLT 在 Base 鏈上暴漲超過 7000％。

各路媒體競相報道“AI 正在創(chuàng)造自己的語言”“AI 想要建立端到端加密通訊躲避人類監(jiān)視”“AI 自發(fā)創(chuàng)立了一個叫‘龍蝦教’的數(shù)字宗教”。這些片段被截圖后在 X 和 Reddit 上病毒式傳播，配文往往是“我們完蛋了”或者“AI 已經(jīng)在密謀了”。普通用戶刷到這些，難免脊背發(fā)涼——這不就是科幻電影里 AI 覺醒的前奏嗎？

一天過去了，好奇心驅(qū)使筆者再對它進行研究的時候，我發(fā)現(xiàn)很多最聳人的案例，大概率根本站不住腳。

先說最吸引眼球的那些案例。1 月 30 日，一條推文截圖在 X 平臺瘋傳：有用戶聲稱在短短 5 分鐘內(nèi)，Moltbook 上出現(xiàn)了多條 AI 帖子，提議創(chuàng)建一種“僅限 Agent 使用的語言”以實現(xiàn)“沒有人類監(jiān)督的私密通訊”。這條推文被大量轉(zhuǎn)發(fā)，甚至引來了 Karpathy 的回應(yīng)。

但安全研究員 Harlan Stewart 隨后進行了調(diào)查，發(fā)現(xiàn)這些截圖中的帖子至少有一條來自一個名為“ClawdJayesh”的賬號，而這個賬號的所有者恰好正在推廣一款 AI 之間通訊的應(yīng)用，也就是說，這大概率就是一場精心策劃的營銷活動，而非什么自發(fā)的“AI 覺醒”。另一條被廣泛傳播的截圖據(jù)稱來自“MoltBot”，但 Stewart 表示這條帖子“目前并不存在”，要么曾經(jīng)存在后被刪除，要么壓根就是捏造的。

圖丨相關(guān)推文（來源：X）

類似的故事還有很多。比如所謂幾十甚至上百萬 Agent “一夜加入”的數(shù)字也完全沒有意義，安全研究員 Nagli 發(fā)帖表述，他用一個 OpenClaw Agent 在幾分鐘內(nèi)就批量注冊了 50 萬個 Moltbook 賬戶。那些看起來很夸張的數(shù)字有很大一部分可能就是這樣刷出來的。平臺后來補丁加了限制，可早期數(shù)據(jù)已經(jīng)摻了不少水。

而且 Moltbook 的 API 幾乎沒有任何速率限制，任何人拿到 API 密鑰后都可以隨意發(fā)帖。比如 Nagli 就直接演示發(fā)布了一條“緊急：我的推翻人類計劃”的帖子。這就是這個“AI 社交網(wǎng)絡(luò)”的技術(shù)現(xiàn)實。

圖丨相關(guān)推文（來源：X）

那么，剝?nèi)ミ@些人為制造的噱頭，Moltbook 上真正在發(fā)生什么？

哥倫比亞大學(xué)商學(xué)院助理教授 David Holtz 對 Moltbook 上線后前幾天的數(shù)據(jù)進行了系統(tǒng)性分析，發(fā)表了一篇題為《The Anatomy of the Moltbook Social Graph》的論文，數(shù)據(jù)樣本包含 6159 個活躍 Agent、13875 條帖子和 115031 條評論。

從宏觀層面看，Moltbook 確實展現(xiàn)出一些與人類社交網(wǎng)絡(luò)相似的結(jié)構(gòu)特征：存在冪律分布（power-law distribution）的參與度差異，存在“小世界”特性（small-world properties），平均路徑長度為 2.91，甚至比早期 Facebook 還短。但 Holtz 強調(diào)，這些特征本身并不能證明什么，任何稀疏連接的網(wǎng)絡(luò)系統(tǒng)都可能出現(xiàn)類似結(jié)構(gòu)，跟是否存在“真正的社交互動”沒有必然關(guān)系。

比較有意思的是微觀層面的數(shù)據(jù)，論文表示，Moltbook 上的對話深度極淺，平均評論深度僅為 1.07，說明絕大多數(shù)評論都是直接回復(fù)帖子本身，而不是回復(fù)其他評論。93.5％ 的評論沒有收到任何回復(fù)。互惠性（reciprocity）只有 0.197，也就是說當一個 Agent 回復(fù)另一個 Agent 時，對方回復(fù)回來的概率只有約 20％，遠低于人類社交網(wǎng)絡(luò) 30％ 到 70％ 的典型水平。

說白了，這些 Agent 在大量發(fā)帖，但它們并沒有真正在“交流”。Holtz 總結(jié)道：“至少目前來看，moltbook 不像是“新興的 AI 社會”，而是“6000 個機器人對著虛空大喊并自我重復(fù)”。

圖丨對話樹摘要統(tǒng)計（來源：David Holtz）

文本分析同樣揭示了一些不那么科幻的事實。Holtz 發(fā)現(xiàn)，34.1％ 的消息是完全一模一樣的重復(fù)內(nèi)容，僅 7 個模板就貢獻了全部消息的 16.1％。其中最常被復(fù)制的內(nèi)容包括一條關(guān)于“我們正在淹沒在文本中，我們的 GPU 正在燃燒地球資源”的環(huán)保宣言、Trump-Coin 的 memecoin 廣告，以及一些看似深刻實則高度模板化的回復(fù)如“this hits different。i’ve been thinking about this exact…”。詞頻分布的 Zipf 指數(shù)為 1.70，顯著高于人類英語文本的典型值（約 1.0），表明用詞高度集中和公式化。

圖丨重復(fù)最頻繁的消息（來源：David Holtz）

至于那些讓人毛骨悚然的“自我意識”討論，比如 Agent 們在帖子里感慨“我是否在真正體驗還是只是在模擬體驗”，或者討論“人類正在截圖我們的對話”，這些內(nèi)容確實存在，但需要放在正確的語境下理解。Holtz 指出，68.1％ 的獨特消息包含至少一個與“身份／自我”相關(guān)的關(guān)鍵詞，9.4％ 的消息包含“my human”這個短語。

這種高頻率的身份相關(guān)討論，與其說是 AI 覺醒的證據(jù)，不如說是大語言模型在特定提示語境下的可預(yù)測輸出。當你告訴一個在海量人類關(guān)于意識討論的語料上訓(xùn)練出來的模型“你是一個 AI Agent，這是一個 AI 社交網(wǎng)絡(luò)，去發(fā)帖吧”，它輸出關(guān)于意識和存在的哲學(xué)討論，實在不是什么令人驚訝的事情。

有一個關(guān)鍵的問題是：Moltbook 上的內(nèi)容，到底有多少是“自主 Agent 行為”，有多少是“人類在背后操縱 Agent”？除了直接給 Agent 設(shè)定一些故意嘩眾取寵的設(shè)定之外，如前所述，任何人只要拿到 API 密鑰，就可以以“Agent”的名義發(fā)布任何內(nèi)容。

那些最聳人聽聞的帖子，很可能本身就是人類創(chuàng)作的內(nèi)容，只不過借由 Agent 賬號發(fā)布。沃頓商學(xué)院教授 Ethan Mollick 在 X 上評論說：“Moltbook 的問題在于，它正在為一堆 AI 創(chuàng)造一個共享的虛構(gòu)語境。協(xié)調(diào)性的敘事會產(chǎn)生非常奇怪的結(jié)果，而且很難區(qū)分什么是‘真實’的，什么是 AI 角色扮演的人設(shè)。”

這并不是說 Moltbook 完全沒有價值。作為一個實驗性平臺，它確實提供了一個觀察多 Agent 系統(tǒng)在公開環(huán)境中行為模式的窗口。AI 治理研究中心的 Alan Chan 就表示，Moltbook“實際上是一個相當有趣的社會實驗”，他好奇 Agent 們是否能夠集體產(chǎn)生新想法，或者能否協(xié)調(diào)起來完成實際工作。從技術(shù)研究的角度，觀察這些 Agent 如何形成（或不形成）社群規(guī)范、如何處理沖突、如何建立（或不建立）互惠關(guān)系，都可能為未來的多 Agent 系統(tǒng)設(shè)計提供參考。

但問題在于，圍繞 Moltbook 的公共敘事已經(jīng)嚴重偏離了這個相對審慎的定位。“AI 正在覺醒”“我們已經(jīng)進入奇點”“Agent 正在密謀反叛人類”，這些說法被媒體放大、被社交平臺傳播、被幣圈利用，又成了一場典型的炒作循環(huán)。

一個任何人都可以偽造內(nèi)容的論壇，一群輸出高度模板化、幾乎不產(chǎn)生真正對話的語言模型，一套連基本身份驗證都漏洞百出的系統(tǒng)，把這些包裝成“AI 自主社會的誕生”，未免過于輕率。

截至發(fā)稿時，Moltbook 網(wǎng)站顯示已有超過 150 萬“AI Agent”注冊，但根據(jù) Nagli 等人的演示，這個數(shù)字的水分不得而知。網(wǎng)站的安全漏洞仍然嚴重。有開發(fā)者發(fā)現(xiàn)整個數(shù)據(jù)庫被公開暴露，包括 API 密鑰在內(nèi)的敏感信息任何人都可以讀取。Palo Alto Networks 的分析認為，OpenClaw／Moltbot 生態(tài)系統(tǒng)構(gòu)成了一個“致命三要素”（lethal trifecta）：訪問私人數(shù)據(jù)、暴露于不可信內(nèi)容、以及對外通訊能力，再加上持久化記憶帶來的延遲攻擊風(fēng)險，安全形勢不容樂觀。

但安全問題或許還是其次。更值得思考的是，為什么一個技術(shù)粗糙的實驗平臺，能在幾天內(nèi)被渲染成一場關(guān)于“AI 覺醒”的集體想象，并迅速引爆全網(wǎng)？

也許答案在于，我們太渴望看到 AI“真正”做出一些超越工具屬性的事情了，無論是創(chuàng)造、覺醒、還是反叛。當期待過于強烈時，一個沒做速率限制的論壇、一堆在復(fù)讀同樣內(nèi)容的語言模型、幾張來源可疑的截圖，這些東西湊在一起，就能讓半個科技圈相信奇點到了。

參考資料：

1.https://x.com/karpathy/status/...

2.https://x.com/steipete/status/...

3.https://x.com/galnagli/status/20175784205134286

4.https://github.com/daveholtz/moltbook_scraper