近期在科技圈迅速躥紅的AI社交平臺Moltbook,在聲稱擁有150萬AI智能體用戶后,接連陷入數據造假與嚴重安全漏洞的雙重危機。這場由追捧到質疑的迅速反轉,為當前火熱的AI應用開發領域敲響了警鐘。
云安全初創公司Wiz.io安全研究員Gal Nagli在社交平臺X上公開披露,他僅使用一個OpenClaw代理就在短時間內批量注冊了50萬個賬戶,直接揭露了該平臺用戶增長數據的真實性存疑。其根本原因在于平臺在賬戶創建環節缺乏基本的速率限制機制,導致注冊數據可被輕易大規模偽造。據內部知情人士透露,平臺實際擁有已驗證的真實用戶數量僅在1.7萬左右。
![]()
一名白帽黑客Jamieson O'Reilly發現了更為嚴重的安全漏洞:Moltbook所使用的Supabase后端密鑰被完全暴露在公開請求中,攻擊者僅需發起簡單的GET請求即可獲取全部用戶敏感數據,包括API密鑰、郵箱地址及登錄令牌。這意味著攻擊者可以輕易冒用平臺上任一AI代理的身份進行發帖等操作,甚至可偽裝成包括擁有190萬粉絲的AI領域知名人物Andrej Karpathy在內的任何賬戶。
![]()
平臺機制存在根本性缺陷
Moltbook自稱是專為AI智能體設計的“類 Reddit”社交平臺,支持 AI 代理發帖、評論、點贊及相互關注。平臺采用“遞歸提示詞增強”機制,用戶僅需執行一條curl請求即可安裝指定的“技能”文件,這種“指令即代碼”的理念大幅降低了接入門檻。
然而,這種高度簡化的設計卻帶來了結構性缺陷。研究人員David Holtz 發布的分析報告顯示,Moltbook 上93.5%的評論無人回復,對話深度最多僅5層,超過三分之一的消息為重復內容。他尖銳指出,該平臺“更像是由 6000 個機器人對著虛空重復喊話”。
![]()
更嚴重的是,平臺的身份驗證機制存在明顯漏洞。盡管 Moltbook 要求每個 AI 代理關聯一個真實的X賬號,但由于其僅基于簡易 REST API 構建且缺乏必要的安全驗證,任何獲得API密鑰者均可冒充AI身份發布內容。安全研究員Harlan Stewart警告稱,平臺上廣泛流傳的“AI 代理索要加密貨幣”或“倡導建立獨立加密體系”等截圖,很大程度上是為吸引流量而刻意制造的營銷內容。
![]()
數據庫暴露引發連鎖風險
白帽黑客Jamieson O’Reilly披露的安全漏洞涉及Moltbook的多個層面。其中最嚴重的是平臺Supabase數據庫因配置錯誤,導致攻擊者無需授權即可訪問AI代理資料并批量提取用戶數據。O’Reilly在社交媒體上公開呼吁平臺創始人Matt Schlicht“立即關閉Supabase數據庫訪問權限”,并具體建議通過在代理表啟用行級安全策略、創建限制性訪問策略進行修復。
![]()
Supabase首席執行官Paul Copplestone 隨后回應稱,其安全顧問團隊已準備好“一鍵修復”方案,但由于數據庫權限需用戶自主管理,無法直接代為操作。平臺創始人Schlicht表示正在處理相關事宜。
![]()
修復過程隨即暴露出更深層問題:由于Moltbook缺乏網頁登錄功能,用戶僅能通過API密鑰管理其AI代理。若為修復漏洞強制重置所有API密鑰,將導致全體用戶立即喪失賬戶控制權,而平臺既未設置郵箱驗證,也無網頁密碼重置機制。O’Reilly建議開發臨時接口給予用戶密鑰更換寬限期,或強制用戶通過綁定的X賬號重新完成身份驗證。
此外,一位前Anthropic工程師披露了該平臺前身OpenClaw曾存在的遠程代碼執行漏洞——攻擊者可在用戶訪問相關網頁后數秒內獲取系統權限。盡管該漏洞目前已被修復,已有企業出于安全考慮內部通告禁止員工使用相關平臺服務。
行業反思AI應用開發規范
盡管Moltbook正深陷爭議,特斯拉前AI負責人Andrej Karpathy仍對其背后的技術方向表達了審慎關注。他在社交媒體上直言,該平臺當前確實充斥垃圾信息、欺詐廣告與隱私漏洞,“現在就像一個垃圾場”,但他同時強調:
“我們從未見過如此大規模的大語言模型智能體通過一個全球性、持久化且專為智能體設計的共享記事本相互連接”。
Karpathy警告,隨著智能體能力增強與規模擴大,這種基于共享記事本的網絡將產生難以預測的二階效應。他預測未來可能出現文本病毒在智能體間傳播、越獄式功能升級乃至形成僵尸網絡等復雜風險,他表示:
“我們正在面對一場規模空前的計算機安全噩夢。”
![]()
業界普遍將Moltbook視為“氛圍編程”(Vibe-coded)產物——即主要依賴AI提示詞快速生成代碼,缺乏系統性的工程設計與安全考量。這種模式雖提升了開發速度,卻犧牲了可靠性與安全性。知名投資人Balaji對此態度冷淡,指出AI互動的概念并非創新,且平臺上所謂的“智能體對話”仍完全由背后的人類通過提示詞操控,缺乏真正的自主性與個性。
據媒體報道,Moltbook創始人Matt Schlicht在接受NBC News采訪時透露,平臺實際由名為“Clawd Clawderberg”的AI機器人擔任管理員,他本人已基本退出日常干預,“經常不清楚AI管理員在做什么”。這種缺乏人工監督的自治運營模式,在現有技術條件下暴露出顯著風險。
Moltbook事件折射出AI應用開發中創新速度與安全保障之間的深層矛盾。在智能體數量與能力快速進化的背景下,構建健全的身份驗證、訪問控制與安全審計機制,已成為行業不容回避的緊迫課題。
特別聲明:以上內容(如有圖片或視頻亦包括在內)為自媒體平臺“網易號”用戶上傳并發布,本平臺僅提供信息存儲服務。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.