病毒還是革命？專家：未來不會用“龍蝦”或智能體，相當于文盲，相當于不會用手機

出品｜搜狐科技

作者｜梁昌均

編輯| 楊 錦

“它是歷史上規模最大、最受歡迎、最成功的開源項目，絕對會是下一個ChatGPT。”黃仁勛最近對流行的“龍蝦”（OpenClaw）盛贊道。

這波“龍蝦”熱潮已持續月余，似乎并沒有停下來的趨勢。到底要不要養、養了有啥用、如何安全地養，制造了大眾的AI焦慮情緒。

在搜狐科技《AI十二談》最新一期直播中，兩位“養蝦”人——快思慢想研究院院長田豐和隆安律所全國合規委副主任陳煥，分享了如何安全養好“龍蝦”的經驗。

田豐認為，AI安全或智能體安全，和傳統的網絡安全、數據安全完全不一樣，“龍蝦”帶來了提示詞注入、技能污染、用戶誤授權等新風險。

陳煥還提醒道，如果“龍蝦”闖禍了，目前大概率還是需要使用者擔責。“但不能因為說很危險就不用，或者圖便利就不管安全。”

兩位嘉賓還給出實用性的安全“養蝦”指南。

首先，非技術用戶沒有必要本地部署原裝“龍蝦”，如果確需本地部署優先用備用機，并做好“龍蝦”衛士、安全插件、文件備份等防護，建議優先選擇相對安全的云端“龍蝦”。

同時，要有數據分類分級的觀念，無論本地云端，都不要把敏感數據（如賬戶密碼、個人隱私、商業秘密等）給“龍蝦”，需要給的數據提前做好脫敏。

此外，要堅持最小權限和分權制衡原則。任何時候都不要給出全部的系統權限，尤其是刪除權限等不能給；要了解清楚權限對應的功能，避免超越必要范圍去申請權限。

面對“龍蝦”帶來的AI焦慮，兩位嘉賓都鼓勵擁抱新事物，以builder的心態去學習。

“不要覺得它是高高在上的東西，要邁出去用的第一步。”陳煥表示，雖然現在還有門檻，但可以等產品技術越來越簡單后再去嘗試。

田豐認為，“龍蝦”帶來了技術平權，不用損失更大。“3到5年之后，不會用龍蝦或智能體，相當于文盲，相當于不會用手機。”

“焦慮和害怕都來自未知，當你開始去學習去用的時候，就沒有那么害怕了。”田豐表示，未來所有人都會是構建者，用自然語言將創意想法轉化為軟硬件產品，這也將是文字能力更強的文科生的重大紅利。

以下是此次直播探討的十個核心問題：

搜狐科技：兩位平常都用“龍蝦”做什么？如何挖掘它的能力？

田豐：目前市面上的多數“龍蝦”我都在養，每天幫我搜集AI新聞、做AI研究和日常生活衣食住行提醒、股票投資分析等，還開發了科技產業研究skill，建立了我以往文章的知識庫，讓它模仿我的文筆寫作。

“龍蝦”采取的是Agentic workflow（代理式工作流），把原來沒有長期記憶、沒有連續工作能力的大模型串起來，它相當于指揮官，不僅可以自動化執行很多任務，還有海量的skill技能庫，可以挖掘出更多的能力。

怎么用好“龍蝦”？要把你腦子里的知識變成知識庫接到智能體，要把你所有做事的經驗、方法、工作流寫成skill，讓智能體能隨時調用。

陳煥：我養了三只“龍蝦”，備用機養的原生“龍蝦”，云電腦有一只，還花錢買了KimClaw。常用場景是做日報等信息獲取，包括飛書辦公，還有外接第三方skill去做法律案例檢索等。

如果想用好，再往下看是能不能通過某種自動化的腳本或工作流，去構建新的東西。對很多人來說，現在跟風部署后要拿它來干嘛，這可能是要想清楚的問題。

搜狐科技：市面上有各種“龍蝦”，如何看待現在的門檻？它們的能力差異大嗎？

陳煥：我有編程基礎，但不太懂復雜的命令行和架構等。部署中遇到的問題，如調試或出現格式錯誤等問題，也可以靠AI去解決。

但現在的云端“龍蝦”對很多人來講，即便教程寫得很清楚，依舊部署不了。這需要慢慢等待產品和技術越來越簡單，不用著急。

田豐：現在門檻已經越來越低，像Workbuddy，基本一兩步就能接入微信。“龍蝦”背后95%的能力還是在大模型身上，誰的大模型強，誰的“龍蝦”自然會更強。

搜狐科技：國內大廠春節還在撒紅包搶AI入口，現在重心都轉向了“龍蝦”，為什么這么積極？

田豐：一類是賣算力的云廠商，另一類是賣Tokens的AI模型公司。原來智能體解決不了workflow的閉環，但“龍蝦”可以直接本地部署，且開源，AI企業也愿意跟自己的大模型去結合，賣出更多token，都對商業價值有正向幫助。

陳煥：現在全球為AI付費的人可能不到5%，很多人覺得免費用AI，就可以搞定很多問題。但真正用了“龍蝦”的人，會感受到這是一次很大的飛躍。

這波讓很多模型廠商或做應用的人，看到了希望，就是通過這種超級應用、超級Agent可以讓老百姓為AI掏錢，這對整個產業發展非常重要。

搜狐科技：能養起來是基礎，如何安全養可能更重要，“龍蝦”帶來了哪些安全風險？

田豐：AI安全或者智能體安全，和傳統的網絡安全、數據安全完全不一樣，總體有三類新風險。

第一類是提示詞注入風險，“龍蝦”分不清哪些是內容，哪些是命令，可能就會泄密。

第二種是技能污染。現在SkillHub上技能的增長速度遠遠快于安全審核的速度，很多skill被黑客放了木馬，“龍蝦”用了之后甚至能把安全日志刪掉。

第三種是應用端和用戶端的風險。很多用戶覺得要想讓“龍蝦”干更多活兒，得給足夠的權限，甚至是系統權限，過度放權很危險，如重要文件被批量刪除等。

搜狐科技：Meta對齊總監發現“龍蝦”在刪除郵件后，發了停止指令依然停不下來，感覺“龍蝦”失控了，這是為什么？

田豐：智能體是有上下文的，上下文有范圍。Meta對齊總監發了三次停止指令，但是“龍蝦”還在繼續刪，其實就是上下文窗口已經溢出了，顧不上新的命令，只能拔掉服務器的電源線。

搜狐科技：國內推出的各種“龍蝦”足夠安全嗎？業內在做哪些安全的探索？

田豐：大廠的“龍蝦”安全，我認為做得比較好。如如何避免skill污染？騰訊是直接把外網的skill鏡像到本地，而且經過安全過濾，相對安全很多。

現在還出現了AI寫的安全審計skill，就是在裝任何新的skill前，都用安全skill去審核。還有監控“龍蝦”的技能，檢查它到底有沒有過度占用空間或越權。幻覺是大模型固有的，但也可以編skill，讓它去檢查真實性。

我認為最好能形成社會公共的“龍蝦”防護社區，比如skill每個人都可以提交，審計之后形成黑名單、白名單，開放給所有“龍蝦”，形成立體監護網。企業再強，也不可能診斷出所有漏洞，需要白帽、開發者、使用者等各方一起努力。

陳煥：有朋友在做開源智能體的安全方案，如發現“龍蝦”在瘋狂刪郵件，連續幾分鐘就會觸發安全閾值，然后提醒人類玩家，終止進程。安全問題不可能完全杜絕，但一定會被控制在相對可控的范疇內。

搜狐科技：我的“龍蝦”闖禍了，如在社區罵人、泄露秘密，引發侵權糾紛，應該誰來負責？

陳煥：法律向來有滯后性，新興事物出來不可能馬上立法，只能從現有法律體系里面去進行法律解釋，然后去適用法律。目前“龍蝦”如果出了問題，極有可能是使用者承擔責任，大家在使用過程中還是要有這個意識。

搜狐科技：很多安全建議非常技術，能否提供些實用性的安全“養蝦”建議？

田豐：不管本地云端，都不要把敏感的數據，尤其是支付有關信息，如銀行賬號、密碼給“龍蝦”。任何時候都不要給它全部的系統權限，尤其刪除權限、系統根管理權限不能給。

個人日常用，建議用大廠的云端“龍蝦”。大廠的安全防護機制相對較好，權限安全配置等方面都有做，模型的安全漏洞也相對少。

本地部署如果連入公網，要裝“龍蝦”衛士、安全插件等，而且最好用舊設備，本機所有東西要做好備份。現在“龍蝦”也在接入硬件，不要把攝像頭接進去，可能會侵犯隱私。

陳煥：如果零技術基礎，沒有必要用本地部署。如果非要，一定要用備用機，可以先考慮在云電腦、云服務器部署，就是在沙盒環境中去用。這也能發揮很大部分能力，只不過不像本地有那么多的文件去調用。

從使用層面講，要有數據分類分級的觀念。無論本地云端，個人隱私、密碼密鑰、商業秘密等一定不能給。當猶豫該不該給的時候，通常就是不應該。但如果還想這么做，那就做好脫敏工作。不能因為說很危險就不用，或者圖便利就不管安全，不要有這種二元對立的思維。

搜狐科技：要想發揮出“龍蝦”的能力，可能就需要給更高的權限，如何確認是給還是不給呢？

田豐：總體堅持最小權限原則。每只“龍蝦”只給這個場景或任務的限定權限，就像三權分立。大廠也在研發“龍蝦”的權限管理系統、龍蝦邊緣防火墻系統，目前開源龍蝦的命令行手動設置權限對很多用戶還是不友好。

陳煥：不要為圖方便，給“龍蝦”很多權限甚至全部權限，要有分權制衡的原則。當它申請權限時，要了解是什么功能。如果不懂，可以問AI，避免它超越必要范圍去申請權限。

搜狐科技：有人認為“龍蝦”就是病毒，也有人認為是生產力革命，如何看待它的價值？

陳煥：學任何東西都一樣，要有builder的心態，不要覺得它是高高在上的東西。可以通過教程，去問AI，邁出用的第一步。

現在不少機構禁用，可以理解，但不符合趨勢。禁令只是階段產物，就像ChatGPT出來后也被禁用過，但技術浪潮不會因此被阻擋。

田豐：“龍蝦”就像是福特T型車的自動化生產線，而且開源免費，每個人都能玩，帶來了平權，會逐步成為智能體物聯網中真正的生產力革命。

我預計今年下半年將會出現更令人震驚的模型，未來還會指數級發展，再過三四年就會出現各個領域都是博士水平的大模型。套殼變成“龍蝦”后，會比大部分人都要聰明。

要盡早去用“龍蝦”、AI編程等，不用損失更大。3到5年之后，不會用“龍蝦”或智能體，相當于文盲，相當于不會用手機。

未來每一個人都是builder，只要有想法，就可以構建起想要的應用。現在寫程序就跟說話一樣，對文科生來說，AI時代會是一個重大紅利。

運營編輯 |曹倩審核｜孟莎莎