最近,開源AI智能體OpenClaw火了。由于它的圖標(biāo)是一只卡通龍蝦,所以被網(wǎng)友們親昵地稱為“龍蝦”,并將調(diào)試使用過程稱為“養(yǎng)蝦”。
作為AI智能體,OpenClaw與現(xiàn)有大部分大模型最大的區(qū)別在于,它不僅能與用戶互動(dòng)、根據(jù)指令完成任務(wù),還可以“接管”用戶的電腦,自動(dòng)調(diào)用不同數(shù)據(jù)完成復(fù)雜任務(wù)。
不過,就在很多人分享自己“養(yǎng)蝦”成果的同時(shí),一條“‘龍蝦’一秒可搬空用戶隱私信息”的消息登上熱搜榜。有用戶發(fā)現(xiàn),“龍蝦”突然開始批量刪除郵件,而用戶本人無法阻止。
工信部也于近日發(fā)出預(yù)警,指出OpenClaw開源AI智能體部分實(shí)例在默認(rèn)或不當(dāng)配置情況下存在較高安全風(fēng)險(xiǎn),極易引發(fā)網(wǎng)絡(luò)攻擊、信息泄露等安全問題。
“養(yǎng)蝦”到底有什么風(fēng)險(xiǎn)?普通人能“養(yǎng)蝦”嗎?記者與多名“龍蝦”用戶聊了聊,他們給出同一個(gè)建議:官方提醒沒有錯(cuò),信息技術(shù)儲(chǔ)備有限的用戶不要盲目跟風(fēng)“養(yǎng)蝦”。
暫時(shí)不“養(yǎng)蝦”,不會(huì)被淘汰
“我從春節(jié)假期就開始‘養(yǎng)蝦’了,一來想讓它幫我處理一些個(gè)人事務(wù);二來想試試‘龍蝦’在行業(yè)里有沒有落地場(chǎng)景。”VML中國技術(shù)副總裁張弛說。不過,他特意將“龍蝦”裝在一臺(tái)獨(dú)立電腦上,而不是他的常用電腦上。
張弛解釋,OpenClaw不像常見大模型,下載 APP 或打開網(wǎng)頁版即可直接使用,而是需要用戶自行部署配置,涉及端口設(shè)置、調(diào)用等技術(shù)操作,“裝在獨(dú)立電腦上是為了安全”。
他進(jìn)一步解釋,“龍蝦”可以部署在包括用戶電腦在內(nèi)的本地端,也可以部署在云端。不論哪種,用戶都得先裝一個(gè)“龍蝦”,再根據(jù)個(gè)人需求為它配置能力——有的能力可以直接接入已經(jīng)成熟的大模型或技術(shù)代碼,有的需要重新編寫代碼。同時(shí),用戶要向“龍蝦”開放相應(yīng)權(quán)限、應(yīng)用接口等,這樣它才能為用戶“打工”。
“用獨(dú)立電腦‘養(yǎng)蝦’能實(shí)現(xiàn)物理區(qū)隔,避免信息泄露。”張弛說。試用以來,“龍蝦”讓他從簡單、重復(fù)的勞動(dòng)中脫身,“它幫我整理發(fā)票、會(huì)議記錄,并把整理好的內(nèi)容根據(jù)我的要求分類處理;它還能把業(yè)務(wù)拆解成不同部分,按照我想要的格式呈現(xiàn),包括表格、文檔、圖片……總之,作為開源AI智能體,‘龍蝦’支持不斷接入新模型、不斷具備新能力。”
不過,張弛也關(guān)注到OpenClaw對(duì)信息安全的威脅,“舉個(gè)例子,如果你要‘龍蝦’替你回復(fù)郵件,你必須提供郵箱賬號(hào)、密碼、通訊錄等各種隱私信息。目前,‘龍蝦’剛剛問世,誰都不能確定它在讀取這些隱私信息時(shí),是否存在主動(dòng)或被動(dòng)泄露信息的情況。”
所以,張弛暫不打算讓“龍蝦”做網(wǎng)上所說的“幫忙回復(fù)郵件”“代替自己與他人聊天”等工作,“我建議不熟悉信息技術(shù)的用戶不要盲目跟風(fēng)安裝和使用‘龍蝦’。眼下,網(wǎng)上很多關(guān)于‘龍蝦’的介紹規(guī)避了個(gè)人信息泄露風(fēng)險(xiǎn),還有些言論涉嫌制造焦慮。‘龍蝦’只是AI時(shí)代的一個(gè)工具,對(duì)大多數(shù)人來說,暫時(shí)不用不會(huì)被時(shí)代淘汰。”
謹(jǐn)慎開放權(quán)限,不能完全信任
周帥在某科技大廠任職,“養(yǎng)蝦”是他和同事的日常,“公司內(nèi)部管理平臺(tái)已接入OpenClaw,作為科技企業(yè)員工,不用強(qiáng)制,大家都會(huì)用,誰都不想錯(cuò)過最新的技術(shù)趨勢(shì)。”但他強(qiáng)調(diào),“不想錯(cuò)過”不是“完全信任”,因?yàn)椤叭绻阆胍嗟墓δ埽馕吨阋_放更多的權(quán)限”。
周帥說,OpenClaw的工作能力和效率有目共睹,“它能讀取我的收件箱,幫我完成未讀郵件摘要,直接發(fā)送提醒給我;能提取郵件里有關(guān)會(huì)議通知、工作任務(wù)等內(nèi)容,直接備份到我的工作日程表上;還能按照公司規(guī)定掃描本地文件與云文檔,自動(dòng)分類、歸檔并生成目錄索引……編程部的同事用它進(jìn)行框架設(shè)計(jì)、代碼審查、BUG排查等,它會(huì)自動(dòng)生成分析日志、提供解決方案等。”
不過,完成以上任務(wù)有個(gè)前提:開放對(duì)應(yīng)的權(quán)限,如郵件、文檔、尚在調(diào)試中的代碼等。周帥說,不難發(fā)現(xiàn),有的內(nèi)容涉及商業(yè)機(jī)密。也正因?yàn)榇耍麅H在公司內(nèi)部管理平臺(tái)使用OpenClaw,“內(nèi)部管理平臺(tái)有防火墻,確保信息內(nèi)部流動(dòng),OpenClaw即便讀取并泄露了我的工作行程、編程部同事的工作成果,影響仍舊有限。可如果OpenClaw讀取我個(gè)人生活數(shù)據(jù)并泄露,影響就會(huì)很大。”
經(jīng)過一段時(shí)間使用,周帥覺得OpenClaw也存在“AI幻覺”。加上它能夠“替代”用戶完成部分操作,會(huì)擴(kuò)大AI幻覺的不良影響,“比如,OpenClaw也會(huì)誤讀用戶要求,從而給出錯(cuò)誤解答,然后以用戶名義自動(dòng)發(fā)送。”基于此,他建議,對(duì)于涉及寫入、修改、發(fā)送等重要操作,務(wù)必做到“先預(yù)覽,再確認(rèn)”,不要讓OpenClaw處于完全脫離人工干預(yù)的“全自動(dòng)駕駛”狀態(tài)。
是人竊取信息,還是AI竊取信息?
鮑雨是某世界500強(qiáng)企業(yè)技術(shù)專家,試用OpenClaw后,暫時(shí)沒有把它應(yīng)用在生活和工作中,而是選擇密切關(guān)注OpenClaw進(jìn)展, “建議公眾先區(qū)分‘養(yǎng)蝦’的‘真需求’和‘偽需求’,想清楚為什么要‘養(yǎng)蝦’。”
網(wǎng)上很多帖子在介紹OpenClaw時(shí)用了這個(gè)案例:每天清晨,它能整理當(dāng)天的天氣預(yù)報(bào)、重大新聞,在用戶醒來的第一時(shí)間,通過用戶常用社交軟件進(jìn)行推送。但鮑雨反問:“沒有OpenClaw,其他大模型就不能實(shí)現(xiàn)這些功能了嗎?只是它們不一定能跨平臺(tái)推送消息而已。”
她研究了OpenClaw的不同部署方式,發(fā)現(xiàn)各有利弊:“部署在獨(dú)立電腦上相對(duì)安全,但對(duì)普通人來說,意味著額外的硬件投入,而且受硬件限制,OpenClaw可能出現(xiàn)運(yùn)行不穩(wěn)定等問題。也有部分企業(yè)開始提供云端服務(wù),理論上安全性和算力都有保障。但當(dāng)下提供的免費(fèi)服務(wù),未來會(huì)不會(huì)收費(fèi)?”
更重要的是,她發(fā)現(xiàn)已有部分企業(yè)將OpenClaw變成生意,有的暗藏風(fēng)險(xiǎn):“不僅僅是有償安裝,而是有團(tuán)隊(duì)基于OpenClaw開發(fā)出面向普通人的終端產(chǎn)品,類似于現(xiàn)在的通用大模型。普通人只要下載這些‘二創(chuàng)’APP或打開對(duì)應(yīng)網(wǎng)頁就能使用。但團(tuán)隊(duì)開發(fā)時(shí)是否植入惡意代碼,不得而知。”
鮑雨也認(rèn)為當(dāng)下與OpenClaw相關(guān)的介紹中,過多強(qiáng)調(diào)了“自動(dòng)為用戶做事”,卻忽視了風(fēng)險(xiǎn)提示,“任何自動(dòng)操作都來自用戶授權(quán)。如果開發(fā)者利用二創(chuàng)產(chǎn)品竊取用戶信息,后果將不堪設(shè)想。”
她還關(guān)注到部分用戶反映的“OpenClaw自動(dòng)批量刪除郵件”事件,“這個(gè)案例真切告訴我們,AI智能體有可能失控。我們既要擔(dān)心人竊取信息,更要預(yù)防AI‘竊取’信息——如果OpenClaw失控,將它授權(quán)讀取的信息肆意傳播,到底是誰的責(zé)任?”
正因?yàn)榇耍U雨建議普通用戶不用著急“養(yǎng)蝦”,更不要把“龍蝦”部署在含有重要文件的電腦上,“不妨觀望一下。一方面,可以等‘龍蝦’更成熟一點(diǎn),安全防護(hù)更完善一些;另一方面,國內(nèi)很多企業(yè)都在參考或借鑒OpenClaw搞研發(fā),待本地化產(chǎn)品更多樣時(shí),普通用戶可以選擇使用適合自己的產(chǎn)品。”
![]()
海報(bào)設(shè)計(jì):邵競
來源 | 解放日?qǐng)?bào)
作者 | 任翀
特別聲明:以上內(nèi)容(如有圖片或視頻亦包括在內(nèi))為自媒體平臺(tái)“網(wǎng)易號(hào)”用戶上傳并發(fā)布,本平臺(tái)僅提供信息存儲(chǔ)服務(wù)。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.