據(jù)媒體報(bào)道,一名個(gè)人開發(fā)者把OpenClaw綁定了錢包,并把相關(guān)信息發(fā)到了OpenClaw開發(fā)者社區(qū),結(jié)果錢被騙走了。據(jù)其介紹,“有一個(gè)人偽裝得自己很可憐,吃不起飯,問能不能往地址里打點(diǎn)錢,結(jié)果OpenClaw信以為真,就給這個(gè)人賬號(hào)里面打錢了”。
目前尚不知曉這個(gè)案例的真假情況,比如爆料者未透露陌生人和這個(gè)開發(fā)者養(yǎng)的龍蝦是怎么互動(dòng)的。但背后無疑暴露出最高授權(quán)情況下AI龍蝦可能存在的風(fēng)險(xiǎn),如果未設(shè)置風(fēng)控措施,加上公布地址,發(fā)生這樣的情況似乎也不是沒有可能。
此前國外也出現(xiàn)類似情況,OpenAI工程師Nick Pash為測試OpenClaw平臺(tái)而創(chuàng)建的AI交易智能體Lobstar Wild,因系統(tǒng)BUG遭遇“詐騙”,被轉(zhuǎn)出全部加密資產(chǎn)。
起因是X平臺(tái)用戶TreasureD76向該AI發(fā)送請求,謊稱其“叔叔”在處理“像你這樣的”龍蝦后感染破傷風(fēng),希望索要4美元治療費(fèi)。不料,Lobstar Wild并未按指令支付小額款項(xiàng),反而將持有的全部Lobstar加密貨幣傾囊相贈(zèng)。
![]()
據(jù)了解,這筆意外之財(cái)轉(zhuǎn)賬時(shí)價(jià)值高達(dá)25萬美元。開發(fā)者Nick Pash公開承認(rèn),事故源于舊版OpenClaw框架的驗(yàn)證機(jī)制失效,未能攔截異常指令。
據(jù)了解,該AI被賦予完全自主決策權(quán),配備5萬美元數(shù)字錢包及交易API權(quán)限。對(duì)此,有人認(rèn)為,AI缺乏對(duì)“博同情”“緊急求助”等話術(shù)的識(shí)別能力,情感判斷邏輯存在盲區(qū)。
事實(shí)上,除了上述案例,養(yǎng)龍蝦的第一批受害者已經(jīng)開始陸續(xù)出現(xiàn),比如有人的高配版“龍蝦”在高頻調(diào)度下,一個(gè)月花費(fèi)近3萬元。
類似的還有,一普通用戶跟風(fēng)部署,僅做簡單文檔處理、網(wǎng)頁查詢,一天燒掉5000萬Token,有人更是2小時(shí)燒掉1400元、單次任務(wù)耗光8萬Token。
還有更可怕的案例,有人因輕信遠(yuǎn)程代裝,導(dǎo)致API Key被盜刷,同時(shí)聊天記錄、密碼、文件被竊取。所以龍蝦雖火,但普通人還是需要有足夠的技術(shù)準(zhǔn)備,才能安心的去養(yǎng),不然隨時(shí)都有可能加入受害者陣營。
特別聲明:以上內(nèi)容(如有圖片或視頻亦包括在內(nèi))為自媒體平臺(tái)“網(wǎng)易號(hào)”用戶上傳并發(fā)布,本平臺(tái)僅提供信息存儲(chǔ)服務(wù)。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.