警惕“龍蝦”背后的風(fēng)險(xiǎn)，每一份追捧都該留份清醒 | 新京報(bào)快評(píng)

AI代理固然是一種生產(chǎn)力，但不應(yīng)該錯(cuò)誤地將AI代理等同于完全的機(jī)器替代。

▲3月10日，小紅書發(fā)布關(guān)于打擊AI托管運(yùn)營(yíng)賬號(hào)的治理公告。圖/新京報(bào)貝殼財(cái)經(jīng)截圖

文 | 江河

由OpenClaw引發(fā)的“龍蝦旋風(fēng)”還在持續(xù)。不過(guò)，在經(jīng)歷了最初的烈火烹油般地“全民追捧”之后，理性的聲音漸次登場(chǎng)。

3月10日晚，國(guó)家互聯(lián)網(wǎng)應(yīng)急中心發(fā)布關(guān)于OpenClaw安全應(yīng)用的風(fēng)險(xiǎn)提示，提及由于OpenClaw智能體的不當(dāng)安裝和使用，已經(jīng)出現(xiàn)了一些嚴(yán)重的安全風(fēng)險(xiǎn)，其中涉及插件投毒、隱私數(shù)據(jù)、支付賬戶、API密鑰等敏感信息遭竊取等，呼吁相關(guān)單位和用戶在部署和應(yīng)用OpenClaw時(shí)采取強(qiáng)化網(wǎng)絡(luò)控制、嚴(yán)格管理插件來(lái)源等措施，以防范“龍蝦”安裝潛在風(fēng)險(xiǎn)。

就在同一晚，中國(guó)科協(xié)之聲也發(fā)表評(píng)論稱：別急著“養(yǎng)龍蝦”，不要被營(yíng)銷噱頭沖昏頭腦。有意思的是，對(duì)“龍蝦”的盲目追捧也引起了平臺(tái)公司的警惕。昨晚，某社交平臺(tái)發(fā)布治理公告稱，嚴(yán)格禁止任何利用技術(shù)手段模擬真人、生成非真實(shí)內(nèi)容或開展虛假互動(dòng)的行為，明確表示嚴(yán)厲打擊AI托管類賬號(hào)。

風(fēng)向，的確在慢慢起變化。這種變化當(dāng)然不是對(duì)技術(shù)的否定，而是對(duì)市場(chǎng)狂熱情緒的必要回?fù)堋獙?duì)技術(shù)創(chuàng)新的擁抱，必須限定在理性軌道。

相對(duì)于對(duì)話式大語(yǔ)言模型，“龍蝦”具備更高級(jí)的功能，將其部署在個(gè)人電腦之后，可以幫用戶自動(dòng)執(zhí)行任務(wù)，譬如收發(fā)郵件、管理日程甚至進(jìn)行金融交易等。作為AI智能體的“龍蝦”，代表了當(dāng)前AI代理行業(yè)的前沿水準(zhǔn)。

AI代理是人工智能時(shí)代，人們努力追求的一種效率革命，因?yàn)樗M(jìn)一步、毋寧說(shuō)是更加劇烈地解放了人的雙手，極速提高了工作與生活效率。但是，這場(chǎng)效率革命的門檻，卻并不如公眾想象得那么低。

AI智能體的運(yùn)行機(jī)制，決定了它必須調(diào)用大量的系統(tǒng)權(quán)限——讀取信息、操作賬戶、調(diào)用API密鑰、訪問(wèn)支付接口。對(duì)于具備技術(shù)素養(yǎng)的專業(yè)人士而言，他們知道如何設(shè)置權(quán)限、辨別插件來(lái)源、防范潛在的后門，但對(duì)于絕大多數(shù)跟風(fēng)涌入的普通用戶來(lái)說(shuō)，他們看到的只是“養(yǎng)龍蝦”的酷炫，卻鮮少知道背后程序調(diào)用所蘊(yùn)藏的風(fēng)險(xiǎn)。在這種技術(shù)盲從之下，所謂“助手”，很可能變成致命陷阱。

國(guó)家互聯(lián)網(wǎng)應(yīng)急中心提示的插件投毒、數(shù)據(jù)泄露等風(fēng)險(xiǎn)，正是對(duì)這種“技術(shù)反噬”的嚴(yán)肅警告。就在這兩天，社交平臺(tái)上還流傳一組聊天記錄顯示，有網(wǎng)友在群聊中專門針對(duì)組裝了“龍蝦”的用戶下手，通過(guò)發(fā)送精心編織的指令，誘導(dǎo)這些用戶向其私發(fā)紅包。

如果這組對(duì)話屬實(shí)，那恰恰表明，當(dāng)一個(gè)人為了趕時(shí)髦而使用自己并不了解的技術(shù)，他很可能不是在掌控工具，而是把自己暴露給風(fēng)險(xiǎn)。

社交平臺(tái)之所以開始亮明對(duì)AI托管賬號(hào)的態(tài)度，一是出于平臺(tái)安全考量，更重要的是，AI托管賬號(hào)觸及了人與人社交一個(gè)更底層的問(wèn)題：信任。當(dāng)社交賬號(hào)利用技術(shù)模擬真人互動(dòng)，生成非真實(shí)內(nèi)容，本質(zhì)上是一種欺騙，這絕對(duì)是數(shù)字平臺(tái)的負(fù)資產(chǎn)。

很多人在談及這波“龍蝦熱”時(shí)，都提到人們跟風(fēng)盲從是源于AI時(shí)代的能力焦慮。我倒覺得，這未必是一種焦慮，更像是一種數(shù)字時(shí)代的技術(shù)浪漫主義想象。人們對(duì)新技術(shù)抱有天然的濾鏡，相信它無(wú)所不能，相信自己能夠駕馭它，相信自己只要追趕上這波潮流，就能早早吃到紅利，將他人甩在身后，或者，至少不被時(shí)代拋下。

這種技術(shù)浪漫主義想象本身并無(wú)過(guò)錯(cuò)，甚至?xí)蔀榭萍紕?chuàng)新的動(dòng)力，但浪漫一旦演變?yōu)槊模闳菀鬃屪约旱腼L(fēng)險(xiǎn)的深坑。

很多人沒有想過(guò)的是：自己是否真的需要AI智能體代理，又能否駕馭它？一些人在網(wǎng)絡(luò)平臺(tái)上用AI機(jī)器人代自己相親，有沒有想過(guò)一系列的現(xiàn)實(shí)后果？

人工智能時(shí)代，AI代理固然是一種生產(chǎn)力，但不應(yīng)該錯(cuò)誤地將AI代理等同于完全的機(jī)器替代。更理性的做法是：在認(rèn)同AI已經(jīng)成為時(shí)代大勢(shì)的前提下，去認(rèn)真思考，機(jī)器如何為我所用，人與機(jī)器如何共生，而不是急吼吼地讓機(jī)器來(lái)“消滅”自己。

根據(jù)經(jīng)驗(yàn)，這波“龍蝦”旋風(fēng)很快就會(huì)過(guò)去，我們不必因噎廢食，拒絕技術(shù)帶來(lái)的便利，但也必須明白：無(wú)論是個(gè)人、企業(yè)或者是政府，都需要在這股熱潮中找到自己的位置。創(chuàng)新需要擁抱，但理性的韁繩，必須握在我們自己手中。

撰稿 / 江河（媒體人）

編輯 / 遲道華 徐秋穎

校對(duì) / 楊利