小紅書對(duì)“AI托管運(yùn)營(yíng)賬號(hào)”生成內(nèi)容說不，內(nèi)容生態(tài)真實(shí)性最重要

紫金財(cái)經(jīng)3月10日消息 近日，國(guó)內(nèi)社交媒體與人工智能應(yīng)用領(lǐng)域相繼出現(xiàn)重要?jiǎng)討B(tài)。內(nèi)容社區(qū)平臺(tái)小紅書“薯管家”官方賬號(hào)發(fā)布公告，宣布對(duì)“AI托管運(yùn)營(yíng)賬號(hào)”進(jìn)行治理，旨在維護(hù)內(nèi)容真實(shí)性。

此前，工業(yè)和信息化部網(wǎng)絡(luò)安全威脅和漏洞信息共享平臺(tái)發(fā)布預(yù)警，提示開源ai智能OpenClaw（俗稱“龍蝦”）在默認(rèn)或不當(dāng)配置情況下存在較高安全風(fēng)險(xiǎn)。OpenClaw的部分實(shí)例可能因權(quán)限控制不足或配置缺陷，引發(fā)網(wǎng)絡(luò)攻擊、信息泄露等安全問題。

3月10日，小紅書官方發(fā)布《關(guān)于打擊AI托管運(yùn)營(yíng)賬號(hào)的治理公告》。公告指出，平臺(tái)近期發(fā)現(xiàn)部分用戶采用AI托管模式運(yùn)營(yíng)賬號(hào)，通過技術(shù)手段自動(dòng)生成內(nèi)容、發(fā)布筆記，并在評(píng)論、私信等場(chǎng)景模擬真人互動(dòng)。

平臺(tái)明確，嚴(yán)格禁止任何利用技術(shù)手段模擬真人、進(jìn)行非真實(shí)創(chuàng)作或虛假互動(dòng)的行為，并宣布即日起實(shí)行分級(jí)治理措施：

1、對(duì)于普通賬號(hào)偶發(fā)使用AI托管代寫、代發(fā)筆記或進(jìn)行互動(dòng)，平臺(tái)將根據(jù)違規(guī)程度，采取警告、限制內(nèi)容分發(fā)等梯度處理措施。

2、對(duì)于直接通過AI托管工具注冊(cè)、發(fā)布、互動(dòng)的賬號(hào)，或主頁(yè)所有公開筆記均為AI托管代發(fā)的賬號(hào)，平臺(tái)將予以封禁處理。

此舉被業(yè)內(nèi)視為平臺(tái)對(duì)內(nèi)容生態(tài)“真實(shí)性”底線的再次強(qiáng)化。小紅書方面在公告中強(qiáng)調(diào)，鼓勵(lì)用戶利用AI工具進(jìn)行創(chuàng)作輔助，但堅(jiān)決抵制利用技術(shù)偽造身份、制造虛假流量和互動(dòng)數(shù)據(jù)的行為。

近期，一款名為OpenClaw的AI智能體在技術(shù)社區(qū)引發(fā)熱潮。其能夠模擬用戶操作電腦，自動(dòng)執(zhí)行信息搜集、數(shù)據(jù)整理、報(bào)告生成等任務(wù)，被形象地稱為“數(shù)字員工”或“龍蝦”。上個(gè)周末，深圳騰訊大廈前出現(xiàn)的近千人排隊(duì)等候技術(shù)專家協(xié)助部署，到相關(guān)工具下載量激增，顯示出市場(chǎng)對(duì)自動(dòng)化生產(chǎn)力工具的迫切需求。

然而，技術(shù)普及伴隨風(fēng)險(xiǎn)。工信部在近期的網(wǎng)絡(luò)安全預(yù)警中明確指出，此類具有高自主性的AI智能體，在默認(rèn)配置或配置不當(dāng)時(shí)，極易成為網(wǎng)絡(luò)安全薄弱環(huán)節(jié)。

紫金財(cái)經(jīng)認(rèn)為，這標(biāo)志著行業(yè)發(fā)展進(jìn)入新階段：從追求“用得上”轉(zhuǎn)向保障“用得好、用得安全”。技術(shù)的易得性不能以犧牲內(nèi)容真實(shí)性與網(wǎng)絡(luò)安全為代價(jià)。未來，能夠?qū)ⅰ耙子眯浴薄ⅰ昂弦?guī)性”與“安全性”深度融合的產(chǎn)品與平臺(tái)，將在競(jìng)爭(zhēng)中贏得更大優(yōu)勢(shì)。

小紅書的治理行動(dòng)與工信部的安全預(yù)警，共同指向了人工智能深度融入社會(huì)經(jīng)濟(jì)生活后必須解決的核心命題：在享受技術(shù)帶來的效率革命與體驗(yàn)升級(jí)的同時(shí)，如何筑牢內(nèi)容的真實(shí)底線與網(wǎng)絡(luò)的安全防線。這對(duì)于廣大用戶、企業(yè)與開發(fā)者而言，意味著在擁抱“AI伙伴”時(shí)，必須同步樹立起規(guī)范使用與安全防護(hù)的意識(shí)。