315 曝光 AI 投毒黑產(chǎn)：你的信任，正在被算法收割

圖片為AI生成

據(jù)天眼查專業(yè)版數(shù)據(jù)顯示，截至目前，我國(guó)擁有超214.7萬(wàn)家軟件開發(fā)相關(guān)企業(yè)，其中3.67%的相關(guān)企業(yè)曾出現(xiàn)經(jīng)營(yíng)異常，數(shù)量超7.8萬(wàn)家。這一數(shù)據(jù)與315晚會(huì)曝光的AI大模型“投毒”亂象形成呼應(yīng)，折射出數(shù)字時(shí)代技術(shù)快速迭代與監(jiān)管滯后的深層矛盾。

AI“投毒”黑產(chǎn)的運(yùn)作邏輯并不復(fù)雜。央視315晚會(huì)曝光的“力擎GEO優(yōu)化系統(tǒng)”，只需用戶付費(fèi)輸入虛構(gòu)產(chǎn)品信息，就能批量生成宣傳軟文，并通過(guò)技術(shù)手段讓這些虛假內(nèi)容被AI大模型抓取推薦，催生出專門發(fā)稿“投毒”的灰色產(chǎn)業(yè)鏈。記者實(shí)測(cè)發(fā)現(xiàn)，一款虛構(gòu)的智能手環(huán)經(jīng)該軟件生成內(nèi)容后，迅速被AI大模型作為“推薦爆款”呈現(xiàn)給用戶，暴露出大模型“數(shù)據(jù)投喂-生成推薦”閉環(huán)中的審核漏洞。

從技術(shù)層面看，AI大模型對(duì)“高頻內(nèi)容”的偏好和訓(xùn)練數(shù)據(jù)來(lái)源的審核缺失，使其極易成為黑產(chǎn)的操控對(duì)象。36氪分析指出，這類“投毒”行為本質(zhì)是利用算法特性，通過(guò)制造虛假信息流量來(lái)干擾AI的判斷邏輯。而從行業(yè)生態(tài)看，超7.8萬(wàn)家軟件開發(fā)企業(yè)經(jīng)營(yíng)異常的數(shù)據(jù)，反映出行業(yè)快速擴(kuò)張下的合規(guī)能力不足。天眼查數(shù)據(jù)顯示，從事軟件開發(fā)相關(guān)業(yè)務(wù)的企業(yè)中，1.91%曾出現(xiàn)法律訴訟，0.35%曾出現(xiàn)行政處罰，這些數(shù)據(jù)與AI“投毒”黑產(chǎn)的出現(xiàn)形成關(guān)聯(lián)，部分經(jīng)營(yíng)異常企業(yè)可能正是游走在灰色地帶的技術(shù)服務(wù)商。

對(duì)于普通消費(fèi)者而言，AI“投毒”已從技術(shù)圈的“內(nèi)部游戲”演變?yōu)橹苯忧趾?quán)益的新型欺詐。澎湃新聞?wù){(diào)查發(fā)現(xiàn)，有商家以6600元包年的價(jià)格提供“讓品牌出現(xiàn)在AI答案前三”的服務(wù)，這種操縱行為不僅破壞了消費(fèi)市場(chǎng)秩序，更讓用戶陷入“AI推薦=可信”的認(rèn)知誤區(qū)。當(dāng)消費(fèi)者因AI推薦購(gòu)買虛構(gòu)產(chǎn)品后，卻面臨責(zé)任主體模糊的維權(quán)困境——AI平臺(tái)、黑產(chǎn)工具商、內(nèi)容發(fā)布者之間的責(zé)任邊界難以界定。

面對(duì)AI“投毒”亂象，監(jiān)管層面的應(yīng)對(duì)已刻不容緩。律師指出，相關(guān)主體可能面臨多層法律責(zé)任，但現(xiàn)有法律對(duì)“AI內(nèi)容操縱”的界定仍存在空白。未來(lái)，隨著監(jiān)管強(qiáng)化，行業(yè)或?qū)⒂瓉?lái)從“野蠻生長(zhǎng)”向“合規(guī)化競(jìng)爭(zhēng)”的轉(zhuǎn)型，頭部企業(yè)通過(guò)合規(guī)能力建立壁壘，尾部不合規(guī)企業(yè)加速淘汰。而對(duì)于普通用戶來(lái)說(shuō)，提升對(duì)AI生成內(nèi)容的辨別能力，或許是避免成為技術(shù)黑產(chǎn)受害者的第一道防線。

AI大模型本應(yīng)是提升效率的工具，卻被黑產(chǎn)利用成為“信息污染”的幫兇。這場(chǎng)信任危機(jī)的化解，需要技術(shù)倫理、行業(yè)自律與監(jiān)管制度的協(xié)同發(fā)力，才能讓AI真正服務(wù)于健康的數(shù)字生態(tài)。