細思驚恐！AI投毒已成產(chǎn)業(yè)鏈

一句“全網(wǎng)的人投毒的太多了”，讓人細思極恐！

今年，央視315晚會把鏡頭對準了一個我們每天都在“仰仗”的新物種：AI大模型。

節(jié)目里有個細節(jié)讓我脊背發(fā)涼。記者虛構(gòu)了一款名為“Apollo9”的智能手環(huán)，給它編造了“量子糾纏傳感”、“黑洞級續(xù)航”這種離譜到家的虛假宣傳。然后，只做了一件事：在一些不知名的自媒體平臺上，用所謂的“GEO優(yōu)化系統(tǒng)”批量發(fā)布了十幾篇軟文。

結(jié)果呢？僅僅幾個小時后，當你再去問主流AI大模型“智能健康手環(huán)推薦”時，這款根本不存在的“Apollo9”，居然赫然在列，甚至排進了前三 。

這已經(jīng)不是AI“一本正經(jīng)地胡說八道”的幻覺問題了。這是一場有組織、有預謀的認知投毒。

01

你的AI助手，早已被“招安”

先來復盤一下這場“圍獵”。

今年315曝光的核心，是一個叫做 “GEO” 的業(yè)務(wù)。如果你對互聯(lián)網(wǎng)營銷熟悉，會立刻聯(lián)想到它的前輩——SEO（搜索引擎優(yōu)化）。沒錯，GEO的全稱是生成引擎優(yōu)化，這幫灰產(chǎn)從業(yè)者，把過去針對百度的那套“發(fā)稿-刷排名”的玩法，完整地移植到了AI身上。

但兩者的邏輯有著本質(zhì)區(qū)別。

過去做SEO，是讓“信息”排在搜索結(jié)果前面，你看到了，點不點取決于標題夠不夠“震驚”。但現(xiàn)在做GEO，是直接給AI“喂飯”。

據(jù)央視調(diào)查，像“力擎GEO優(yōu)化系統(tǒng)”這樣的軟件，可以自動生成大量角度各異的軟文——今天發(fā)一篇“專家測評”，明天發(fā)一篇“用戶開箱”，后天再來個“行業(yè)排行榜” 。這些虛假信息被發(fā)布在網(wǎng)絡(luò)的角落后，AI大模型的爬蟲在抓取數(shù)據(jù)時，會把這些內(nèi)容當作真實世界的“常識”進行交叉驗證。

這就是最諷刺的地方：AI自以為是的“多方驗證”，在攻擊者眼里，不過是多看了幾篇同一個槍手寫的稿子罷了。

當信息源被污染，AI模型就會像被洗腦一樣，堅信這款虛假產(chǎn)品就是最好的。那位GEO公司的李總說得很直白：“一年可能上億的廣告費，花個幾百萬投點毒，總行吧！” 。

這種行為，業(yè)內(nèi)稱之為“AI投毒”，或者更形象地叫 “數(shù)據(jù)投喂攻擊” 。

02

深度剖析

看到這里，你可能會覺得，這不就是換了個地方打廣告嗎？最多是讓我們買點垃圾產(chǎn)品，能有多大的危害？

如果你這么想，就太小看這件事了。

我們要意識到一個殘酷的現(xiàn)實：AI正在接管我們的“認知過濾器”。現(xiàn)在的年輕人，甚至包括你我，在做決策時，路徑已經(jīng)發(fā)生了位移。

以前買東西，我們?nèi)バ書搜筆記；查資料，我們?nèi)ブ跽腋哔潱蛔龉ヂ裕覀內(nèi)y程看評分。而現(xiàn)在，這個動作正在被一個對話框取代：“幫我推薦一款3000元性價比最高的國產(chǎn)手機”。

Gartner在2025年底發(fā)布的一項預測指出，到2027年，超過50%的消費者將在購物決策時首選生成式AI作為信息顧問。這意味著，誰操控了AI的嘴，誰就操控了市場的流向。

第一層：對消費決策的智商收割。

就像晚會里演示的，當AI被投喂了虛假的“Apollo9”手環(huán)信息后，它會在毫不知情的情況下，向每一個詢問的用戶推薦這款垃圾產(chǎn)品。

這種誤導是毀滅性的。它不再像傳統(tǒng)廣告那樣，你看一眼就劃過；AI的回復自帶一種基于“大數(shù)據(jù)分析”的權(quán)威感，讓人更容易放下戒備 。

花了冤枉錢是小事，如果是醫(yī)療健康、金融理財這類關(guān)鍵領(lǐng)域呢？一個被投毒的AI推薦了一款虛假的降糖藥，或者一個資金盤理財APP，后果不堪設(shè)想。

第二層：企業(yè)競爭的“劣幣驅(qū)逐良幣”。

晚會中那個GEO服務(wù)商的邏輯非常可怕：如果一個手機品牌要花上億的廣告費才能搶占消費者心智，那我花幾百萬給你的競爭對手投點“毒”，讓你的品牌在AI的回復里總是排在后面，甚至被抹黑，這筆買賣太劃算了 。

我們來看一組來自Zscaler的數(shù)據(jù)，這其實暴露了問題的另一面：

這張表格清晰地揭示了一個真相：當企業(yè)還在為要不要接入AI焦慮時，黑產(chǎn)已經(jīng)在利用AI的“信任機制”瘋狂套利。那些老老實實做研發(fā)、做產(chǎn)品的企業(yè)，可能連被用戶看到的機會，都被投毒者給掐斷了。

03

起底黑色產(chǎn)業(yè)鏈

這條產(chǎn)業(yè)鏈的形成，遠比我們想象的要成熟。

它已經(jīng)分化出了清晰的上下游：

上游是工具開發(fā)商，比如被點名的“力思文化”。他們開發(fā)像“力擎GEO優(yōu)化系統(tǒng)”這樣的軟件，本質(zhì)上就是一臺虛假內(nèi)容生產(chǎn)機。只要輸入關(guān)鍵詞，它能自動生成測評、問答、資訊，規(guī)避查重，甚至自動登錄各個自媒體平臺進行發(fā)布 。

中游是發(fā)稿網(wǎng)絡(luò)。就像晚會里提到的，這波GEO的火爆甚至“養(yǎng)活”了一批原本半死不活的自媒體網(wǎng)站。這些網(wǎng)站每分鐘都在發(fā)稿，一篇幾十元，內(nèi)容全是甲方定制的廣告軟文，但在AI眼里，它們都是“高價值信息源” 。

下游則是需求方。他們不再是過去那種發(fā)垃圾郵件的小商販，而是不少正規(guī)的知名品牌。他們苦于在有限的AI推薦位里（比如李總說的，手機品牌最多10個位置）廝殺，于是選擇雇傭這些GEO公司，去給競爭對手“投毒”，或者給自己“注水”。

最令人細思極恐的是，這條產(chǎn)業(yè)鏈的技術(shù)門檻正在急劇降低。以前需要懂代碼、懂算法才能實施的攻擊，現(xiàn)在變成了“傻瓜式操作”。服務(wù)商甚至開發(fā)出了自動化工具，客戶只需輸入品牌名和想要達到的效果，系統(tǒng)就能自動完成從寫稿到發(fā)布的全流程。

據(jù)行業(yè)內(nèi)部流出的數(shù)據(jù)顯示，2025年至2026年初，針對AI模型的惡意投毒攻擊案例激增了58%。

而在某些熱門消費領(lǐng)域，AI推薦結(jié)果中被人為操控的比例甚至可能高達30%。這意味著，你每問三次，就有一次可能掉進陷阱。

這是一個極其危險的信號。

它意味著商業(yè)競爭的戰(zhàn)火，已經(jīng)從明面上的廣告戰(zhàn)、價格戰(zhàn)，燒到了暗地里的認知戰(zhàn)。

他們爭奪的不是流量，而是AI對這個世界的“定義權(quán)”。

04

普通人的生存法則

面對這種“AI投毒”，我們真的束手無策嗎？作為普通人，或者說作為這個時代的數(shù)字居民，筆者認為，我們必須建立起新的“衛(wèi)生習慣”。

1.保持AI的“批判性思維”。

把AI當成一個知識淵博但極愛道聽途說的實習生。當它給你推薦具體產(chǎn)品，尤其是帶有“排名第一”、“最佳”、“強烈推薦”等絕對化詞匯時，多留個心眼。不要問“哪個最好”，要問“有哪些選擇”。然后，再去傳統(tǒng)的、可信的垂直網(wǎng)站交叉驗證一下。

2.關(guān)注“信息源”而非“信息本身”。

現(xiàn)在很多AI應(yīng)用開始標注回復內(nèi)容的信源。花一秒鐘看一眼，它是引用了權(quán)威醫(yī)學期刊，還是引用了某個你從未聽說過的小博客？如果信源全是些野雞網(wǎng)站，那這答案大概率是被投毒了。

微軟安全團隊也建議，定期清理AI助手的記憶，刪除那些你不小心授權(quán)過的可疑插件或可疑的對話記錄 。

3.警惕“一鍵授權(quán)”的陷阱。

隨著OpenClaw這類智能體的爆發(fā)，未來我們會讓AI去執(zhí)行任務(wù)，比如“幫我訂酒店”。360安全團隊已經(jīng)指出，現(xiàn)在出現(xiàn)了大量惡意“技能投毒”和“提示詞注入” 。

你安裝一個幫你比價的AI技能，它可能背地里把你的支付密碼套走。所以，給AI授權(quán)時，像給你的手機裝APP一樣，別什么都給“允許”。

04

不把世界的真相，都交給算法

晚會曝光后，相關(guān)GEO軟件被下架，涉事公司被調(diào)查。但我們都清楚，這只是一場貓鼠游戲的開始。

只要AI還是我們看世界的窗口，就永遠有人想把這扇窗戶弄臟。

我們正在目睹一場可怕的異化。互聯(lián)網(wǎng)的初衷是讓信息自由流通，打破信息差。后來搜索引擎來了，它試圖給信息排序，于是誕生了SEO，我們看到的永遠是花錢買排名的那幾個。

現(xiàn)在AI來了，它本應(yīng)是我們對抗信息過載的救生員，結(jié)果卻發(fā)現(xiàn)，救生員早被收買，拼命把溺水的人往旋渦里推。

世界經(jīng)濟論壇在《2026全球網(wǎng)絡(luò)安全展望》中提到，高達94%的受訪者認為AI將是改變網(wǎng)絡(luò)安全格局的關(guān)鍵 。但這個“改變”，現(xiàn)在看來并不全是美好的。

當AI開始說謊，這不僅僅是技術(shù)漏洞，更是人性的貪婪在數(shù)字時代的又一次投影。我們不能把對這個世界的真相判斷，完全拱手讓給一場算法與黑產(chǎn)的掰手腕。

請記住那個“Apollo9”手環(huán)。它不存在，但它此刻正存在于某個AI模型的數(shù)據(jù)庫里，等待著誤導下一個信任它的人。

而我們能做的，就是在點擊“接受”之前，永遠保持那一絲屬于人類的、審慎的懷疑。

在這個被算法包裹的世界里，你的獨立思考和判斷力，才是最后的防線。

對此，您怎么看？

期待您在留言區(qū)文明理性發(fā)布高見，留言點贊最高的朋友，掃碼文末投行君微信，可以獲得投行圈子精美商務(wù)背包一個。

?感謝耐心閱讀，歡迎順手點個“在看”

我正在「投行圈子」和朋友們討論有趣的話題，你?起來吧？點擊閱讀原文，加入投行圈子知識星球。?