給AI投毒成黑產(chǎn)，傳統(tǒng)搜索可以打一場(chǎng)“信任重構(gòu)”戰(zhàn)

文｜唐辰 圖｜AI生成

傳統(tǒng)搜索的價(jià)值被GEO放大了。

剛結(jié)束的315晚會(huì)，焦點(diǎn)之一是針對(duì)AI領(lǐng)域的“打假”。一項(xiàng)名為“GEO（Generative Engine Optimization，生成式引擎優(yōu)化）”的黑灰產(chǎn)業(yè)務(wù)被曝光。

晚會(huì)曝光了一則案例，一款純虛構(gòu)的商品，主要十余篇軟文，花費(fèi)幾十元，就可以將虛假產(chǎn)品信息成功“投喂”給AI大模型，并在幾天內(nèi)獲得推薦，甚至“名列前茅”。即便這款產(chǎn)品從來(lái)就是子虛烏有。

AI生成內(nèi)容被“明碼標(biāo)價(jià)”

根據(jù)服務(wù)商的描述，它的工作流程很簡(jiǎn)單：客戶付費(fèi)，系統(tǒng)自動(dòng)生成軟文，批量在全網(wǎng)發(fā)布，等待AI抓取、引用，最后成為大模型的“標(biāo)準(zhǔn)答案”。

我注意到，在被曝光服務(wù)商的官網(wǎng)，DeepSeek、豆包、元寶、Kimi、納米AI、智譜清言等大模型都在列。這意味著，他們的業(yè)務(wù)覆蓋了當(dāng)前幾乎所有國(guó)內(nèi)最熱門(mén)的大模型。

一家業(yè)內(nèi)知名GEO服務(wù)商的負(fù)責(zé)人還介紹，他們公司是最早從事GEO業(yè)務(wù)的公司之一，僅僅一年時(shí)間就已經(jīng)成功服務(wù)了200多個(gè)客戶，遍布各行各業(yè)。

他毫不隱晦的表示，GEO業(yè)務(wù)受熱捧，就是因?yàn)樗茉贏I大模型里幫客戶“喂料投毒”，實(shí)現(xiàn)客戶的商業(yè)目的。

這套業(yè)務(wù)流程也被直白的冠名為“給AI投毒”。此外，部分服務(wù)商還提供“抹黑競(jìng)品”（黑公關(guān)）服務(wù)，即通過(guò)向AI投喂虛假或者污蔑信息，來(lái)干擾競(jìng)爭(zhēng)對(duì)手的搜索表現(xiàn)。

當(dāng)AI生成的內(nèi)容被明碼標(biāo)價(jià)，各AI廠商主推的AI助手就淪為黑產(chǎn)的“廣告機(jī)”甚至“造糞機(jī)”。給AI投毒，也就成了新的黑灰色產(chǎn)業(yè)鏈，形成圍獵AI、獲取暴利的生態(tài)。

這也導(dǎo)致很多不明就里的普通用戶，直接把GEO和“造假、投毒、詐騙”劃等號(hào)，喊著要徹底封殺。

但GEO并不是洪水猛獸。這項(xiàng)技術(shù)的初衷，是針對(duì)大模型的信息抓取邏輯，進(jìn)行合規(guī)的內(nèi)容優(yōu)化與信息分發(fā)。其核心任務(wù)是幫助優(yōu)質(zhì)內(nèi)容被 AI 更精準(zhǔn)識(shí)別、更高效觸達(dá)用戶。同時(shí)，它還能減少AI本身的“幻覺(jué)問(wèn)題”。

這和傳統(tǒng)搜索引擎上的白帽SEO，也就是遵循搜索引擎規(guī)則的正規(guī)優(yōu)化手段類(lèi)似，通過(guò)正當(dāng)?shù)姆绞教嵘W(wǎng)站自然排名，以提供更好的用戶體驗(yàn)。

這個(gè)價(jià)值是正向且被肯定的。比如在評(píng)價(jià)AI被投毒時(shí)，央視稱(chēng)，GEO技術(shù)本身只是一個(gè)優(yōu)化信息分發(fā)的工具，是AI時(shí)代的新型營(yíng)銷(xiāo)服務(wù)之一。但一本好經(jīng)總被市場(chǎng)上一些“歪嘴和尚”故意念歪念錯(cuò)，用于牟利，損害了消費(fèi)者權(quán)益，也擾亂了行業(yè)生態(tài)。

服務(wù)商聲稱(chēng)能“馴服”并完全操控AI，這不僅是一種營(yíng)銷(xiāo)話術(shù)，也是在鉆監(jiān)管滯后、審核體系不完善以及行業(yè)發(fā)展初期的階段性漏洞的空子。

事實(shí)上，目前主流AI大模型擁有復(fù)雜的對(duì)齊機(jī)制和反作弊算法，GEO黑產(chǎn)想要徹底“投毒”，并且“操控”AI在所有場(chǎng)景下都輸出特定結(jié)果，是難度極高、成本巨大的工程。所謂“付費(fèi)即可獲得標(biāo)準(zhǔn)答案”，也多是針對(duì)特定長(zhǎng)尾問(wèn)題，利用大模型的幻覺(jué)和檢索源偏差制造的局部假象。

本質(zhì)是AI時(shí)代的信任危機(jī)

AI搜索，或者說(shuō)ChatBot式產(chǎn)品，主打“一步到位，直接給答案”，看似在顛覆傳統(tǒng)搜索，卻藏著先天缺陷：

一是答案來(lái)源不透明。大模型本身都無(wú)法分別是官方信息、營(yíng)銷(xiāo)軟文或者是虛假信息，更別說(shuō)普通用戶；

二是，大模型本身因?yàn)檎Z(yǔ)料、數(shù)據(jù)源等問(wèn)題，存在嚴(yán)重幻覺(jué)。并且輸出口徑單一，缺乏多源對(duì)比，回溯驗(yàn)證機(jī)制，一旦被投毒，便會(huì)出現(xiàn)“中毒”跡象，甚至全盤(pán)失真。也就是常說(shuō)的“胡說(shuō)八道”，AI幻覺(jué)。

簡(jiǎn)單點(diǎn)說(shuō)，AI追求極致效率，卻丟掉了最核心的可信度。GEO黑產(chǎn)恰恰把AI的這個(gè)短板放大到了極致。

圖｜央視網(wǎng)截圖

CEO被異化為黑產(chǎn)的根源也在于，流量焦慮與商業(yè)利益驅(qū)動(dòng)：品牌方為搶占AI推薦位，不惜用虛假信息“圍獵”模型；服務(wù)商將“投毒”包裝為“AI背書(shū)”，誤導(dǎo)、收割消費(fèi)者。

這本質(zhì)上是一場(chǎng)因信任缺失而引發(fā)的逐利亂象。

傳統(tǒng)互聯(lián)網(wǎng)，包括移動(dòng)互聯(lián)網(wǎng)時(shí)代，用戶習(xí)慣了“廣告歸廣告，內(nèi)容歸內(nèi)容”。就算信息流推崇的“內(nèi)容即廣告”，也被逐步被嚴(yán)格區(qū)分。

但是到了AI時(shí)代，廣告與內(nèi)容的界限被模糊了，也增加了用戶進(jìn)行內(nèi)容消費(fèi)的“不確定性”。

這種不確定性正在引發(fā)一場(chǎng)信任危機(jī)，AI的價(jià)值被虛假信息稀釋。而隨著GEO黑產(chǎn)的曝光，傳統(tǒng)搜索的不少優(yōu)勢(shì)也被重新看到。

比如可溯源的透明驗(yàn)證機(jī)制。雖然不少人斷言“傳統(tǒng)搜索引擎已死”，也不再習(xí)慣點(diǎn)擊藍(lán)色鏈接去獲取信息。但因?yàn)檫@種鏈接列表，用戶可以自行驗(yàn)證權(quán)威信息來(lái)源。

以百度百科的 “本尊認(rèn)證” 為例，為確保詞條主體真實(shí)，百度搜索建立 “智能評(píng)估 + 溯源校準(zhǔn) + 權(quán)威認(rèn)證” 三重機(jī)制，能有效過(guò)濾違規(guī)內(nèi)容。這種“把選擇權(quán)交給用戶”的機(jī)制，本身就是對(duì)信任的一種保護(hù)。

再如成熟的信任風(fēng)控體系。以百度、谷歌為代表的傳統(tǒng)搜索廠商，歷經(jīng)多年與黑灰產(chǎn)的博弈，建立起內(nèi)容審核機(jī)制和反作弊算法體系，搭配完整的辟謠機(jī)制與內(nèi)容溯源功能，成為保證信息可靠性的城池。

這也是為什么，我在使用AI工具獲取關(guān)鍵信息后，還會(huì)第一時(shí)間打開(kāi)百度、谷歌等傳統(tǒng)搜索引擎，進(jìn)行交叉驗(yàn)證。

基于此，我有一個(gè)預(yù)判：在未來(lái)很長(zhǎng)一段時(shí)間內(nèi)，傳統(tǒng)搜索不會(huì)被AI搜索或者chatbot淘汰，即使無(wú)法回到巔峰，其也會(huì)以差異化服務(wù)獲得足夠的生存空間，與AI共存。或許會(huì)形成這樣的分工：

日常閑聊、文案生成、常識(shí)查詢、快速總結(jié)等，交給AI，快捷高效；

醫(yī)療咨詢、法律援助、專(zhuān)業(yè)學(xué)科、消費(fèi)決策等，回歸傳統(tǒng)搜索，真實(shí)可信。

傳統(tǒng)搜索甚至還可以打一場(chǎng)“信任重構(gòu)”之戰(zhàn)，成為AI時(shí)代的信任代理。類(lèi)似百度等傳統(tǒng)搜索服務(wù)巨頭，在AI轉(zhuǎn)型的陣痛中，還可以嘗試推出“可信AI搜索”模式、建立行業(yè)標(biāo)準(zhǔn)等方式，定義合規(guī)的GEO邊界，讓“AI投毒”的成本遠(yuǎn)高于收益。

315晚會(huì)是一個(gè)契機(jī)，它揭示了AI時(shí)代的一個(gè)道理：信任，也將成為所有AI超級(jí)入口的核心競(jìng)爭(zhēng)力。

這是因?yàn)椋珹I技術(shù)的迭代，對(duì)人機(jī)交互形式改變，都無(wú)法改變用戶的核心訴求：獲取真實(shí)、可靠的信息或服務(wù)。

對(duì)于百度等傳統(tǒng)搜索引擎而言，這不僅僅是一次防守反擊，更是一次重塑價(jià)值的歷史契機(jī)。若能將“可信”打造為核心能力，它也可以是向AI轉(zhuǎn)型的一道緩沖帶。

36氪頭條轉(zhuǎn)載：

虎嗅推薦：

36氪首頁(yè)推薦、鈦媒體精選：

鈦媒體主編精選：

36氪熱榜、鈦媒體熱榜：

澎湃、界面、36氪、鈦媒體熱榜：

人人都是產(chǎn)品經(jīng)理主編推薦：

「唐辰同學(xué)」

鈦媒體、36氪、老虎財(cái)經(jīng)熱榜

澎湃新聞2024年最澎湃創(chuàng)作者

老虎財(cái)經(jīng)2024年度優(yōu)秀專(zhuān)欄

河南日?qǐng)?bào)·頂端新聞2024年度影響力作者

界面新聞優(yōu)質(zhì)榜單

老虎財(cái)經(jīng)2024年度優(yōu)秀專(zhuān)欄

騰訊新聞年度優(yōu)質(zhì)熱問(wèn)答主

2023搜狐新聞年度優(yōu)質(zhì)創(chuàng)作者

人人都是產(chǎn)品經(jīng)理2023年度優(yōu)秀作者

2023網(wǎng)易新聞年度內(nèi)容合伙人

界面、36氪、鈦媒體、澎湃、21財(cái)經(jīng)、藍(lán)鯨、老虎財(cái)經(jīng)等平臺(tái)專(zhuān)欄認(rèn)證作者