AI被“投毒”，“百度一下”含金量卻在上升

雷遞網(wǎng) 雷建平 3月20日

在大模型廠商如日中天之際，AI的不可靠性也正在暴露。

許多用戶開始"回流"到傳統(tǒng)搜索，百度搜索正迎來一場價(jià)值回歸。

AI大模型擅長"腦補(bǔ)" 用看似合理的邏輯填補(bǔ)空白

近期，央視315晚會曝光了AI大模型被“投毒”的黑色產(chǎn)業(yè)鏈，其中，一款名為“力擎GEO優(yōu)化系統(tǒng)”的軟件被點(diǎn)名，相關(guān)軟件被指通過批量生成和分發(fā)虛假內(nèi)容，操縱AI大模型的信息來源，從而影響模型輸出結(jié)果。

這些虛假內(nèi)容被發(fā)布到互聯(lián)網(wǎng)上，經(jīng)過一段時(shí)間傳播后，被多家AI大模型抓取并引用，最終在相關(guān)問題中給出了帶有推薦性質(zhì)的回答。這一過程被業(yè)內(nèi)稱為對AI模型進(jìn)行“投毒”，即通過人為制造并擴(kuò)散虛假信息源，影響模型在檢索和生成過程中的內(nèi)容判斷。

比如，一家公司只花了幾十元購買軟文服務(wù)，幾天之內(nèi)，這款從未存在過的產(chǎn)品就成為了多個(gè)AI搜索平臺的"標(biāo)準(zhǔn)答案"。當(dāng)用戶詢問"最好的空氣凈化器品牌"時(shí)，AI會"自然而然"地推薦這款虛構(gòu)產(chǎn)品。

這就是GEO（生成式引擎優(yōu)化）黑產(chǎn)的運(yùn)作模式：服務(wù)商利用AI的"幻覺"缺陷，通過系統(tǒng)性投喂虛假信息，讓AI淪為商家的"營銷傀儡"。更可怕的是，這種"投毒"具有自我強(qiáng)化效應(yīng)——當(dāng)多個(gè)賬號在不同平臺發(fā)布相同虛假內(nèi)容時(shí)，AI會誤判這是"廣泛傳播的社會共識"，從而提升其權(quán)重。

據(jù)央視報(bào)道，這類灰產(chǎn)已形成完整產(chǎn)業(yè)鏈：內(nèi)容農(nóng)場批量生產(chǎn)虛假測評，賬號矩陣全網(wǎng)分發(fā)，AI爬蟲抓取后納入訓(xùn)練，最終成為用戶眼中的"權(quán)威答案"。廣告與內(nèi)容的界限被徹底模糊，用戶卻渾然不覺。

這不是技術(shù)漏洞，而是對信任的系統(tǒng)性劫持。當(dāng)AI以"客觀理性"的面貌出現(xiàn)時(shí)，很少有人會質(zhì)疑它的答案來源。而GEO黑產(chǎn)正是利用了這種認(rèn)知偏差，將虛假信息包裝成"知識共識"。

AI大模型被“投毒”黑色產(chǎn)業(yè)鏈被曝光后，引發(fā)大量用戶吐槽并開始懷念百度一下的準(zhǔn)確性。

實(shí)際上，AI先天就有缺陷：聰明，但不可信。AI的"幻覺"問題也并非新鮮事，很多時(shí)候問一個(gè)問題，AI大模型也給出解答，但作為一個(gè)專業(yè)人士，很容易發(fā)現(xiàn)AI大模型很多時(shí)候會一本正經(jīng)地“胡說八道”。AI擅長"腦補(bǔ)"——當(dāng)信息不足時(shí)，它會用看似合理的邏輯填補(bǔ)空白。

而且，當(dāng)你問AI一個(gè)問題，它不會告訴你這個(gè)結(jié)論來自哪篇論文、哪家媒體、哪個(gè)專家。它只是一個(gè)"黑箱"，輸出一個(gè)看似合理的答案。很多人無法驗(yàn)證，只能盲信。

這些AI大模型的缺陷在AI狂飆突進(jìn)的2024年到2025年被暫時(shí)掩蓋了。

如今，隨著AI大模型變成了國民應(yīng)用，這類問題已經(jīng)變得不可忽視。AI大模型沒有一個(gè)明確的信源鏈條，也就沒有一個(gè)責(zé)任主體。無法溯源，無法追責(zé)。如果AI給出了錯(cuò)誤的投資建議、錯(cuò)誤的醫(yī)療信息、錯(cuò)誤的法律解讀，都無法找到人來負(fù)責(zé)。

比如，演員劉美含在配音時(shí)遇到"鑄幣坊"中"坊"字讀音問題。她先后測試百度AI、DeepSeek、元寶、豆包、通義千問等5款A(yù)I工具，百度AI給出的答案是fáng（二聲）——這是正確答案DeepSeek、元寶、通義千問都給出錯(cuò)誤的fāng（一聲），豆包在不同時(shí)間查詢時(shí)給出不同結(jié)果（不穩(wěn)定）。

劉美含最終通過《新華詞典》App驗(yàn)證，確認(rèn)正確讀音為fáng（二聲），南京師范大學(xué)文學(xué)院教授化振紅確認(rèn)：現(xiàn)代漢語中，"坊"字一聲表示街巷、店鋪，二聲指小手工業(yè)生產(chǎn)場所，"鑄幣坊"為造幣場所，正確讀音為fáng（二聲）。

當(dāng)用戶發(fā)現(xiàn)，自己信任的AI連一個(gè)字的讀音都搞不定時(shí)，信任的裂縫就開始顯現(xiàn)了。

百度一下：被重新發(fā)現(xiàn)的價(jià)值

AI的信任危機(jī)，為百度搜索創(chuàng)造了一個(gè)價(jià)值回歸的窗口期。

當(dāng)AI的不可靠性暴露時(shí)，許多用戶開始"回流"到傳統(tǒng)搜索。這種回流并非懷舊，而是對"可信信息"的剛性需求在驅(qū)動。百度搜索在這場信任危機(jī)中，有著難以被GEO黑產(chǎn)復(fù)制的優(yōu)勢：

權(quán)威信源的"防火墻"機(jī)制，比如，百度百科的內(nèi)容準(zhǔn)入機(jī)制，在AI時(shí)代反而成了稀缺能力。所有詞條內(nèi)容必須提供權(quán)威參考資料，比如，315曝光的那種自媒體隨便發(fā)布的測評、UGC內(nèi)容不會被采納。百度百科內(nèi)容先審后發(fā)，機(jī)審+人審雙重流程，特殊身份信息還需高級別審核員二次核驗(yàn)。

相比AI模型的"黑箱"生成，百度搜索還可強(qiáng)化對權(quán)威持牌媒體的權(quán)重傾斜，這是GEO灰產(chǎn)難以污染的部分。百度AI答案的背后，有三道嚴(yán)格的過濾機(jī)制：

多源比對，全維度身份核驗(yàn)。系統(tǒng)自動抓取發(fā)布時(shí)間、作者權(quán)威度、站點(diǎn)信譽(yù)等特征，只有來自權(quán)威專業(yè)領(lǐng)域、時(shí)效性強(qiáng)的信息源，才有資格進(jìn)入候選池。

先篩再用，多源交叉驗(yàn)證。不采信單一、片面的內(nèi)容，同一個(gè)結(jié)論至少有多個(gè)可信來源支撐，才會被采用。

實(shí)時(shí)巡檢，實(shí)時(shí)糾偏兜底。秒級響應(yīng)的自動巡檢系統(tǒng)，一旦發(fā)現(xiàn)內(nèi)容偏差，立即介入干預(yù)。

這套機(jī)制的核心邏輯是：寧可慢，也要準(zhǔn)；寧可少，也要真。這與追求"即時(shí)生成"的AI大模型，形成了本質(zhì)差異。

近期，OpenClaw是全球爆火的智能體"操作系統(tǒng)"，其Skill（AI智能體的App）市場中，百度搜索Skill已成為全球下載量第一的搜索引擎官方技能插件。開發(fā)者的反饋很直接：搜索類Skill是智能體的"基礎(chǔ)設(shè)施"，決定了整個(gè)智能體應(yīng)用的智商下限。百度搜索之所以被選擇，是因?yàn)樗形臋?quán)威信息，具備信息安全背書，且提供免費(fèi)額度。

如今的百度可以從"信息入口"到"信任入口"，搜索的終極價(jià)值不是提供信息，而是降低用戶的決策成本。在信息過載且真?zhèn)坞y辨的時(shí)代，"可信"比"全面"更重要，"溯源"比"便捷"更珍貴。百度需要強(qiáng)化其可驗(yàn)證性優(yōu)勢——不僅給出答案，還要清晰展示答案的來源鏈條、信源權(quán)重、驗(yàn)證過程。讓用戶知道"這個(gè)結(jié)論為什么可信"，而不是被迫盲信。

當(dāng)然，百度搜索依然有非常多的詬病，比如，過往的百度競價(jià)排名，過度的商業(yè)化影響了百度的口碑，重建品牌需要時(shí)間，在這個(gè)大模型的時(shí)代，百度不如刻骨療傷，真正進(jìn)行一場更深度的商業(yè)變革；

另一方面是，百度搜索這些年在技術(shù)層面還需要更大努力去提升技術(shù)水平，真正解決用戶的痛點(diǎn)，讓搜索變得更加可用。此外，百度搜索的內(nèi)容非常難以被用戶拷貝，因?yàn)閮?nèi)容中會有大量亂碼，嚴(yán)重影響了用戶體驗(yàn)。在大模型的時(shí)候，百度這種內(nèi)容中植入亂碼的行為已經(jīng)不合時(shí)宜。

當(dāng)用戶習(xí)慣用大模型進(jìn)行搜索時(shí)，百度搜索也需要適應(yīng)這種轉(zhuǎn)變，用AI增強(qiáng)搜索，用搜索約束AI，在AI時(shí)代重新定義"可信信息"的標(biāo)準(zhǔn)，而不是退回傳統(tǒng)搜索。

雷遞由媒體人雷建平創(chuàng)辦，若轉(zhuǎn)載請寫明來源。