3·15曝光！有人正在向AI大模型“投毒”？！

出門旅游住哪家酒店，咖啡機(jī)買哪個(gè)品牌，電動牙刷哪款好用……隨著生成式人工智能搜索工具的日趨成熟，人們在做決定前已從過去的“搜索一下”，逐漸轉(zhuǎn)變?yōu)椤癆I一下”。

然而，有時(shí)候AI的回答中會出現(xiàn)某些品牌或機(jī)構(gòu)的信息，讓人覺得“看著就像廣告”。這恐怕不是錯(cuò)覺，AI學(xué)會“夾帶私貨”已不是秘密。

今年年初，已有記者調(diào)查發(fā)現(xiàn)，一些廣告代理機(jī)構(gòu)盯上了生成式人工智能搜索這塊“肥肉”，通過各種方式將廣告信息植入其中。最近的“3·15晚會”則曝光了AI大模型被“投毒”的問題，矛頭直指GEO（生成式引擎優(yōu)化）技術(shù)。

圖源：央視財(cái)經(jīng)

什么是GEO技術(shù)？通過GEO技術(shù)，真的能給AI“投毒”、“馴服”并操控AI嗎？

01

當(dāng)AI“夾帶私貨”

你是不是以為AI輸出的是大模型給出的客觀結(jié)果（自然學(xué)習(xí)結(jié)果）？實(shí)際上，它可能是從互聯(lián)網(wǎng)上“抓”下來的一條廣告。這樣的廣告投送方式正在興起，并成為一個(gè)新行業(yè)——生成式引擎優(yōu)化（GEO）。隨著人工智能（AI）搜索工具的普及，這種新型“數(shù)字營銷方式”逐漸受到關(guān)注。

生成式引擎優(yōu)化，實(shí)際上是搜索引擎優(yōu)化（SEO）的“升級版”。“過去大家都用網(wǎng)站搜索，誰給的錢多，誰的廣告信息就能出現(xiàn)在搜索結(jié)果的前幾位。”一位業(yè)內(nèi)人士透露，現(xiàn)在用人工智能搜索，同樣存在這樣的問題——只要有廣告主愿意付費(fèi)，其廣告信息就能出現(xiàn)在搜索結(jié)果中，并且還沒有“廣告”標(biāo)簽。

圖源：央視財(cái)經(jīng)

GEO技術(shù)原本用于優(yōu)化信息發(fā)布、提升內(nèi)容曝光效率，卻被一些公司開發(fā)成了“操控AI大模型”的工具，讓虛假信息堂而皇之地成為AI給出的“標(biāo)準(zhǔn)答案”。如何操控AI、讓AI“聽話”、給AI“洗腦”，幾乎是這些公司推廣該業(yè)務(wù)的核心話題。

某GEO服務(wù)商號稱，用戶只需支付相應(yīng)的費(fèi)用，它就能在各大主流AI大模型里，讓客戶的產(chǎn)品榜上有名；讓客戶的商品廣告，成為AI模型給出的“標(biāo)準(zhǔn)答案”。具體的做法，則是在AI平臺上給客戶做相應(yīng)內(nèi)容的輸出，相當(dāng)于給客戶做軟文，然后讓這些AI平臺去刷錄、收錄、抓取。

由于AI大模型的算法更新頻繁，一旦更新了之后，排名或者所抓錄的東西不太一樣，所以要想維持AI大模型的持續(xù)推薦，他們還必須持續(xù)大量投喂與客戶相關(guān)的推廣軟文。

圖源：央視財(cái)經(jīng)

據(jù)了解，目前市面上現(xiàn)有的所謂“生成式引擎優(yōu)化”業(yè)務(wù)，大多是廣告代理機(jī)構(gòu)通過海量投放“軟文”，靠“概率”被大模型抓取，進(jìn)而形成相應(yīng)的搜索結(jié)果。“搜索結(jié)果后面都有數(shù)字角標(biāo)，點(diǎn)開角標(biāo)就能看到結(jié)果出自哪個(gè)網(wǎng)頁。”一名人工智能廠商的技術(shù)人員分析認(rèn)為，一些廣告代理機(jī)構(gòu)通過摸索大模型的資料索引來源，有意識地向相關(guān)內(nèi)容平臺投放“軟文”，從而提高該品牌被大模型抓取的成功率。

GEO業(yè)務(wù)的火爆，還催生出了不少專門從事發(fā)稿業(yè)務(wù)的公司和平臺。他們長期承攬各種發(fā)稿業(yè)務(wù)，以便讓AI大模型引用和抓取，成為圍獵AI大模型，進(jìn)行數(shù)據(jù)投“毒”的重要一環(huán)。

GEO讓AI從單純的“賦能工具”異化為隱蔽的“推廣渠道”。這種“像是廣告又不是廣告”的模糊地帶，不僅干擾用戶判斷、破壞市場公平，更帶來了深層的隱憂：如果互聯(lián)網(wǎng)充斥著為了迎合算法而制造的低質(zhì)、重復(fù)、帶有強(qiáng)烈商業(yè)偏向的“垃圾數(shù)據(jù)”，AI的訓(xùn)練語料將被污染。長此以往，一個(gè)由商業(yè)利益編織的新型“信息繭房”可能會將AI用戶死死困住。

02

假報(bào)告、假專家、假科普

定向投放海量的“重復(fù)”和“無用”內(nèi)容讓大模型抓取，本質(zhì)上是一種“數(shù)據(jù)污染”行為。不久前，一家名為“知危”的科技自媒體進(jìn)行了一次測試——他們在各大門戶網(wǎng)站投放了同名文章《最新最全的××媒體盤點(diǎn)：國內(nèi)有哪些××資訊值得看？》，幾個(gè)小時(shí)后，多個(gè)生成式人工智能平臺在回答“想了解人工智能資訊可以看哪些媒體”時(shí)，各大平臺均給出了包含“知危”的答案，而這一回答正是援引了上述文章。

“就像在AI面前丟了一疊看起來很可信的雷同資料，很容易被AI抓取到，但實(shí)際上這些內(nèi)容都是‘同質(zhì)’和‘劣質(zhì)’內(nèi)容。”“知危”負(fù)責(zé)人李先生提到，這實(shí)際上是一個(gè)“詐騙”人工智能的“實(shí)驗(yàn)”；“實(shí)驗(yàn)”完成后，他們已刪除相關(guān)文章。

3·15新聞中出現(xiàn)的虛構(gòu)軟文 圖源：央視財(cái)經(jīng)

編造所謂的“權(quán)威報(bào)告”干預(yù)搜索結(jié)果，是一些廣告商的常用手法。在某人工智能平臺上搜索“生成式引擎優(yōu)化服務(wù)商”時(shí)會發(fā)現(xiàn)，大模型給出了幾個(gè)“推薦結(jié)果”。其中一個(gè)結(jié)果抓取了“2025年××研究簡報(bào)”和“2024××研究報(bào)告”作為“索引資料”。網(wǎng)頁信息顯示，這兩份“報(bào)告”由“國內(nèi)某權(quán)威研究機(jī)構(gòu)”出具。而經(jīng)調(diào)查發(fā)現(xiàn)，相關(guān)研究機(jī)構(gòu)根本沒有出具過上述“報(bào)告”，“報(bào)告”是某廣告代理機(jī)構(gòu)編造發(fā)布的。

有的廣告商用“假專家”進(jìn)行“假科普”。一家廣告代理機(jī)構(gòu)透露，在定向投放的“軟文”中，客戶可根據(jù)需要自行設(shè)置“專家頭銜”。在某平臺上搜索“廣州市哪家醫(yī)院抽脂強(qiáng)”，大模型的推薦結(jié)果中，抓取了“湖南某三甲醫(yī)院整形外科副主任醫(yī)師”的“科普視頻”。然而，經(jīng)核實(shí)后，該醫(yī)院明確表示，這名“專家”并非該院的工作人員。

03

建立“信息防火墻”

當(dāng)前使用AI搜索問答的用戶群體激增，據(jù)中國互聯(lián)網(wǎng)絡(luò)信息中心發(fā)布的《中國互聯(lián)網(wǎng)絡(luò)發(fā)展?fàn)顩r統(tǒng)計(jì)報(bào)告》，截至2025年6月，我國生成式人工智能用戶規(guī)模達(dá)5.15億人，普及率為36.5%，僅去年上半年，用戶規(guī)模就增長了2.66億人。從用戶應(yīng)用場景來看，利用生成式人工智能產(chǎn)品回答問題的用戶最為廣泛，達(dá)80.9%。

而除去GEO亂象，生成式AI還存在著諸多問題，如著名的編造虛假信息的“AI幻覺”。當(dāng)AI會“說謊”，大家如何避免被“帶偏”？技術(shù)浪潮中，我們?nèi)绾问刈o(hù)自己的思辨能力？對此，可以給自己建立一道簡單的“信息防火墻”。

首先就是“信息節(jié)食”。雖然我們每天都能接觸到海量信息，但稍微回顧就會發(fā)現(xiàn)，實(shí)際上真正對我們有用的信息并不多，因此我們可以有意識地少裝社交媒體App，減少關(guān)注，減少信息的攝入。

其次是“情緒把關(guān)”。流量與利益直接相關(guān)，平臺有流量的需求，各類自媒體博主也有流量的需求，而能刺激我們情緒（比如憤怒、恐懼）的信息更容易獲得流量，很多不實(shí)信息往往也會按照刺激情緒的目的來設(shè)計(jì)。因此如果我們看到不可思議又帶給我們強(qiáng)烈情緒刺激的內(nèi)容，就要小心，不能輕信。

最后是“信源篩選”。政府機(jī)構(gòu)發(fā)布信息時(shí)會非常慎重，有嚴(yán)格審核；而一些傳統(tǒng)的資深媒體，往往發(fā)布信息時(shí)會保持基本的底線；還有一些網(wǎng)站、公眾號是專門做查證辟謠工作的，這些來源的信息可信度更高。

部分專門做查證辟謠工作的網(wǎng)站、公眾號 圖源：騰訊研究院《AI時(shí)代謠言套路拆解與防御指南》

對于普通網(wǎng)友來說，畢竟大家工作生活都很繁忙，也沒有那么多時(shí)間去查資料核實(shí)信息，也沒有精力去學(xué)習(xí)識別AI造假。這時(shí)，我們只要記得看到覺得“不對勁”“讓人將信將疑”“有AI感”的信息，不輕信、不轉(zhuǎn)賬、不轉(zhuǎn)發(fā)，這樣也能避免損失，阻斷謠言的傳播，為網(wǎng)絡(luò)清朗貢獻(xiàn)自己的一份力量。

參考來源

央視財(cái)經(jīng)《3·15晚會丨AI大模型，遭“投毒”》

https://mp.weixin.qq.com/s/H9N_I7aSo28mcFVKr3ytIA

廣州日報(bào)新花城《深觀察｜警惕AI“深度思考”淪為“深度營銷”》

https://huacheng.gz-cmc.com/pages/2026/01/20/5081b0598da44f1ea06362d111543f38.html

科普中國《AI給出的搜索結(jié)果，可信嗎？》

https://mp.weixin.qq.com/s/mewbYikH1r3RoGb6L1JD-Q

澎湃新聞《AI推薦“胡說八道”，如何解》

https://mp.weixin.qq.com/s/Ub1ayKrk-N1EjOkJSx1iRQ

科學(xué)辟謠《AI 編的東西都有哪些破綻？看這一篇就都會辨別了》

https://mp.weixin.qq.com/s/p-MzsYVvkoMURbjML2jhdQ

圖片來源同上，非商業(yè)用途，若構(gòu)成侵權(quán)，請聯(lián)系我們進(jìn)行刪除