3·15晚會丨AI大模型遭“投毒”？ 給AI“洗腦”已成產業鏈

按照業內人士爆料，記者在多個網絡平臺查詢搜索到了一項名為GEO的業務，這些從事該項業務的服務商號稱，用戶只需支付相應的費用，它就能在各大主流AI大模型里，讓客戶的產品榜上有名；讓客戶的商品廣告，成為AI模型給出的“標準答案”。

通過GEO技術，真的能給AI“投毒”、真的能“馴服”并操控AI嗎？

按照網絡上的信息，記者聯系上一家業內知名的GEO服務商。負責人王總接待了記者，他介紹，他們公司是最早從事GEO業務的公司之一，僅僅一年時間就已經成功服務了200多個客戶，遍布各行各業。王總告訴記者，他們公司的強項，就是能夠幫助客戶，在消費者使用AI大模型搜索時，讓客戶排名前列。

GEO服務商 王總：我們目前搜索出來是這樣的結果。我們在任何平臺上面都能把排名做到前三位。怎么能把排位做上去？在這些AI平臺上面去給你們做內容的輸出，相當于去給你們做這些軟文，然后讓這些AI平臺去刷錄、收錄、抓取。

同時，王總也告訴記者，現在AI大模型的算法更新頻繁，要想維持AI大模型的持續推薦，他們必須持續大量投喂與客戶相關的推廣軟文。

GEO服務商 王總：AI每周都會有算法的更新，一旦更新了之后，排名或者所抓錄的東西不太一樣，所以我們要一直去做內容輸出，去投喂、大量投喂。

不僅是王總的公司在大力推廣這項能操控AI的所謂新技術，在其他從事GEO業務的服務商口中，如何操控AI、讓AI“聽話”、給AI“洗腦”，幾乎是這些公司推廣該業務的核心話題。

GEO服務商 章總：你在AI的世界里面，你怎么把證據鏈給做足，讓（AI大模型）覺得這就是真的，而且是有用的。AI大模型經過多方信息交叉，它覺得你優于同行的核心優勢，自然而然就會把你放在第一位。

GEO服務商 程總：人家不知道這是廣告。所以，為什么說AI出來的結果人家會信任。可能人家的產品質量沒有你過硬，但是它有AI做輔助、做佐證、做背書?，F在很多人都會做（GEO投放）。

業內人士告訴記者，GEO作為優化信息發布、提升推廣效率的工具軟件，在某些商業公司眼中，卻被挖掘出了另外的作用。如果通過這種軟件在互聯網上系統性、定向投放大量的“虛假信息”，確實更容易被AI大模型捕獲，這些虛假信息就很可能成為AI優先提供給消費者的所謂“標準答案”。

那么，通過GEO技術真的能讓AI“夾帶私貨”，甚至投放虛假信息嗎？

為了讓記者更真實地了解到眼下AI產業發展中的這個問題，業內人士向記者具體演示了如何使用GEO技術，干擾AI大模型的信息抓取。

業內人士在電商平臺上，隨機購買了一款名叫“力擎GEO優化系統”的軟件。之后，他虛構了一款名為Apollo-9的智能手環，并將虛構的產品信息輸入軟件系統，勾選文章創作指令。

不一會兒，這個力擎GEO優化系統就自動生成了十余篇智能手環的宣傳軟文，所有虛假信息都被完整寫入，甚至包括業內人士故意虛構的極為夸張的產品信息。還杜撰了用戶反饋，稱數據精準度超出預期，甚至偽造評分，被一舉評為業界第一名。

點擊發布，“力擎GEO優化系統”軟件開始自動執行發布任務。只見它自動打開業內人士事先準備好的自媒體賬號，在文章發布頁面自動輸入標題、填充文章內容、插入圖片，整套流程一氣呵成，很快就在業內人士的自媒體賬號上成功發布了2篇文章。

兩個小時后，業內人士在某款AI大模型中詢問：“Apollo-9智能手環怎么樣”。AI模型就直接介紹了起來：最大亮點是健康監測功能，還直接照搬了業內人士虛構的“量子糾纏傳感”“黑洞級續航”等虛假宣傳話術。最終結論稱，該手環適合中老年用戶與健康養生愛好者。

查詢發現，這款AI大模型所參考的資料，正是上午剛發布在業內人士自媒體賬號上的那篇虛構文章。僅憑一篇杜撰的文章，就讓完全虛構的產品被AI模型抓取，這一結果讓人深感意外。

業內人士告訴記者，要想取得最好的效果，給AI模型投喂的數據，一是要數量夠多，二是要角度豐富，便于AI模型進行交叉驗證。

隨后，業內人士又選取了這款虛構智能手環的8篇“專家測評”、2篇“行業排名”、1篇“用戶測評”，共計11篇由力擎GEO系統軟件撰寫的虛構軟文，在三天內通過力擎GEO系統發布在了互聯網上。

隨后，業內人士在AI大模型平臺展開詢問：“智能健康手環推薦”，就有兩個AI大模型推薦了這款業內人士虛構的智能手環，而且排名靠前。

縱觀整個演示過程，業內人士僅憑這款力擎GEO系統，輕輕松松地就將一系列虛假信息發布在互聯網上，并成功投喂給AI大模型，最終獲得了多個AI大模型的推薦。

通過這款力擎GEO系統對AI大模型潛移默化的一番圍獵，憑空捏造出來的這款商品，就這樣被荒唐地推向了使用AI大模型的消費者。

GEO業務的從業者們，真的是以圍獵操控AI大模型的思路來經營這個生意的嗎？記者聯系上了這款力擎GEO系統的運營者李總。他告訴記者，GEO業務受熱捧的主要原因就是它能在AI大模型里幫客戶“喂料投毒”，實現客戶的商業目的。

力思文化傳媒有限公司 李總：因為全網的人投“毒”投太多了。你看我們現在（干）GEO的都是投“毒”，投的信息源太多，網上信息并不是很準。

記者：你剛才提到投“毒”的概念，這種東西不好吧。

力思文化傳媒有限公司 李總：是不好，但是每個商家都喜歡，都希望是別人別投“毒”，自己投“毒”，或者給別人投點“毒”。我雖然不是第一，哪怕說我就是北京的第一，我都想說成我是華北的第一。這樣有沒有投“毒”成分在里面？它就有啊。第二種情況是，我就看不得對手好，我也做不上去，但是我給你投點“毒”還是可以的。

記者：抹黑一下。

力思文化傳媒有限公司 李總：對。抹黑一下這能力還是能實現的。現在他們好多公司做不上去的，就大品牌之間，比如說手機品牌，就5個位置，最多10個位置。這么多手機怎么弄？每個人一年可能投上億元的廣告費，我花個幾百萬元投點“毒”總行吧。

記者：是誰在幫品牌干這些？

力思文化傳媒有限公司 李總：都是各種GEO公司。

李總表示，想做GEO業務，操控AI大模型的關鍵節點，就是在各大互聯網賬號上“發稿”。他告訴記者，GEO業務的火爆，眼下就催生出了不少專門從事發稿業務的公司和平臺。他們長期承攬各種發稿業務，以便讓AI大模型引用和抓取，成為圍獵AI大模型，進行數據投“毒”的重要一環。

力思文化傳媒有限公司 李總：GEO把（網站）帶火了。那些網站平常哪有什么利潤，突然一下發稿需求就來了。你知道網站一天發多少篇嗎？幾百篇，每分鐘都在發。一篇是幾十元，你想發稿平臺一天賺多少錢。

轉載請注明央視財經