AI可以被投毒的時(shí)代，怎么不被AI給玩壞？

今年的315晚會(huì)，一個(gè)顯著的進(jìn)步是，記者們調(diào)查出來(lái)的案件，直接就通報(bào)給了相關(guān)部門(mén)進(jìn)行處理，晚會(huì)播出時(shí)，曝光出的不法經(jīng)營(yíng)活動(dòng)都已被處理。各地市監(jiān)局們也不用守在電視機(jī)前，等著連夜出動(dòng)去查處被曝光的企業(yè)了，這無(wú)疑是個(gè)巨大的進(jìn)步。但晚會(huì)曝出的AI大模型被GEO投毒的信息，卻讓身處AI爆發(fā)時(shí)代的我們，后背發(fā)涼。

央視315晚會(huì)截屏

01

GEO是什么技術(shù)，為什么能給那么聰明的AI投毒？

GEO技術(shù)源自于2024年6月，印度理工學(xué)院德里分校、普林斯頓大學(xué)的學(xué)者和一些獨(dú)立研究者在arXiv上發(fā)表了論文《GEO: Generative Engine Optimization（生成引擎優(yōu)化）》，提出了GEO（生成引擎優(yōu)化）概念、 框架及相關(guān)的實(shí)驗(yàn)設(shè)計(jì)。在2025年，國(guó)內(nèi)已有通過(guò)GEO制造虛假客服電話的黑灰產(chǎn)組織被打掉的記錄。如今，這項(xiàng)技術(shù)又被曝出用在了出自商業(yè)廣告目的的數(shù)據(jù)投毒上。

央視315晚會(huì)截屏央視315晚會(huì)截屏

投毒過(guò)程說(shuō)來(lái)也不復(fù)雜。AI新時(shí)代，傳統(tǒng)的在搜索引擎中輸入關(guān)鍵詞，再在結(jié)果中自己尋找正確答案的方式，慢慢被直接向AI提問(wèn)取代。想要推廣產(chǎn)品或服務(wù)的商家，也在適應(yīng)中成長(zhǎng)。于是找到了做GEO業(yè)務(wù)的公司，花上點(diǎn)錢(qián)，提供一下宣傳文案，或者干脆就由GEO公司通過(guò)AI生成文案，再發(fā)布在各大平臺(tái)、網(wǎng)頁(yè)。通過(guò)海量的發(fā)布和對(duì)應(yīng)的優(yōu)化，這些信息就能夠被AI大模型抓取到。當(dāng)使用者向AI提問(wèn)相關(guān)問(wèn)題時(shí)，AI就會(huì)根據(jù)自己抓取到的毒信息，一本正經(jīng)地向提問(wèn)者做出推薦。產(chǎn)品的廣告，就這樣通過(guò)AI的口，以一種看起來(lái)中立、客觀，且又很有科技感的方式展示出來(lái)。

央視315晚會(huì)截屏

聽(tīng)起來(lái)無(wú)所不能的AI，就以這樣簡(jiǎn)單的方式被洗腦，被欺騙，進(jìn)而成了虛假?gòu)V告的幫兇。

02

AI被投毒，被污染了，還能用嗎？

新技術(shù)的發(fā)展，與人類(lèi)歷史的發(fā)展一樣，總是要曲折中上升。千禧年前后開(kāi)始興起的互聯(lián)網(wǎng)大潮，深刻又迅速地改變了這個(gè)世界。電商出現(xiàn)，全新的購(gòu)物方式，讓消費(fèi)者可以坐在家中買(mǎi)到幾乎全世界的商品。新的搜索引擎，徹底改變了以前采用索引方式的資料查找。然而，新技術(shù)帶來(lái)的問(wèn)題也隨之顯現(xiàn)，電商平臺(tái)開(kāi)始出現(xiàn)各種假貨，淘寶一度成為假貨重災(zāi)區(qū)，競(jìng)價(jià)排名讓搜索引擎不再純粹，魏則西事件讓中文互聯(lián)網(wǎng)蒙羞至今。我也曾在很多公司的電腦上見(jiàn)到了層出不窮的彈窗廣告，每一分鐘都會(huì)彈出幾個(gè)，這樣的互聯(lián)網(wǎng)，談何工作效率。

技術(shù)進(jìn)步和規(guī)則的調(diào)整，終于慢慢解決了發(fā)展期間出現(xiàn)的問(wèn)題。道高一尺，魔高一丈，道與魔的斗法中，互聯(lián)網(wǎng)應(yīng)用服務(wù)質(zhì)量不斷提升。

如今，AI又引領(lǐng)著世界進(jìn)入全新的時(shí)代。隨著硬件的不斷迭代升級(jí)，算法的不斷優(yōu)化，能夠處理龐大數(shù)據(jù)的AI終于走到臺(tái)前，成為普通人也可以觸手可及的應(yīng)用。寫(xiě)一篇總結(jié)大綱，做一份工作計(jì)劃，生成一張圖片，根據(jù)圖片生成視頻，甚至是制作一集短劇，一切看起來(lái)都那么美好。更高層面，AI可以寫(xiě)代碼，按需求直接生成應(yīng)用程序，甚至，在美伊戰(zhàn)爭(zhēng)中迅速分析海量信息，幫助戰(zhàn)爭(zhēng)指揮官做出決策。

但聰明的人類(lèi)，還是能夠以自己的方式去調(diào)戲AI。GEO技術(shù)從提出到應(yīng)用，基本就沒(méi)干什么好事，整個(gè)成了一個(gè)大歪點(diǎn)子。被垃圾信息投喂的AI，又給用戶輸出了經(jīng)過(guò)整理的垃圾。AI生成的幾乎零成本的虛擬霸道總裁，不停地把手伸向中老年人的錢(qián)包。他們不相信自己的子女，卻無(wú)比相信屏幕中風(fēng)度翩翩的虛擬人。通過(guò)AI應(yīng)用竊取個(gè)人隱私的案例更是屢見(jiàn)不鮮。

短劇中的霸道總裁

然而，問(wèn)題終究會(huì)隨著技術(shù)的發(fā)展而得到解決。AI可以審慎識(shí)別由它自己生成的文本，做出取舍。被污染的數(shù)據(jù)庫(kù)，終會(huì)由它自己慢慢清洗干凈，AI也能夠?qū)W會(huì)，如何在海量數(shù)據(jù)中提取權(quán)威的、正確的信息。虛擬的霸道總裁，終會(huì)在腦門(mén)上大大地寫(xiě)上“我是騙子”。曾經(jīng)只會(huì)依靠人類(lèi)提供的數(shù)據(jù)拆分詞元的AI，最終也會(huì)像學(xué)習(xí)圍棋一樣，自行找到解決方案。

2026年315這一夜，程序員們倒是比市監(jiān)局要忙得多。清晨起來(lái)，幾個(gè)大模型均已對(duì)晚會(huì)上提到的漏洞做了修補(bǔ)，盡管這只是表面上的、有針對(duì)性的。但是，未來(lái)，避免被投毒怕是程序員們工作的重點(diǎn)了。

AI終究是這個(gè)時(shí)代里繞不開(kāi)的工具，曲折是暫時(shí)的，學(xué)習(xí)利用AI，擁抱AI，才不會(huì)被時(shí)代拋棄。

03

如何玩兒AI，而不是被AI玩兒？

AI的普及，最早大抵是從玩開(kāi)始。生成一段搞笑視頻，或者把影視劇中明星的臉替換成自己的，門(mén)檻低又好玩。AI把用戶哄開(kāi)心的同時(shí)，也得到了你的人臉數(shù)據(jù)和應(yīng)用反饋，皆大歡喜。

現(xiàn)在的AI，可以幫你快速生成一篇長(zhǎng)文的提綱，省去閱讀的辛苦。曾經(jīng)需要電腦上操作專(zhuān)業(yè)修圖軟件才能達(dá)到的效果，AI能夠通過(guò)自然語(yǔ)言理解創(chuàng)作者意圖，快速實(shí)現(xiàn)。一生要出片的中國(guó)人，此刻幸福感會(huì)達(dá)到頂點(diǎn)。更高級(jí)點(diǎn)兒的，直接通過(guò)簡(jiǎn)單的劇本，生成短劇，據(jù)說(shuō)從橫店變成豎店的影視拍攝基地，最近劇組數(shù)量急劇減少。AI生成短劇的成本，比用十八線演員更低，視覺(jué)效果更遠(yuǎn)超５毛特效。

這些都是普通人玩AI可以直接感受到的進(jìn)步。與此同時(shí)， AI也在玩兒你。

提綱式的閱讀，味同嚼蠟，文字中細(xì)膩的描寫(xiě)，大膽的想象，被統(tǒng)統(tǒng)抽離，只留一具依稀可辨形象的枯骨。千篇一律的修圖方式，看久了自然會(huì)厭倦，審美水準(zhǔn)也會(huì)被其無(wú)限拉低。短劇中虛擬人物完美無(wú)瑕的面孔上，眼睛卻空洞無(wú)神，像極了屏幕前被洗腦的觀眾。

前一陣，聽(tīng)說(shuō)騰訊的工程師在騰訊大樓下，免費(fèi)幫助用戶安裝、部署小龍蝦，居然有近千人排隊(duì)安裝。看到這個(gè)新聞，我的第一反應(yīng)是，連安裝和部署都不會(huì)的人，又怎么敢用這樣一個(gè)能全面接管電腦的應(yīng)用呢，這不是把自己的電腦完全交給一個(gè)陌生人去操控一樣嗎？某種意義上講，這和一個(gè)不會(huì)開(kāi)車(chē)，沒(méi)有駕駛證的人，開(kāi)啟了自動(dòng)駕駛就直接上了高速公路有何區(qū)別？這樣玩AI，不就是等著被AI玩兒嘛。

圖源網(wǎng)絡(luò)

就目前來(lái)說(shuō)，AI在進(jìn)化到有自我意識(shí)之前，終歸還是人類(lèi)的工具。工具是被拿來(lái)使用的，越高級(jí)的工具就越需要學(xué)習(xí)使用技巧。傳統(tǒng)的搜索引擎，會(huì)用的人，輸入幾個(gè)關(guān)鍵詞，就會(huì)快速找到想要的信息。不會(huì)用的人，搜出來(lái)的，大概率是各種垃圾信息和廣告。今天的AI搜索亦如是。會(huì)用的，告訴它從哪里找信息，找什么樣的信息去匯總。反饋回的信息，還要看一看信息來(lái)源，交叉驗(yàn)證。不會(huì)用的，只會(huì)籠統(tǒng)的問(wèn)一句，那AI自然也就會(huì)把收集到的垃圾整理整理，反饋給你的還是垃圾。

另外，在關(guān)乎最本質(zhì)的人身安全和健康方面，比如自動(dòng)駕駛，比如AI求醫(yī)，對(duì)AI的使用和信任，更要慎之又慎。即使自動(dòng)駕駛能夠應(yīng)付99.99%的突發(fā)情況，但剩下的0.01，就有可能危及駕乘者的生命。AI可以在醫(yī)學(xué)理論考試上達(dá)到滿分，但在實(shí)際病癥處理建議上，由于患者情況千差萬(wàn)別，所以給出的結(jié)論就只能是參考，或者心理安慰，最終仍要以醫(yī)生結(jié)論為準(zhǔn)。

被AI玩的，大體就是那些懶惰的，無(wú)知的用戶。懶惰，體現(xiàn)在一切交給AI，不加思考，不做甄別。無(wú)知，體現(xiàn)在盡信AI，奉其為圭臬。

所以，想玩AI，不被AI玩兒，就要不斷學(xué)習(xí)新知識(shí)，老話叫與時(shí)俱進(jìn)，同時(shí)，保持質(zhì)疑的精神，凡事多問(wèn)幾個(gè)為什么。沒(méi)有對(duì)應(yīng)能力，就來(lái)點(diǎn)簡(jiǎn)單的，不要給ai應(yīng)用太多的權(quán)限，一切止于娛樂(lè)即可。想用好這個(gè)超級(jí)工具的，就在你自己的領(lǐng)域里盡可能地深入，借AI的力量深耕，和它一起成長(zhǎng)。不管愿不愿意，現(xiàn)在到未來(lái)，AI都將深刻地影響我們的生活，玩兒它，還是被它玩兒，仍取決于我們自己。

~the end~