當(dāng)“生成式引擎優(yōu)化”(GEO)黑產(chǎn)被曝光,當(dāng)幾十元的軟文能通過技術(shù)手段在幾天內(nèi)變成AI口中的“標(biāo)準(zhǔn)答案”,我們猛然驚覺:在這個(gè)信息唾手可得的時(shí)代,“真實(shí)”反而成了最稀缺的奢侈品。
![]()
曾經(jīng),我們驚嘆于AI的博學(xué)多才,它能瞬間生成文章、解答疑惑。但當(dāng)AI開始“一本正經(jīng)地胡說八道”,當(dāng)算法推薦的內(nèi)容充斥著被“投毒”的虛假信息,用戶開始懷念那個(gè)簡單直接的年代——那個(gè)只需“百度一下”就能找到靠譜答案的年代。
正如在商品大爆發(fā)的時(shí)代,精選好商品、價(jià)格透明的胖東來因?yàn)椤翱孔V”而門庭若市。AI也正在制造一場失控的信息“熵增”,重塑用戶信任成了當(dāng)務(wù)之急。
AI時(shí)代的“投毒”與幻覺
315晚會揭露的GEO黑產(chǎn),像是一面照妖鏡,映射出當(dāng)前AI搜索的軟肋。
在利益的驅(qū)使下,黑灰產(chǎn)團(tuán)伙利用AI抓取和生成的特性,通過大量發(fā)布虛假、夸大的軟文,利用算法漏洞將劣質(zhì)內(nèi)容甚至虛假廣告包裝成“事實(shí)”。對于缺乏辨別能力的AI模型來說,這些海量的虛假數(shù)據(jù)成為了訓(xùn)練的“養(yǎng)料”。
![]()
在這些AI生成的結(jié)果中,你并不知道被哪家公司“投喂”了偏好自己的內(nèi)容,結(jié)果已經(jīng)失去了公正。在社交媒體時(shí)代,這些被誤導(dǎo)的結(jié)果,會被大范圍傳播造成嚴(yán)重后果。
![]()
比如,前不久在股吧里傳出一個(gè)來自豆包生成結(jié)果的截圖:“某互聯(lián)網(wǎng)巨頭2月19日發(fā)布第三季度財(cái)報(bào)顯示XX”,這個(gè)消息同步在雪球、同花順、富途證券的論壇里發(fā)酵,第二天該互聯(lián)網(wǎng)公司的股票就出現(xiàn)了不小幅度的下跌。
![]()
事實(shí)上,截至今天該互聯(lián)網(wǎng)公司仍未發(fā)布第三季度財(cái)報(bào)。因此,豆包生成的結(jié)果欺騙了股民,又通過社交媒體、論壇制造了股市的恐慌。
這種現(xiàn)象背后,是AI技術(shù)難以規(guī)避的“先天缺陷”——幻覺。
AI本質(zhì)上是一個(gè)概率模型,它擅長組合信息,但不擅長驗(yàn)證真?zhèn)巍K鼰o法像人類一樣去追溯信息的源頭,也無法判斷一個(gè)網(wǎng)站是權(quán)威媒體還是營銷號。當(dāng)源頭的水質(zhì)被污染,AI生成的“答案”自然也是有毒的。
![]()
近期,演員劉美含在社交媒體上的一次吐槽引發(fā)了全網(wǎng)共鳴。她在配音時(shí)遇到“鑄幣坊”一詞,向包括百度AI、DeepSeek、豆包等在內(nèi)的5款A(yù)I工具提問“坊”字的讀音。結(jié)果令人咋舌:多款A(yù)I給出了錯(cuò)誤的“fāng”(一聲),只有百度AI給出了正確的“fáng”(二聲),并引用了《新華字典》的權(quán)威釋義。
![]()
這個(gè)案例極具諷刺意味。當(dāng)越來越多的人說要用AI替代搜索的時(shí)候,AI大模型們對于最為基礎(chǔ)的語言文字卻翻車了,而依托傳統(tǒng)搜索技術(shù)的百度AI卻守住了底線。
AI要從信任的泥潭中抽身
當(dāng)前的世界出現(xiàn)各種“過剩”,也讓選擇變得更加困難,信任就變得彌足珍貴。AI需要具備建立信任完善機(jī)制,遵從“少即是多”的哲學(xué)原理,只有如此才能長久。
當(dāng)前,制造和傳播信息的門檻已經(jīng)降為零,UGC的時(shí)代導(dǎo)致大量消息、短視頻、文章把我們淹沒了。就如當(dāng)前中東戰(zhàn)爭,在微博上、朋友圈里、公眾號里,各大自媒體平臺上,都有許多虛假信息。為了躲避這些虛假信息,我只能關(guān)注央視國際頻道等少數(shù)權(quán)威官方媒體報(bào)道。
同樣,在商品大爆炸的時(shí)代,為何胖東來如此火爆?因?yàn)榕謻|來嚴(yán)苛的供應(yīng)商管理機(jī)制和透明的價(jià)格體系,為消費(fèi)者建立了足夠的信任,也讓消費(fèi)者從各種虛假、噱頭的商品傳播中抽身出來。
在AI陷入信任泥潭時(shí),以百度、谷歌為代表的傳統(tǒng)搜索引擎,其核心價(jià)值也正在被重新審視和重估。
傳統(tǒng)搜索的價(jià)值,不在于它能替你寫詩作畫,而在于它構(gòu)建了一套嚴(yán)密的“真實(shí)世界映射系統(tǒng)”。它不創(chuàng)造信息,但它致力于篩選和連接最真實(shí)的信息。特別是在百度百科、百度文庫等核心知識產(chǎn)品上,百度建立了一套AI難以復(fù)制的“權(quán)威性過濾網(wǎng)”。
![]()
百度百科之所以能成為中文互聯(lián)網(wǎng)最大的知識庫,核心在于它對“權(quán)威信源”的死磕。
不同于UGC內(nèi)容的隨意發(fā)布,百度百科執(zhí)行的是“先審后發(fā)”機(jī)制。這不僅僅是機(jī)器審核,更有人工的層層把關(guān)。特別是對于人物、企業(yè)等敏感詞條,百度百科要求必須提供新華網(wǎng)、人民網(wǎng)、央視等主流媒體的報(bào)道作為佐證。
在2024年底發(fā)布的“繁星計(jì)劃”中,百度更是聯(lián)合了中國科學(xué)院大學(xué)、北京大學(xué)等頂尖機(jī)構(gòu)的超10萬專家,共建了超過100萬個(gè)專業(yè)詞條。這種“專家共建+權(quán)威審核”的模式,構(gòu)建了一道對抗虛假信息的銅墻鐵壁。在AI滿嘴跑火車的時(shí)候,百度百科依然在堅(jiān)守“有據(jù)可查”的底線。
百度將傳統(tǒng)搜索的嚴(yán)謹(jǐn)于AI的智能進(jìn)行深度融合,依托百度百科、百度文庫等核心數(shù)據(jù)資源,可以構(gòu)建起比其他AI產(chǎn)品更值得信賴的系統(tǒng)。這也是為何百度AI大模型生成結(jié)果的幻覺更少的原因。
“三道防線”讓AI更靠譜
對此,筆者專門采訪了百度AI的技術(shù)人人員,他提到百度AI將搜索技術(shù)融入其中,為AI生成結(jié)果設(shè)置了“三道防線”。
第一道防線,多源比對,全維度身份核驗(yàn)。 系統(tǒng)會自動(dòng)抓取信息的發(fā)布時(shí)間、作者權(quán)威度、站點(diǎn)信譽(yù)。只有那些來自權(quán)威專業(yè)領(lǐng)域、時(shí)效性強(qiáng)的信息,才有資格進(jìn)入AI的“視野”。
第二道防線,多源交叉驗(yàn)證。這是最關(guān)鍵的一步。AI不會采信單一來源的說法,而是必須經(jīng)過“多方求證”。同一個(gè)結(jié)論,至少需要多個(gè)可信來源支撐,才會被采納。這就從根源上杜絕了單一虛假信息誤導(dǎo)用戶的可能。
第三道防線,實(shí)時(shí)巡檢,秒級糾偏。 即便如此,系統(tǒng)還搭建了“秒級響應(yīng)”的自動(dòng)巡檢機(jī)制。一旦發(fā)現(xiàn)內(nèi)容有偏差,系統(tǒng)與人工會立即介入,重新生產(chǎn)內(nèi)容。
正是這套“笨功夫”打磨出來的系統(tǒng),讓百度AI在面對“鑄幣坊”這類專業(yè)問題時(shí),能夠精準(zhǔn)地調(diào)用《新華字典》等權(quán)威數(shù)據(jù),而不是胡亂猜測。
![]()
得益于“三道防線”帶來的信任價(jià)值,百度搜索Skill(技能插件)已經(jīng)在OpenClaw的全球技能市場中沖上了下載量第一的寶座。
開發(fā)者們深知,搜索類Skill是智能體的“基礎(chǔ)設(shè)施”,它決定了整個(gè)智能體應(yīng)用的“智商下限”。如果搜索源是虛假的,是AI自己虛構(gòu)的,或者是被“GEO投毒”影響的,那么智能體給出的所有服務(wù)都將是危險(xiǎn)的。
顯然,在AI時(shí)代,信任變得更加稀缺,因此搜索引擎再次被價(jià)值發(fā)現(xiàn),正是得益于其不做“幻覺制造機(jī)”,只做“真相連接器”的產(chǎn)品定位。
結(jié)語
最近,社交媒體上涌現(xiàn)了許多“懷念百度一下”的聲音。這并不是用戶對技術(shù)的倒退,而是對信息質(zhì)量的覺醒。
當(dāng)AI開始用華麗的辭藻編織謊言,當(dāng)算法推薦讓我們陷入信息繭房,我們才發(fā)現(xiàn),那個(gè)簡單的“百度一下”,承載的是互聯(lián)網(wǎng)最初的理想——讓所有人平等、便捷地獲取真實(shí)信息。
熱力學(xué)第三定律講“熵增”。當(dāng)前的信息世界就進(jìn)入了巨大的“熵增”時(shí)代,這給人們精確獲取信息設(shè)置了門檻。在這個(gè)時(shí)代,最終取勝者并不是依靠信息生成的能力,而在于如何給用戶帶來信任,降低“熵增”導(dǎo)致的混亂。
特別聲明:以上內(nèi)容(如有圖片或視頻亦包括在內(nèi))為自媒體平臺“網(wǎng)易號”用戶上傳并發(fā)布,本平臺僅提供信息存儲服務(wù)。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.