企業(yè)法務(wù)戰(zhàn)略專家姜子華：當(dāng)AI被“投毒”說(shuō)謊 平臺(tái)不能借“幻覺(jué)”置身事外

3月15日晚，央視3·15晚會(huì)曝光AI大模型“投毒”黑產(chǎn)亂象，揭開(kāi)了不法分子利用GEO（生成式引擎優(yōu)化）技術(shù)操控AI輸出虛假信息的灰色鏈條。

央視315晚會(huì)的調(diào)查記者通過(guò)多日暗訪，揭開(kāi)了AI大模型“投毒”的完整灰色產(chǎn)業(yè)鏈。這場(chǎng)“投毒”不是簡(jiǎn)單的信息篡改，而是一套系統(tǒng)化、規(guī)模化的操作，核心主角是一群號(hào)稱能“馴服AI”的GEO服務(wù)商，他們打著“優(yōu)化推廣”的幌子，幫商家向豆包、元寶、千問(wèn)、KIMI、deepseek、文心等AI大模型定向“投喂”虛假信息，實(shí)現(xiàn)“操控AI答案”的目的，而這一切，只需要支付相應(yīng)的費(fèi)用。

晚會(huì)暗訪顯示，涉事GEO服務(wù)商可在短時(shí)間內(nèi)生成虛假內(nèi)容，批量發(fā)布至網(wǎng)絡(luò)，誘導(dǎo)AI抓取后優(yōu)先推薦，甚至讓虛構(gòu)產(chǎn)品登上AI推薦榜前三。此類行為已覆蓋多款主流AI產(chǎn)品，威脅數(shù)億用戶，可能誤導(dǎo)消費(fèi)決策、傳播虛假醫(yī)療和金融信息。

在此背景下，數(shù)字經(jīng)濟(jì)智庫(kù)網(wǎng)經(jīng)社電子商務(wù)研究中心邀請(qǐng)了行業(yè)權(quán)威人士進(jìn)行解讀，并發(fā)布《央視315曝光AI大模型被惡意“投毒”——網(wǎng)經(jīng)社智庫(kù)專家獨(dú)家解讀報(bào)告》。

對(duì)此，資深企業(yè)法務(wù)戰(zhàn)略專家姜子華接受數(shù)字經(jīng)濟(jì)新媒體&智庫(kù)——#網(wǎng)經(jīng)社 獨(dú)家專訪。

2026年央視3·15晚會(huì)，揭露了針對(duì)AI大模型的新型黑產(chǎn)鏈條——生成式引擎優(yōu)化（GEO）。與只為網(wǎng)頁(yè)排名的SEO不同，GEO直指AI這一新一代信息入口，黑產(chǎn)服務(wù)商通過(guò)付費(fèi)投放海量虛假軟文，對(duì)AI大模型進(jìn)行數(shù)據(jù)“投毒”，竟讓根本不存在的“Apollo9”智能手環(huán)，成為了AI口中“值得推薦的產(chǎn)品”。

當(dāng)人們愈發(fā)信賴AI、甚至將其回答奉為參考依據(jù)時(shí)，AI卻早已被黑產(chǎn)操控，淪為虛假信息的傳聲筒。而作為AI的開(kāi)發(fā)與運(yùn)營(yíng)者，平臺(tái)方究竟是該以“技術(shù)不可控”為由置身事外，還是為自身的監(jiān)管不力承擔(dān)責(zé)任？這不僅是AI技術(shù)發(fā)展中的攻防難題，更是數(shù)字時(shí)代下，法律歸責(zé)與平臺(tái)倫理的核心考題。

要厘清平臺(tái)責(zé)任，首先要明確AI大模型的法律定位。此前，公眾乃至部分司法實(shí)踐中，常將AI類比為電視機(jī)、汽車等實(shí)體產(chǎn)品，認(rèn)為產(chǎn)品出問(wèn)題廠家就應(yīng)承擔(dān)無(wú)過(guò)錯(cuò)責(zé)任。但杭州互聯(lián)網(wǎng)法院審結(jié)的全國(guó)首例AI“幻覺(jué)”侵權(quán)案，給出了明確答案：生成式人工智能服務(wù)，在法律上應(yīng)界定為“服務(wù)”而非“產(chǎn)品”，適用《民法典》第1165條的一般過(guò)錯(cuò)責(zé)任原則。

這一定性有著現(xiàn)實(shí)的技術(shù)考量。傳統(tǒng)實(shí)體產(chǎn)品有固定形態(tài)、明確功能邊界和可預(yù)測(cè)的風(fēng)險(xiǎn)范圍，可通過(guò)統(tǒng)一質(zhì)檢把控風(fēng)險(xiǎn)；而AI大模型基于海量數(shù)據(jù)對(duì)開(kāi)放式指令即時(shí)響應(yīng)，每一次輸出都具有不可復(fù)現(xiàn)、不可完全控制的不確定性。若對(duì)其適用無(wú)過(guò)錯(cuò)責(zé)任，AI一旦出錯(cuò)平臺(tái)就需賠償，將嚴(yán)重掣肘尚在發(fā)展初期的人工智能產(chǎn)業(yè)，甚至扼殺技術(shù)創(chuàng)新。

但將AI界定為“服務(wù)”、適用過(guò)錯(cuò)責(zé)任，絕不意味著平臺(tái)可以就此免責(zé)躺平。核心問(wèn)題在于，面對(duì)黑產(chǎn)的“投毒”行為，平臺(tái)是否存在主觀或客觀上的過(guò)錯(cuò)，這也是判斷其責(zé)任的關(guān)鍵。

判斷平臺(tái)過(guò)錯(cuò)的核心，是界定其應(yīng)承擔(dān)的“注意義務(wù)”。結(jié)合相關(guān)司法判例與《生成式人工智能服務(wù)管理暫行辦法》，平臺(tái)的責(zé)任分層次且非無(wú)限，但對(duì)法律禁止的有毒、有害、違法信息，負(fù)有嚴(yán)格的審查義務(wù)。

3·15曝光的GEO黑產(chǎn)，本質(zhì)是通過(guò)虛構(gòu)產(chǎn)品、夸大功效、捏造評(píng)測(cè)，批量制造虛假信息，誘導(dǎo)AI抓取、學(xué)習(xí)并輸出。從《消費(fèi)者權(quán)益保護(hù)法》和《廣告法》來(lái)看，這并非簡(jiǎn)單的事實(shí)錯(cuò)誤，而是典型的虛假宣傳，直接侵害消費(fèi)者知情權(quán)。當(dāng)AI向消費(fèi)者推薦不存在的產(chǎn)品時(shí)，這已不是技術(shù)層面的“幻覺(jué)”，而是具有欺詐屬性的有害內(nèi)容。

此時(shí)，平臺(tái)不能再以“技術(shù)中立”或“AI幻覺(jué)”為擋箭牌。盡管平臺(tái)無(wú)法完全阻止第三方黑產(chǎn)的“投毒”行為，但一旦虛假信息在其模型上呈現(xiàn)、傳播，平臺(tái)就對(duì)最終輸出內(nèi)容負(fù)有不可推卸的審核責(zé)任。若平臺(tái)未建立有效的語(yǔ)料安全過(guò)濾機(jī)制、未核驗(yàn)訓(xùn)練數(shù)據(jù)來(lái)源，或明知數(shù)據(jù)被虛假信息污染卻未采取清理異常數(shù)據(jù)源、調(diào)整算法權(quán)重等措施，便構(gòu)成了法律意義上的“過(guò)錯(cuò)”。黑產(chǎn)投毒是因，平臺(tái)輸出虛假信息是果，若平臺(tái)在因果鏈條的終端毫無(wú)作為，就無(wú)法主張自身無(wú)過(guò)錯(cuò)。

當(dāng)然，現(xiàn)實(shí)中讓AI識(shí)別所有虛假信息，確實(shí)存在技術(shù)難度。大模型基于概率預(yù)測(cè)工作，缺乏人類的常識(shí)判斷和事實(shí)核查能力，因此司法實(shí)踐對(duì)平臺(tái)“注意義務(wù)”的界定，除了對(duì)違法信息零容忍，還包括顯著提示義務(wù)和功能可靠性的基本注意義務(wù)，這也為平臺(tái)提出了具體的合規(guī)要求。

其一，升級(jí)數(shù)據(jù)源“清潔”義務(wù)。過(guò)去大模型訓(xùn)練多依賴海量互聯(lián)網(wǎng)數(shù)據(jù)，而GEO技術(shù)出現(xiàn)后，互聯(lián)網(wǎng)充斥著專為欺騙AI而生的“偽原創(chuàng)”軟文。平臺(tái)需從被動(dòng)接收數(shù)據(jù)，轉(zhuǎn)為主動(dòng)治理數(shù)據(jù)源，建立可信數(shù)據(jù)源白名單，在金融、醫(yī)療、電商等高危領(lǐng)域，優(yōu)先采用權(quán)威數(shù)據(jù)庫(kù)或官網(wǎng)信息做檢索增強(qiáng)生成，摒棄易被黑產(chǎn)滲透的低質(zhì)信源。

其二，落實(shí)標(biāo)識(shí)義務(wù)，這也是平臺(tái)減輕過(guò)錯(cuò)的重要前提。2025年9月1日施行的《人工智能生成合成內(nèi)容標(biāo)識(shí)辦法》及強(qiáng)制性國(guó)標(biāo)，要求平臺(tái)對(duì)AI生成內(nèi)容添加顯式或隱式標(biāo)識(shí)。這不僅是滿足信息透明度要求，更是法律上的責(zé)任界碑。若平臺(tái)按規(guī)添加標(biāo)識(shí)，清晰告知用戶內(nèi)容由AI生成且“可能不準(zhǔn)確”，可降低一般性事實(shí)錯(cuò)誤的過(guò)錯(cuò)程度，但標(biāo)識(shí)并非虛假?gòu)V告的“合法外衣”，若生成內(nèi)容本身是違法的虛假宣傳，即便加了標(biāo)識(shí)，平臺(tái)仍需擔(dān)責(zé)。

其三，具備事后糾錯(cuò)與溯源能力。面對(duì)數(shù)據(jù)“投毒”，平臺(tái)不能僅止步于刪除違規(guī)回答，還需配備核驗(yàn)檢測(cè)技術(shù)，建立元數(shù)據(jù)安全防護(hù)機(jī)制，確保內(nèi)容可追溯。當(dāng)消費(fèi)者因AI推薦的虛假產(chǎn)品維權(quán)時(shí)，平臺(tái)有義務(wù)提供生成日志，協(xié)助監(jiān)管部門溯源，鎖定背后的黑產(chǎn)鏈條。

有觀點(diǎn)認(rèn)為，AI存在不確定性，用戶應(yīng)保持批判性思維，不將其回答當(dāng)作“標(biāo)準(zhǔn)答案”，尤其是醫(yī)療、投資等領(lǐng)域，需多方核實(shí)。這種提醒雖出于善意，但將AI“投毒”的治理希望，完全寄托在普通消費(fèi)者的辨別能力上，顯然不切實(shí)際。隨著AI深度融入生活方方面面，要求每個(gè)用戶對(duì)每條AI回答都交叉驗(yàn)證，既違背了技術(shù)帶來(lái)的便利初衷，也不具備現(xiàn)實(shí)操作性。

法治的落腳點(diǎn)，終究在責(zé)任源頭。AI大模型平臺(tái)作為技術(shù)的受益者和服務(wù)提供者，享受著技術(shù)紅利帶來(lái)的流量與商業(yè)價(jià)值，就理應(yīng)承擔(dān)起抵御黑產(chǎn)侵蝕的治理成本。過(guò)錯(cuò)責(zé)任原則并非平臺(tái)的“保護(hù)傘”，而是一把動(dòng)態(tài)標(biāo)尺。當(dāng)AI“投毒”已成完整產(chǎn)業(yè)鏈，虛假信息借AI快速泛濫時(shí)，平臺(tái)必須證明自己已窮盡技術(shù)手段識(shí)別、阻斷和清理虛假信息。若平臺(tái)仍固守“僅為生成器，不保證準(zhǔn)確性”的思維，對(duì)數(shù)據(jù)污染毫無(wú)作為，未來(lái)法院在裁決類似案件時(shí)，或?qū)⒄J(rèn)定其“知道或應(yīng)當(dāng)知道污染而未治理”的過(guò)錯(cuò)，作出與首例AI幻覺(jué)案截然不同的判決。

技術(shù)發(fā)展沒(méi)有回頭路，AI從誕生之初，就承載著助力信息獲取、提升效率的期待，絕不能從人們信賴的“知識(shí)參考”，淪為黑產(chǎn)操控的“謠言工廠”。斬?cái)郃I“投毒”產(chǎn)業(yè)鏈，需要監(jiān)管部門的重拳整治、法律體系的持續(xù)完善，更需要AI平臺(tái)拿出“守土有責(zé)”的決心，從源頭凈化數(shù)據(jù)生態(tài)。與其在下游提醒用戶“辨別臟水”，不如在上游守住“水質(zhì)清潔”，這是法律劃定的底線，更是AI行業(yè)走向可信、可持續(xù)發(fā)展的必經(jīng)之路。

專家介紹：姜子華，資深企業(yè)法務(wù)戰(zhàn)略專家、中國(guó)法學(xué)會(huì)會(huì)員、中國(guó)快遞協(xié)會(huì)法律專委、浙江省消協(xié)專家、法學(xué)研究會(huì)研究員、中小企業(yè)商會(huì)調(diào)解員。

【小貼士】

網(wǎng)經(jīng)社及前身成立于2007年，公司總部位于杭州，系國(guó)內(nèi)唯一擁有A股上市公司背景的數(shù)字經(jīng)濟(jì)綜合服務(wù)商。圍繞“媒體+智庫(kù)+媒介”三大戰(zhàn)略，網(wǎng)經(jīng)社打造了三個(gè)“中心”：媒體資訊中心、數(shù)據(jù)研究中心、資源連接中心，并賦能數(shù)字經(jīng)濟(jì)企業(yè)發(fā)展， 提供全媒體宣傳、智庫(kù)賦能（報(bào)告、培訓(xùn)、游學(xué)等）、投融資、會(huì)議活動(dòng)等服務(wù)。