馬愷濃律師：AI“投毒”防范有路徑 商家 服務(wù)商及平臺責任明晰

3月15日晚，央視3·15晚會曝光AI大模型“投毒”黑產(chǎn)亂象，揭開了不法分子利用GEO（生成式引擎優(yōu)化）技術(shù)操控AI輸出虛假信息的灰色鏈條。

央視315晚會的調(diào)查記者通過多日暗訪，揭開了AI大模型“投毒”的完整灰色產(chǎn)業(yè)鏈。這場“投毒”不是簡單的信息篡改，而是一套系統(tǒng)化、規(guī)模化的操作，核心主角是一群號稱能“馴服AI”的GEO服務(wù)商，他們打著“優(yōu)化推廣”的幌子，幫商家向豆包、元寶、千問、KIMI、deepseek、文心等AI大模型定向“投喂”虛假信息，實現(xiàn)“操控AI答案”的目的，而這一切，只需要支付相應(yīng)的費用。

晚會暗訪顯示，涉事GEO服務(wù)商可在短時間內(nèi)生成虛假內(nèi)容，批量發(fā)布至網(wǎng)絡(luò)，誘導(dǎo)AI抓取后優(yōu)先推薦，甚至讓虛構(gòu)產(chǎn)品登上AI推薦榜前三。此類行為已覆蓋多款主流AI產(chǎn)品，威脅數(shù)億用戶，可能誤導(dǎo)消費決策、傳播虛假醫(yī)療和金融信息。

在此背景下，數(shù)字經(jīng)濟智庫網(wǎng)經(jīng)社電子商務(wù)研究中心邀請了行業(yè)權(quán)威人士進行解讀，并發(fā)布《央視315曝光AI大模型被惡意“投毒”——網(wǎng)經(jīng)社智庫專家獨家解讀報告》。

對此，浙江省律師協(xié)會競爭法專業(yè)委員會委員、網(wǎng)經(jīng)社電子商務(wù)研究中心特約研究員馬愷濃接受數(shù)字經(jīng)濟新媒體&智庫——#網(wǎng)經(jīng)社 獨家專訪。

之所以能如此快速、高效就完成了幾個大模型的“優(yōu)化”，是因為AI自動生成的批量化、傳播分發(fā)的急速化廣泛化，以及被大模型獲取的速度化便捷化。在這種情況下，如果AI獲取到的大量數(shù)據(jù)都是虛假的偽造的，那么得出的結(jié)論必然也是假的，是不可信的。

如何防范、杜絕這種AI“投毒”方式的？可通過清理數(shù)據(jù)庫，依法對人工智能生成合成的內(nèi)容進行標識，以避免被大模型獲取，或者大模型在獲取后可通過標識予以剔除，使得AI實際分析使用到的數(shù)據(jù)均為有效數(shù)據(jù)，讓數(shù)據(jù)庫重新變得清朗干凈。

商家使用該服務(wù)的本質(zhì)是虛假宣傳，可能引發(fā)的問題包括但不限于對被宣傳產(chǎn)品或服務(wù)產(chǎn)生引人誤解的虛假宣傳、對商業(yè)對手方的商譽詆毀等，GEO服務(wù)商作為該類服務(wù)提供者，應(yīng)承擔幫助侵權(quán)的法律責任。根據(jù)《中華人民共和國民法典》第一千一百六十九條，幫助他人實施侵權(quán)行為的，應(yīng)當與行為人承擔連帶責任。

平臺方面，如果人工智能生成合成內(nèi)容（指利用人工智能技術(shù)生成、合成的文本、圖片、音頻、視頻、虛擬場景等信息）未按規(guī)定添加標識，AI大模型平臺無法通過技術(shù)手段對其進行識別，而被AI大模型獲取分析應(yīng)用，進而輸出虛假信息，則大模型平臺不承擔責任，因其無法得知該內(nèi)容為人工智能生成合成內(nèi)容，所以不應(yīng)承擔過錯責任。

如果人工智能生成合成內(nèi)容已依法進行標識或生成內(nèi)容平臺已進行相關(guān)“AI自動生成標識”，但AI大模型仍抓取進行分析輸出，則AI大模型平臺具有明顯審核過錯，應(yīng)承擔過錯責任。

專家介紹：馬愷濃律師，浙江省律師協(xié)會競爭法專業(yè)委員會委員、杭州市律師協(xié)會文化產(chǎn)業(yè)專業(yè)委員會委員，同時擔任浙江省吉林商會法律咨詢委員會委員和法律顧問團成員。中國政法大學本科法學畢業(yè)，吉林大學碩士，民商事審判法官出身，主要執(zhí)業(yè)領(lǐng)域涵蓋民商事訴訟、公司法律事務(wù)、互聯(lián)網(wǎng)與電子商務(wù)法、娛樂法、知識產(chǎn)權(quán)法、婚姻家事與勞動爭議等，其業(yè)務(wù)范圍亦涉及刑事行政相關(guān)領(lǐng)域。

【小貼士】

網(wǎng)經(jīng)社及前身成立于2007年，公司總部位于杭州，系國內(nèi)唯一擁有A股上市公司背景的數(shù)字經(jīng)濟綜合服務(wù)商。圍繞“媒體+智庫+媒介”三大戰(zhàn)略，網(wǎng)經(jīng)社打造了三個“中心”：媒體資訊中心、數(shù)據(jù)研究中心、資源連接中心，并賦能數(shù)字經(jīng)濟企業(yè)發(fā)展， 提供全媒體宣傳、智庫賦能（報告、培訓、游學等）、投融資、會議活動等服務(wù)。