警惕“數(shù)字泔水”侵蝕學(xué)術(shù)凈土

AIGC低質(zhì)內(nèi)容在網(wǎng)絡(luò)空間蔓延

警惕“數(shù)字泔水”侵蝕學(xué)術(shù)凈土

近日，一則關(guān)于國際學(xué)術(shù)季刊曝光的學(xué)術(shù)不端事件，為學(xué)術(shù)界敲響了警鐘。一篇發(fā)表于該刊物的博士論文被發(fā)現(xiàn)存在嚴(yán)重學(xué)術(shù)不端行為，在其列出的61條參考文獻中，竟有24條系由人工智能憑空捏造的“幽靈文獻”。雖然部分引文標(biāo)注了真實的來源期刊信息，但在相應(yīng)期數(shù)中卻查無實據(jù)。

“這是‘AI垃圾’在學(xué)術(shù)領(lǐng)域最惡劣、最危險的表現(xiàn)之一。”浙江大學(xué)哲學(xué)學(xué)院教授李恒威在接受本報記者采訪時表示，所謂“幽靈文獻”，是指那些在學(xué)術(shù)成果中被正式引用并標(biāo)注為信息來源，但實際無法查證、根本不存在，或與引用內(nèi)容嚴(yán)重不符的虛假資料。它們?nèi)缤瑢W(xué)術(shù)界的“幽靈”，表面上構(gòu)建起論證的“支撐”，實則空無一物，不僅可能誤導(dǎo)研究方向，更嚴(yán)重破壞了學(xué)術(shù)共同體賴以維系的信任基石。

當(dāng)生成式人工智能（AIGC）的強大生產(chǎn)力被濫用，其產(chǎn)出的內(nèi)容空洞、邏輯混亂、價值缺位的數(shù)字產(chǎn)物，正在引發(fā)社會各界尤其是學(xué)術(shù)界的深切憂慮。如何有效識別、遏制并治理“AI垃圾”，守護清朗的數(shù)字生態(tài)與學(xué)術(shù)凈土，已成為人工智能時代必須正視的緊迫課題。

技術(shù)濫用毀掉深度思考能力

“幽靈文獻”事件并非孤例。記者調(diào)查發(fā)現(xiàn)，從社交平臺上空洞無物的“廢話文學(xué)”，到短視頻里荒誕離奇的惡搞內(nèi)容；從營銷號批量產(chǎn)出的模板化文章，到以假亂真的深度偽造人文科普——一種被網(wǎng)民形象地稱為“AI垃圾”或“數(shù)字泔水”的低質(zhì)量信息流，正以驚人的速度在互聯(lián)網(wǎng)空間蔓延。而這股濁流已悄然突破公共信息領(lǐng)域的邊界，開始滲透并侵蝕嚴(yán)謹(jǐn)?shù)膶W(xué)術(shù)生態(tài)。

在AI技術(shù)浪潮下，“幽靈文獻”暴露了部分研究者對技術(shù)底線的失守。正如中國社會科學(xué)院新聞與傳播研究所網(wǎng)絡(luò)信息與智能傳播研究室副主任楊斌艷所觀察到的，當(dāng)前一個突出問題是，大量缺乏約束和引導(dǎo)的“試探性使用”正在泛濫。人們出于好奇或測試目的，向AI輸入各種非常規(guī)甚至刻意設(shè)計的指令，導(dǎo)致其輸出大量邏輯混亂、脫離現(xiàn)實的荒誕內(nèi)容。當(dāng)這些“玩鬧”性質(zhì)的內(nèi)容被不當(dāng)利用，甚至移植到嚴(yán)肅的學(xué)術(shù)生產(chǎn)領(lǐng)域時，便構(gòu)成了對學(xué)術(shù)精神的直接挑戰(zhàn)。

“用AI得來的輕松快樂，最終可能會毀掉我們深度思考的能力。”中國人民大學(xué)哲學(xué)院教授劉永謀對此深感憂慮。他將依賴AI替代費力思考的行為稱為“認(rèn)知卸載”。在他看來，思考本身即是學(xué)術(shù)與求知的核心價值所在。如果任由AI代勞核心的思考環(huán)節(jié)，長期“不費腦子”，人類最終可能會喪失寶貴的獨立思考能力。當(dāng)論文發(fā)表淪為形式空轉(zhuǎn)，其探索真理、推動文明進步的根本意義也將蕩然無存。

“AI垃圾”何以泛濫

“AI垃圾”肆虐并非偶然，是多重因素交織下的必然產(chǎn)物。北京師范大學(xué)心理學(xué)部教授劉超從技術(shù)與社會心理層面剖析了成因。在他看來，大語言模型的普及使得內(nèi)容生產(chǎn)成本降低，原本需要創(chuàng)造性投入的活動，正異化為機械的“流水線工作”。更深層的危機在于，AI模型本身依賴于互聯(lián)網(wǎng)海量數(shù)據(jù)進行訓(xùn)練，而當(dāng)網(wǎng)絡(luò)中已充斥大量低質(zhì)AI內(nèi)容時，新一代模型再抓取這些“垃圾”作為語料，便形成了一個“用垃圾喂出更多垃圾”的惡性循環(huán)，導(dǎo)致信息環(huán)境的質(zhì)量每況愈下。

中國科學(xué)院計算技術(shù)研究所研究員陳薇從技術(shù)特征上揭示了“AI垃圾”的隱匿性。她表示，這類內(nèi)容往往呈現(xiàn)出“形式完整，實質(zhì)空洞”的特點。它們擁有虛假的專業(yè)感和極高的流暢度，慣于講述“正確的廢話”。其偽裝手段多樣，例如，通過多語種互譯、同義詞改寫、半人工潤色等手段來掩蓋AI生成痕跡，甚至利用編造虛假文獻、一本正經(jīng)地論述謬誤等方式來制造“原創(chuàng)”假象。

識別這些“數(shù)字泔水”，正成為數(shù)字時代公眾必備的素養(yǎng)。楊斌艷提醒，對于那些嚴(yán)重違背常識邏輯、明顯不符合現(xiàn)實情況的內(nèi)容，應(yīng)保持高度警惕。同時，要提防以各種“變臉”形式隱匿出現(xiàn)、實則推銷同一話術(shù)的內(nèi)容。劉超則建議關(guān)注內(nèi)容的生成動機：“是意在引導(dǎo)讀者站隊、轉(zhuǎn)發(fā)、加群還是轉(zhuǎn)賬？是在單純煽動情緒，還是引發(fā)深度思考？”這些追問都有助于剝開AI生成內(nèi)容的偽裝。

學(xué)者們呼吁，公眾應(yīng)主動培養(yǎng)對“模板化表達”和“過度完美敘事”的敏感度，并結(jié)合交叉驗證、溯源查證等方法，提升自身的辨識能力。

構(gòu)建多維治理格局

面對洶涌而來的“AI垃圾”，單一的治理手段顯然難以應(yīng)對。多位學(xué)者在接受本報記者采訪時都表示，必須構(gòu)建一個覆蓋技術(shù)、制度與人文教育的全流程、多維度的防控體系。

從技術(shù)層面筑起“防火墻”是首要任務(wù)。陳薇提出兩點具體建議：一是大力推廣數(shù)字水印與內(nèi)容指紋技術(shù)，實現(xiàn)對AI生成內(nèi)容從生產(chǎn)到傳播的全鏈條溯源，讓每一份“數(shù)字產(chǎn)物”都有跡可循；二是研發(fā)高精度的AI生成內(nèi)容檢測算法，并針對科教領(lǐng)域優(yōu)化學(xué)術(shù)工作流，建立“引用可點擊、證據(jù)可復(fù)算”的自動化驗證機制，確保研究數(shù)據(jù)和結(jié)論的真實性與可復(fù)現(xiàn)性。

李恒威將AI比作承載人類文明的“忒修斯之船”。他認(rèn)為，治理“AI垃圾”需秉持“在航行中修理船只”的動態(tài)思維。首先，在技術(shù)設(shè)計初期即“造船階段”，就應(yīng)嵌入可追溯、可解釋的機制，并建立明確的AI訓(xùn)練與生成內(nèi)容的質(zhì)量規(guī)范和倫理標(biāo)準(zhǔn)。其次，在技術(shù)運行過程中即“日常維護”階段，需要建立功能強大的事實核查、深度偽造檢測及質(zhì)量評估體系，并強化專業(yè)審核力量。最后，在價值導(dǎo)向?qū)用妫仨氬^定AI服務(wù)于求真、向善、創(chuàng)造的核心目標(biāo)，加強人文教育與公眾數(shù)字素養(yǎng)，從根本上提升社會對低質(zhì)信息的“免疫力”。

平臺作為信息傳播的關(guān)鍵樞紐，同樣責(zé)無旁貸。楊斌艷提出，網(wǎng)絡(luò)平臺應(yīng)積極建立“AI垃圾”一鍵舉報機制，并構(gòu)建共享錯誤信息的阻隔數(shù)據(jù)庫，讓廣大網(wǎng)民成為治理環(huán)節(jié)中的活躍力量，形成群防群治的局面。

學(xué)術(shù)界應(yīng)自覺守護知識標(biāo)準(zhǔn)

在這場抵制“AI垃圾”的戰(zhàn)役中，學(xué)術(shù)界不能成為被動的研究者，應(yīng)成為主動的守護者和引領(lǐng)者。守護知識生產(chǎn)與認(rèn)知標(biāo)準(zhǔn)，是學(xué)術(shù)界責(zé)無旁貸的使命。

劉永謀強調(diào)，人文學(xué)界尤其應(yīng)發(fā)揮價值引領(lǐng)作用。通過積極的學(xué)術(shù)發(fā)聲，倡導(dǎo)優(yōu)質(zhì)內(nèi)容生產(chǎn)，抵制“AI垃圾”的泛濫。同時，要致力于培育理性、審慎、有深度的網(wǎng)絡(luò)文化與數(shù)字倫理，推動形成尊重原創(chuàng)、崇尚思辨、拒絕信息快餐的網(wǎng)絡(luò)道德共識，為清朗的數(shù)字生態(tài)注入不可或缺的人文精神與價值定力。

楊斌艷認(rèn)為，學(xué)術(shù)界應(yīng)將學(xué)者的集體智慧轉(zhuǎn)化為治理力量，通過聚合專家們的碎片化時間，共同參與構(gòu)建識別“AI垃圾”的“防火墻”。學(xué)者更應(yīng)積極參與到大模型的“有效投喂”和持續(xù)優(yōu)化訓(xùn)練中去，為糾正“AI幻覺”充當(dāng)“守門人”，為優(yōu)質(zhì)內(nèi)容的生成貢獻高質(zhì)量的知識養(yǎng)料。

劉超建議，學(xué)術(shù)界應(yīng)以開放課程、科普文章等多元化形式，提升大眾對AI生成低質(zhì)信息的鑒別能力。“學(xué)術(shù)界在整治‘AI垃圾’中的核心使命，不是與技術(shù)進行簡單的對抗，而是致力于重建可信知識的生產(chǎn)、驗證與傳播秩序。”陳薇進一步提出，鑒于AI對教育領(lǐng)域的深遠影響，應(yīng)推動教育回歸思維訓(xùn)練與價值塑造的本質(zhì)，弱化對機械記憶的考核，強化邏輯思辨能力的培養(yǎng)，鼓勵那些雖不完美卻真實、獨特的表達，培育人們對具有靈魂與情感深度內(nèi)容的審美判斷力。

李恒威認(rèn)為，我們或許永遠無法抵達一個AI被“完全修復(fù)”、信息環(huán)境“毫無瑕疵”的靜止終點。技術(shù)將持續(xù)迭代，新的問題會隨之滋生，新的“AI垃圾”也會以新的形態(tài)不斷涌現(xiàn)。這要求我們具備一種與時俱進的治理智慧——在技術(shù)的發(fā)展與治理的完善之間，保持動態(tài)的平衡，在航行中不斷修繕我們這艘承載著人類文明與認(rèn)知希望的“忒修斯之船”。

中國社會科學(xué)報記者 段丹潔

來源：中國社會科學(xué)報

新媒體編輯：程可心

如需交流可聯(lián)系我們