華裔00后戳破頂會泡沫！NeurIPS 53篇論文曝AI造假，LeCun躺槍

新智元報道

編輯：元宇

【新智元導讀】用AI檢測AI幻覺，用魔法打敗魔法！剛剛，NeurIPS已收錄論文被曝出數百條AI幻覺引用，至少53篇論文中招。為了對抗AI幻覺、造假所帶來的學術「污染」，首先拿起AI武器的，也應當是AI頂會。

數百項虛假引用，53篇頂會論文被抓包！

剛剛，NeurIPS頂會暴雷，全球AI圈的「奧斯卡」盛會，被一家華人00后的AI初創公司「打假」了。

這家名為GPTZero的公司在掃描了NeurIPS 2025年所接收的4841篇論文后，發現了數百條由AI「編造」出來的引用，至少53篇論文「證據確鑿」。

GPTZero CEO Edward Tian將其稱作一個重要的節點時刻：

這是首次有記錄顯示，幻覺引用進入了頂級機器學習會議的官方文獻。

GPTZero聯合創始人兼CEO Edward Tian（左）與聯合創始人兼CTO Alex Cui（右）。

當「John Smith」這種占位符名字（類似中國的張三、李四），堂而皇之地出現在頂會參考文獻中，這意味著學術研究的基石已經被AI幻覺「侵蝕」了。

更離譜的是，在GPTZero展示的例子中，圖靈獎得主Yann LeCun的名字，以「Samuel LeCun Jackson」的虛構引用形式，出現在了另一篇有關深度學習的論文中。

學術引用的嚴謹性對于科研的意義不言而喻。

當謊言被引用了一千次，它在數據集中就變成了真理。

如果不加干預，未來的研究者在引用這些「經典」時，就像是在虛無縹緲的云端建造空中樓閣。

以前科學家們的研究是站在了巨人的肩膀上，今后很可能是站在AI的幻覺之上了。

53篇論文驚現AI幻覺引用

頂會濾鏡破碎

在AI學術圈，NeurIPS長期以來被視為一座「圣殿」。

在這里發表論文，幾乎等同于拿到了進入Google DeepMind或OpenAI等頂級實驗室的入場券。

然而，這層看上去高大上的「神圣濾鏡」，卻被GPTZero擊碎了。

他們對NeurIPS 2025已正式發表的4841篇論文進行了一次「地毯式掃描」，結果猶如一記重磅炸彈：

至少53篇論文，被檢測出包含數百條由大模型憑空捏造的引用。

最令人震驚的是，這些連鏈接都可能指向404的低級錯誤，竟悉數「騙」過了每篇論文至少三名專家的同行評審防線。

NeurIPS 2025現場

頂會的尊嚴，在AI幻覺面前，顯得不堪一擊。

https://gptzero.me/news/neurips/

如上圖，在GPTZero的官方博客中，公布了53篇NeurIPS論文中發表的100條虛構引用列表。

在上圖所顯示的這篇論文中，GPTZero檢測到存在一篇標題相同的文章，作者顯然是偽造的。

在上面這篇關于深度學習技術的論文中，顯示無作者或標題匹配，說明該文章不存在于出版物中，其URL和DOI均為偽造。

GPTZero曾嘗試通過多種名稱來描述AI生成的幻覺引用。

「幻覺引用」（hallucinated citations）太長，「虛假引用」（fake citations）則帶有過強的道德評判色彩。

Alex Adams

最終，GPTZero機器學習主管Alex Adams提出了「氛圍引用」（vibe citing）一詞，用來描述大模型將真實來源進行推導或拼湊，從而生成看似逼真卻是虛假信息的傾向。

「氛圍引用」與「氛圍寫作」（vibe writing）或「氛圍編碼」（vibe coding）類似，其生成的引用乍看之下似乎準確無誤，但經不起仔細推敲。

利用AI撰寫研究論文迅速流行，體現了「氛圍引用」（vibe-citing）的快速增長

從上圖中可以看出，2025年4月和9月的峰值分別對應NeurIPS和ICLR 2025的論文提交截止日期。

AI幻覺的進化

Edward Tian認為，NeurIPS的情況更令人擔憂，因為問題出現在已經被正式接收并發表的論文中。

根據傳統的學術規范，即便只有一條偽造引用，也足以構成拒稿理由。

NeurIPS 2025主賽道論文的接收率為24.52%，這意味著這些存在幻覺引用的論文擊敗了約15000篇競爭對手。

這些「AI幻覺」造成的引用問題，通過了同行評審，并被收錄進最終的會議論文集。

因此，Edward Tian認為這次問題，相比以往是一次明顯的升級，也是首次有記錄顯示幻覺引用進入了頂級機器學習會議的官方文獻。

在GPTZero曝光的部分案例中，我們看到了AI幻覺的驚人進化。

最初級錯誤

最初級錯誤，是論文參考文獻中出現了「John Smith」和「Jane Doe」這樣的占位姓名，甚至還有引用鏈接直接指向404空頁面。

而且，這種初級錯誤竟然逃過了世界頂級專家的法眼。

「半真半假」的隱蔽偽造

這是一種更危險、更深度，也更隱蔽的一種偽造。

AI可能會把多篇真實論文的內容拼接或改寫，生成看起來十分可信的標題和作者列表。

它還會把一篇題為「深度學習的優化」的論文，改寫成「深度學習中的優化策略」。

乍看上去作者和關鍵詞都對，格式也是BibTeX的標準格式。

審稿人在快速瀏覽時，大腦會自動補全這些信息，覺得這篇文獻很眼熟，于是就通過了。

GPTZero之所以能發現「AI幻覺」，是因為它的結果是基于事實的對照。

據Alex Cui介紹，GPTZero的幻覺檢測工具會讀取論文全文，通過搜索開放網絡和學術數據庫，逐條核實引用的作者、標題、發表渠道和鏈接。

如果一條引用在現實世界找不到對應，或者只與真實論文部分匹配，系統就會拉響警報。

失守的防線

「投稿海嘯」與審稿過載困境

如此低級的錯誤，為什么會繞過層層把關的審稿系統？

答案很現實：由于內卷，學術界的「算力」已經跟不上了。

ICLR、NeurIPS、ICML和AAAI這些全球AI頂會，每年吸引數千篇投稿和大量參與者。

由于AI、論文工廠以及發表壓力所引發的「投稿海嘯」，已使所有這些會議的審稿流程不堪重負，瀕臨崩潰。

比如，2020年至2025年間，NeurIPS的投稿量從9467篇激增超過220%，達到21575篇，遠高于2024年的15671篇和2023年的12343篇。

即便會議組織者動員了成千上萬名志愿評審，但對于每篇論文及其參考文獻進行深入審查也變得越來越難。

這就為AI幻覺的出現留下了可乘之機。

對此，NeurIPS理事會的官方回應顯然有些蒼白：

1.1%的論文因使用大模型而包含一個或多個錯誤引用，也并不意味著論文內容本身一定無效。例如，作者可能只是向大模型提供了不完整的引用信息，并讓模型生成BibTeX（格式化參考文獻）。

但是，這種說法在學術態度上也無法站住腳。

如果一位作者連自己的參考文獻都懶得核實，直接甩給AI去生成，且不進行復查，我們又怎能相信他在復雜的實驗數據上保持了嚴謹？

就像Hacker News中一位網友說的那樣，看到這些被標注錯誤的論文，會讓自己停下來思考：這篇論文的其它部分有多少是借助了AI輔助完成的。

「如果這些是僅有的錯誤，我們并不擔憂，但無法確定這些就已經是全部的錯誤。這些錯誤表明該論文在提交時未經過徹底的幻覺檢查，作者在使用AI時也缺乏應有的謹慎。」

用魔法打敗魔法

NeurIPS「翻車」不止是「氛圍引用」那么簡單，它動搖的是科研誠信的基石。

科研就像一場接力賽。以AI研究為例，它高度依賴「可復現性」和「溯源」。

就像Edward Tian所說的：「AI研究結果向來難以復現，因此引用至關重要。」

真實準確的引用，能幫助研究者判斷某個結果是否可復現，并讓他人追溯到具體、可驗證的來源進行測試。

因此，如果「氛圍引用」的現象不加以遏制，我們將面臨一種可怕的「近親繁殖」效應：

AI生成了包含幻覺的論文，這些論文被收錄進數據庫，下一代AI模型又拿這些數據進行訓練。

最終，AI開始從自己的幻覺中學習知識，導致模型的崩塌。

GPTZero的曝光旨在警示行業漏洞：舊有的「評審體系」，已難以應對投稿量激增和AI使用所帶來的問題。

如何捍衛同行評審的尊嚴？

另一大頂會ICLR（國際表征學習大會）已經覺醒并開始行動。

ICLR將于今年4月舉辦，吸取了NeurIPS的教訓后，它迅速聯手GPTZero，已啟動了嚴格的「排雷」行動。

此前，在GPTZero針對ICLR的一項投稿調研中，已經發現了50條成功躲過評審的虛假引用。

去年11月，ICLR還發布了關于大模型生成論文及評審的應對策略。

https://blog.iclr.cc/2025/11/19/iclr-2026-response-to-llm-generated-papers-and-reviews/

ICLR發出的信號非常明確：不封殺AI，但必須透明。

幻覺引用被定性為違反「道德準則」（Code of Ethics），一旦發現大量使用AI未披露或存在虛假內容，將直接拒稿/桌拒（Desk Reject）。

更狠的是，審稿人亂用AI，自己的投稿也將面臨被拒的連帶懲罰。

此外，ICLR還提到為了避免誤判，會結合工具篩選和人工復核，試圖通過「人機共治」，筑起抵御虛假內容的新防線。

在AI時代，同行評審機制正被迫進行一場自我進化。

用AI檢測AI幻覺，用魔法打敗魔法。

為了應對AI幻覺或造假帶來的學術「污染」，首先拿起AI武器的，也應當是這些AI頂會。

GPTZero背后的兩位年輕創始人

GPTZero之所以能在AI檢測領域迅速嶄露頭角，離不開它兩位年輕創始人的完美互補。

Edward Tian

Edward Tian

Edward Tian是GPTZero的CEO ，也是一位擁有華人背景的00后創業者。

就讀普林斯頓大學期間，他主修計算機科學，并輔修新聞方向；在創立GPTZero之前，他曾在Microsoft AI從事過研究工作，也做過BBC調查報道相關實踐。

這些經歷讓他更早意識到：當生成式AI大規模普及后，「內容真實性」與「學術誠信」將面臨新的挑戰。

2022年底ChatGPT上線引爆關注之后，Edward Tian在寒假期間快速做出了GPTZero的產品原型，并將困惑度（perplexity）與突發性（burstiness）等統計特征作為檢測的重要指標。

他認為人類寫作在這兩項指標上通常表現出更強的隨機性和結構波動，據此能夠推測出一段文字是人工撰寫還是AI生成的。

AlexCui

Alex Cui

Alex Cui是GPTZero的聯合創始人兼CTO。

他在多倫多大學完成計算機科學碩士學位。在加入GPTZero之前，曾在自動駕駛公司Waabi擔任研究科學家。

作為GPTZero的CTO，Alex負責推進包括為微軟和谷歌產品開發的插件，幫助用戶在任何文檔或網站上檢測AI生成的文本。

二人并非臨時組隊，而是高中時期的好友。GPTZero早期團隊組建時，Edward便邀請Alex加入并負責技術推進。

參考資料：

https://fortune.com/2026/01/21/neurips-ai-conferences-research-papers-hallucinations/