當AI生成的“完美”案例現身法院 法官：為司法實踐帶來新的挑戰

記者|潘巧

責編|張晶

正文共3450個字，預計閱讀需10分鐘▼

2025年12月，北京市通州區人民法院民事審判一庭（家事審判庭）副庭長鄭吉喆審理的一起商事糾紛案例入選人民法院案例庫。這起商事糾紛的案情并不復雜，但其中的兩個關鍵詞“人工智能”和“虛假案例”，在上述案例庫中并不多見——原告訴訟代理人律師楊某向法院提交的“參考案例”，事后被發現是由人工智能生成，未經核實便作為代理意見的一部分提交給法院。

根據鄭吉喆的介紹，涉事AI生成案例的形成時間是2024年年底，提交時間是2025年年初。這一時間節點意味著，在AI技術快速滲透各領域的早期階段，AI生成的虛假案例已經在司法審判中出現，為司法實踐帶來新的挑戰。

AI生成的“完美”案例

2024年12月30日，一起因股權代持引發的商事糾紛案件在北京市通州區法院開庭審理，原告方作為顯名股東訴求相關方承擔侵權責任。庭審中，原告委托寧夏某律師事務所律師楊某作為訴訟代理人參加訴訟。

庭審結束后，楊某向法院提交書面代理意見，其中援引了兩個分別來自最高人民法院和上海市第一中級人民法院的案例，以佐證其在本案中提出的類似訴訟請求曾得到相關法院的判例支持。

根據最高人民法院發布的《關于案例指導工作的規定》及其實施細則的規定，各級人民法院正在審理的案件，在基本案情和法律適用方面與最高人民法院發布的指導性案例相類似的，應當參照相關指導性案例的裁判要點作出裁判。參照時，應當將指導性案例作為裁判理由引述，但不作為裁判依據引用。2024年5月，最高人民法院發布的《人民法院案例庫建設運行工作規程》中，也明確要求各級人民法院審理案件時，應當檢索人民法院案例庫，嚴格依照法律和司法解釋、規范性文件，并參考入庫類似案例作出裁判。

法官鄭吉喆接受本社記者專訪。記者 莊德通/攝

鄭吉喆介紹，在審判實踐中，法院非常重視參考案例的“參照”作用。“我們對案例的作用特別重視，在審判實踐中會參照指導性案例以及人民法院案例庫的參考案例等權威案例進行裁判。此外，最高人民法院和上級法院的判決，也對法官有較強的指引作用。”鄭吉喆說。

正因如此，法院對楊某提交的參考案例非常重視。鄭吉喆告訴記者，按照審判流程，法院收到訴訟當事人提交的參考案例后，首先會進行形式上的審查，若參考案例與正在審理的案件的事實、爭議法律問題相似，會進一步核實案例的真實性。

“若參考案例真實，與正在審理的案件具有相似性、一致性，且是指導性案例或者人民法院案例庫的參考案例，可直接引述作為明示的裁判理由，對于其他參考案例，如果跟正在審理的案件足夠相似，也會在案件的審理中予以考慮。”鄭吉喆說。

法官助理在核實參考案例時發現，楊某提供的案例與正在審理的案件的事實細節、法律爭議以及裁判邏輯高度契合，看似具有較強的參考價值，但該案例所述事實情況與相應案號對應的真實案件的事實情況完全不符。

“會不會是代理律師比較粗心，把案號寫錯了，導致跟案件本身對不上？”鄭吉喆回憶，最初法官助理還與楊某電話聯系，催促、提醒楊某核實提交的參考案例案號是否有誤，楊某在電話中回復稱會再進行核實，但始終沒有更正或重新提交。

法官助理將此事向鄭吉喆匯報，鄭吉喆仔細查看楊某提交的參考案例后察覺異常，“案例的裁判要點與楊某想要達到的訴求太像了，加上案例的文本格式與AI生成文本的特點有一定相似性，我基本篤定這就是AI生成的。”鄭吉喆說。

記者在中國裁判文書網搜索印證時也發現，標注為最高人民法院的案例無法搜索到；上海市第一中級人民法院的相關案號，對應的是一起民間借貸糾紛，與本案不僅案由不同，案情也完全不同。

在鄭吉喆的詢問下，楊某承認兩個案例是他根據本案的事實提煉關鍵詞和爭議焦點后，反復向某人工智能語言模型軟件提問后獲得，并且沒有經過核實就將兩個案例寫入代理意見提交給法院。

最終，法院沒有采納楊某基于虛假案例提出的代理意見。

“應該有一個態度”

隨著人工智能技術快速發展，一個新詞也隨著AI的應用而產生——“AI幻覺”。

據了解，“AI幻覺”是指人工智能大模型“自說自話”、一本正經“胡說八道”、生成偏離事實的內容。

2025年初，某人工智能語言模型軟件掀起使用熱潮時，記者曾使用該模型軟件搜索相關案例，雖然該模型的回答中給出明確的案號及案例內容，但記者在中國裁判文書網輸入案號查詢時發現，要么搜索不到相關案例，要么案號與實際裁判案例內容完全不相同。

那么，楊某提交的由AI生成的虛假案例，是否屬于“AI幻覺”導致的過失？

鄭吉喆介紹，楊某提交的代理意見署名日期是2024年12月31日，正值AI大模型興起初期，公眾對于AI大模型尤其是“AI幻覺”問題的認識仍然處于早期階段。從案例的生成時間、生成文本的原始狀態上判斷，楊某的行為“過失大于故意”。

“現在大家知道‘AI幻覺’，AI會說‘瞎話’，但在當時不了解‘AI搜索’‘AI幻覺’的情況下，是一個情有可原的狀態。”鄭吉喆介紹，楊某更像是過于相信AI工具帶來的便利和效率，更多是一種過失心態。

本案承辦法官鄭吉喆翻閱案件材料。記者 莊德通/攝

不過，鄭吉喆也強調，楊某提交AI生成案例的行為對審判工作造成影響，不僅降低了審判效率，也嚴重干擾了審判秩序。“訴訟過程中需要遵循誠信的原則，不管是當事人還是訴訟代理人，向法院提交的任何材料要保證真實性。案例雖然不是正式的法律淵源，但對案件審理具有重要參考作用。一旦構成誤導，是一個很嚴重的問題。司法公信力也會受到影響。”鄭吉喆說。

據了解，律師提交AI生成的虛假案例在國內屬于新情況，對于利用AI生成虛假參考案例這一行為如何處理，缺乏明確的法律依據或可參考的實踐經驗。《民事訴訟法》第一百一十四條雖然對偽造、毀滅重要證據等行為有處罰規定，但鄭吉喆認為，楊某提交AI生成的虛假案例不能歸入這一范疇。

鄭吉喆解釋，案例屬于訴辯證據范疇，不屬于證據。楊某向法院提交未經核實的虛假案例的行為不構成上述條款規定的“偽造、毀滅重要證據”。

“現有民事訴訟法中，沒有對這種情形作出明確規定。但是，我們認為此事確實對我們產生切身影響，擾亂了司法秩序，所以我們覺得在這個案件中，（法院）應該有一個態度。”鄭吉喆介紹。

考慮到楊某提交AI生成且未經核實的虛假案例是過失態度，沒有造成嚴重后果，也沒有對裁判結果造成影響，楊某也坦承問題，通州區法院認為，楊某的行為屬于情節相對輕微的情形，不宜作出罰款拘留的處罰，最終決定在判決書中對其提出批評教育，希望能夠引起律師對此事的足夠警醒。

2025年4月，通州區法院對本案作出判決，并在判決書中對楊某提交虛假案例的行為進行批評教育，“原告代理人在庭后向本院提交參考案例時包含了部分人工智能語言模型生成的內容，其提交的部分參考案例與該案號下案件事實情況完全不同，本院對此提出批評，希望原告代理人引以為戒，在向法院提交參考案例、法條時，應當進行檢查和核驗，確保內容的真實性和準確性，不得放任人工智能模型生成或者編造虛假信息擾亂司法秩序。”

本案宣判后，雙方當事人均未提起上訴，判決已發生法律效力。

并非孤例的警示

實際上，由人工智能生成虛假訴訟材料的情況，已經不是孤立事件。本案發生后，多地法院也陸續公布了類似的情況——

2025年11月，湖北省孝感市大悟縣人民法院審理的一起房屋租賃合同糾紛案中，原告提交的水電表照片證據上帶有“豆包AI生成”的水印，法院對其進行法治教育和訓誡，對其提交的偽造證據不予采信。

2025年12月，浙江省臺州市中級人民法院公布的一起案例中，臺州市路橋區人民法院在審理一起房屋租賃合同糾紛案件時，發現原告利用AI技術修改聊天記錄，偽造證據，法院對原告進行批評教育，并依據民事訴訟法的相關規定，對其作出罰款的處罰。

類似情況的集中出現，暴露了AI技術應用給司法審判帶來的全新挑戰，也對司法審判工作提出更高要求。鄭吉喆介紹，此事之后，該院對訴訟當事人提交的案例和證據的審查更加審慎。

“即使當事人不是故意的，提交的案例也可能是有問題的或者不真實的。”鄭吉喆坦言，AI降低了普通人參與訴訟的門檻，降低了普通人或者其代理律師在法律工作中的難度，但對于法院來說，應該進一步提高認識和警惕性。

根據AI使用的實踐經驗以及本案的審理經驗，鄭吉喆提醒，可通過三個方面識別AI生成的虛假案例特征：AI生成案例的案號往往呈現刻意規律化的特點，多采用“12345”等連續整數或“111”等具有明顯特征的數字；案情描述過度貼合需求場景，呈現人為定制化特征；AI有時會刻意模糊案件可識別要素，比如當事人姓名等，因此最穩妥的識別方法是通過登錄中國裁判文書網對生成案例的真實性進行核實和驗證。

“目前還沒有專門的AI虛假內容檢測工具，識別難度較大，很多識別工作仍依賴法官的責任心，我們必須擦亮雙眼，避免被虛假證據、案例所蒙蔽。”鄭吉喆說。