法院：平臺需對“內容由AI生成”的判定進行適度的解釋說明

國家互聯網信息辦公室、工業和信息化部、公安部、國家廣播電視總局聯合發布的《人工智能生成合成內容標識辦法》（以下簡稱《標識辦法》）將于2025年9月1日起正式施行。

《標識辦法》規范了人工智能生成合成內容標識的使用，要求用戶發布AI生成合成內容時主動聲明并進行標識，網絡信息內容傳播服務提供者應當采取措施，規范生成合成內容傳播活動，如核驗文件元數據、添加顯著提示標識并提醒公眾，提供必要的標識功能并提醒用戶主動聲明發布內容中是否包含生成合成內容，當未核驗到隱式標識用戶亦未聲明但平臺識別為疑似生成合成內容時，應當采取適當方式在發布內容周邊添加顯著標識，提示公眾該內容疑似生成合成內容。

北京互聯網法院審結了一起網絡服務合同糾紛案，原被告雙方作為用戶和網絡服務提供者，圍繞人工智能生成內容標識起了爭端。

01? 基本案情

原告為涉案平臺用戶，被告為涉案平臺運營者。原告在平臺上發布了“打工并不能讓你真的賺到多少錢，但可以開啟你的新視角……如果你對學車感興趣的話并且以后打算開車的話，可以在你最清閑的一個假期完成它……工作之后就沒有太多完整的時間學駕照了”，該內容被涉案平臺判定為“包含AI生成內容但未標識”的違規情況，涉案平臺作出將該內容隱藏并將用戶禁言一天的處理。后原告進行申訴未成功。

原告主張，其并未使用AI創作，被告的行為違約，請求法院判令被告撤銷隱藏涉案內容和禁言賬號一天的違規處理，并在后臺系統中刪除違規處理記錄。

被告辯稱，被告有權依據雙方網絡服務合同審核認定原告使用平臺服務時的違規行為并采取必要治理措施，不構成違約。涉案平臺規范中明確規定，“創作者在發布包含人工智能生成內容時，應主動使用‘人工智能生成內容’的標簽進行聲明，未主動聲明的內容，平臺將采取適當措施進行流量限制并添加相關標識。”原告發布的內容經機器識別為“包含人工智能生成”，經過人工復核，認定該內容缺乏明顯的人類情感特征。被告作為網絡服務提供方，有權自行選擇合理、必要的方式和技術，網絡服務合同未約定被告有義務向用戶提供、解釋技術秘密和算法邏輯，原告無權獲知。被告針對人工智能治理需求開發、部署、運行自研深度合成算法模型是合理、必要的，并設置專門測試團隊通過技術手段觀察、抽檢模型運行的準確率，如發生準確率下降或異常波動，被告會及時對模型進行優化迭代。涉案內容被識別、標記期間，模型準確率沒有變化。請求法院依法駁回原告的訴訟請求。

被告提交其在互聯網信息服務算法備案系統公示的相關算法機制機理內容作為算法決策判定的證據，主張與涉案檢測內容相關聯的部分為“回答安全判別模塊”，其表述為“以自研的指令微調模型為基座。基于收集并標注的有安全風險的回答為語料訓練的能力，能攔截掉對話深度合成模型生成的大部分違規回答”。

02? 法院審理?????????????

平臺有權依據合同約定對涉案內容是否屬于AI生成合成內容進行審查和處理

網絡用戶在使用AI工具進行創作并將相關內容發布到網絡平臺時，應依照誠信原則如實標記。本案中，被告結合《互聯網信息服務深度合成管理規定》中有關深度合成標識的管理規定和網絡空間治理的現實需要，發布了社區公告載明“創作者在發布包含AIGC生成的內容時，應主動使用標識，幫助讀者進行區分。對發布時未主動聲明的內容，平臺將采取適當措施進行流通限制并添加相關標識”“未經標簽聲明，使用人工智能生成的內容構成違規”。原告系平臺注冊用戶，上述公告屬于平臺服務協議的組成部分。因此，被告有權依據合同約定對涉案內容是否屬于AI生成合成內容進行審查和處理。

平臺的審查及處理結果應有合理依據

本案中，原告主張涉案內容并非AI生成內容，被告對涉案內容的審查及處理違反平臺服務協議，在一般情況下，原告應該提供如創作底稿、原件、源文件、源數據等證明人類創作屬性的初步證據，但本案中原告回答內容系即時性創作文本，在客觀上無法提供上述證據，由其提供上述證據亦不存在合理性和現實可行性。而被告基于算法工具的運算結果得出涉案內容為AI生成合成的審查結論，被告既是算法工具掌控方又是結果判斷方，算法工具運算過程和審查結果由被告掌控，在此情況下，被告應就該事實進行合理舉證或解釋說明。

雖然被告在本案中提供了算法的備案信息，但公示內容顯示該算法功能為識別有安全風險的回答，無法認定其系對AI生成合成識別判斷的技術，故無法確認備案信息與本案爭議的關聯性，因此被告未對涉案內容屬于AI生成合成的判斷依據和結果作出合理解釋。此外，被告對人工復核程序的解釋為需要非常明顯的人類情感特征才能駁回算法決策結果，而該判斷標準更多依賴主觀認識和個人經驗，并不具有科學依據以及較強的說服力和可信度。

綜上，被告未對算法決策依據和結果進行適度的解釋和說明，應對其沒有事實依據的情況下對涉案賬戶的處理行為承擔違約責任。被告系統后臺僅存在“折疊回答”這一條處理記錄，現因該處理已在本案中被判定為不合規，被告應對該處理記錄予以刪除。對“禁言1天”的處理沒有后臺記錄，原告主張刪除沒有事實依據，法院對該訴訟請求不予支持。

判決被告展開對于涉案內容的隱藏，刪除在后臺的違規處理記錄。駁回原告的其他訴訟請求。

目前，該案判決已生效

03? 法官說法?????????????

生成式人工智能技術在內容的生成合成方面展現了巨大的能量和潛力，為數字經濟發展注入強大動力。與此同時，在AI生成合成內容未進行“AI標識”的情況下，公眾難以區分AI生成合成內容和人類創作內容，利用AI實施詐騙、侵權等違法犯罪的行為不斷攀升。AI生成合成內容標識作為對人工智能生成內容監管的有益工具和必要手段，會對凈化網絡內容環境和網絡空間治理起到一定積極作用。本案對于平臺運用算法工具進行AI生成合成內容治理引發的網絡服務合同糾紛裁判作出以下探索：

網絡內容服務平臺有權利用算法工具對用戶發布的內容是否使用AI生成合成進行審查和處理。平臺通過用戶協議、社區規范、處罰規則等明確告知用戶需要遵守AI生成合成內容標識規定，如用戶違反有關規定，平臺可對違規行為進行處理。

若網絡內容服務平臺判定用戶發布的內容為AI生成合成，用戶需要提供證明該內容系人類創作的初步證據，人民法院可結合創作形式、內容、載體等因素綜合調整用戶的舉證責任，并認定證據的證明效力。

網絡用戶提供初步證據后，網絡內容服務平臺應舉證證明其使用算法工具進行判定的正確性或進行必要限度的解釋說明，網絡內容服務平臺不得僅以涉及商業秘密為由規避該義務。

對于算法解釋的司法審查應符合比例原則。一般情況下，平臺無需提供技術細節、源代碼或原始數據，而需圍繞案件爭議事實以可理解的方式舉證或說明算法運行機制、對應可能出現的誤判是否采取了合理的救濟措施。

來源：北京互聯網法院