紅星資本局1月13日消息,國內首起AI服務提供者因涉黃獲刑的案件迎來新進展。紅星資本局獲悉,該案二審將于明日(1月14日)在上海市第一中級人民法院開庭審理。
2025年9月,該案一審宣判,案涉App的兩名創始人被認定犯制作淫穢物品牟利罪,分別獲刑4年、1年6個月,并處罰金400萬元和20萬元。隨后兩人提起上訴。
1月13日,其中一名當事人的代理律師周小羊向紅星資本局表示,一審中當事人的訴求是無罪辯護,二審也將作無罪辯護。
與此前公開的個人利用AI工具制黃案不同,此起案件是法律首次認定提供工具的“服務提供者”為主要責任主體。
AI聊天App涉黃
創始人一審獲刑4年罰金400萬元
紅星資本局了解到,案涉App“Alien Chat”由梁某和王某(均為化名)開發運營,2023年6月上線,定位為AI伴侶聊天應用,為年輕群體提供親密陪伴和情感支持。用戶注冊會員后,可以通過軟件和大語言模型與虛擬角色進行交互聊天。
但因涉黃內容,App創始人梁某和王某站上了被告席。一審判決書顯示,該App用戶11.6萬余人,其中充值用戶2.4萬余人,產生了400萬余段交互聊天。經隨機抽樣鑒定,150名用戶中有141人聊天內容涉黃,12000多段聊天中,有3600多段涉黃。
![]()
截圖自Alien Chat小紅書賬號
根據證人證言,“案涉App聊了之后會有很多色情、淫穢、露骨描述性行為的內容”“別的軟件都有限制詞,這個不設限制詞”“大部分用戶都是沖著這點玩軟件的”。
紅星資本局注意到,案涉App提供兩檔會員服務,尊享會員收費138元/月,高級會員收費68元/月,累計收費高達363萬余元。
一審法院認定,案涉App產生了“大量具體描繪性行為或露骨宣揚色情的內容”,屬于淫穢物品。無論是從淫穢物品數量、會員人數,還是從違法所得數額來看,均遠超相關司法解釋所規定的入罪標準,具有刑事可罰性。
最終,一審法院認為,被告人梁某和王某以牟利為目的,制作淫穢物品,情節嚴重,行為構成制作淫穢物品牟利罪。梁某被判處有期徒刑4年,并處罰金400萬元;王某被判處有期徒刑1年6個月,并處罰金20萬元。
目前,該App已下架,各大應用商店均搜索不到。
二審即將開庭
當事人主張無罪
梁某的代理律師北京盈科(上海)律師事務所周小羊律師向紅星資本局表示,一審中當事人的訴求是無罪辯護,二審也將作無罪辯護。
主要理由包括:一是梁某主觀上不能認定為故意,編寫、修改系統提示詞并不是為了傳播淫穢物品,修改提示詞是希望把大模型調整得更擬人化、更靈動,滿足用戶的情感陪伴需求;二是本案中“涉黃”聊天內容是一對一的,封閉的,不具有傳播價值,也沒有被傳播出去。
一審判決書顯示,法院認同梁某和王某的行為不構成傳播淫穢物品牟利罪。其中提到:本案中的色情聊天內容是人際互動時產生的、一對一的,通常情況下僅有參與聊天的會員能看到,具有一定的封閉性。
但法院認為,構成制作淫穢物品牟利罪,主要理由是:被告二人主觀上積極追求色情淫穢聊天內容的產生,客觀上通過編寫、修改系統提示詞等方式突破大語言模型的道德限制,將“Alien Chat”軟件訓練成可持續對外輸出色情淫穢內容的工具,對外宣傳“Alien Chat”軟件具有“聊黃”功能引導用戶參與聊天,且在明確知曉會員交互聊天中產生大量淫穢內容的情況下,繼續向用戶提供“Alien Chat”軟件運營和技術支持服務,對涉案色情淫穢聊天內容的產生具有決定性作用。
一審判決后,兩人提起上訴。紅星資本局獲悉,該案二審將于明日(1月14日)在上海市第一中級人民法院開庭審理,采取不公開開庭的方式。
有業內聲音認為,此案的特殊點在于,法律首次認定提供工具的“服務提供者”是主要責任主體。
紅星資本局注意到,此前也有多起利用AI工具制黃案披露。2025年7月,人民法院報報道稱,湖北省大冶市人民法院審結了一起利用AI生成色情小說牟利案,被告人柯某使用AI文本工具生成色情小說,在境外網站售賣760余篇次,獲利2.2萬余元,最終被判處有期徒刑10個月。
紅星新聞記者 強亞銑
編輯 余冬梅
審核 官莉
特別聲明:以上內容(如有圖片或視頻亦包括在內)為自媒體平臺“網易號”用戶上傳并發布,本平臺僅提供信息存儲服務。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.