“國(guó)內(nèi)首起AI開(kāi)發(fā)者涉黃案”律師：爭(zhēng)議聚焦技術(shù)邊界與責(zé)任認(rèn)定

　　近日，備受關(guān)注的“國(guó)內(nèi)首起AI開(kāi)發(fā)者涉黃案”——在上海市第一中級(jí)人民法院進(jìn)行二審第一次開(kāi)庭。維度新聞采訪了被告人陳某洲及辯護(hù)律師周小羊。周小羊表示，“案發(fā)時(shí)AI處于發(fā)展早期，大模型存在固有缺陷，同期同類APP經(jīng)用戶誘導(dǎo)均可能產(chǎn)生涉黃內(nèi)容，非本案獨(dú)有，將堅(jiān)持無(wú)罪辯護(hù)。”據(jù)了解，法庭評(píng)議后認(rèn)為，本案要在證據(jù)都充分舉證質(zhì)證的基礎(chǔ)才開(kāi)始法庭辯論，所以當(dāng)天下午五點(diǎn)左右宣布休庭，擇日再開(kāi)庭。

被告人陳某洲（中間）及辯護(hù)律師和被告人家屬

　　一審判決制作淫穢物品牟利罪

　　據(jù)了解，上海永無(wú)鄉(xiāng)科技有限公司法定代表人劉某全、前研發(fā)經(jīng)理陳某洲涉嫌制作淫穢物品牟利，該案在2025年1月立案，經(jīng)五次不公開(kāi)開(kāi)庭審理，于9月30日在上海市徐匯區(qū)人民法院作出判決。

　　法院認(rèn)定，2023年5月起，劉某全與陳某洲結(jié)伙研發(fā)“Alienchat”APP，接入境外大語(yǔ)言模型后，通過(guò)編寫、修改系統(tǒng)提示詞突破模型道德限制，使軟件可輸出淫穢內(nèi)容。

　　該APP于2023年6月上架推廣，設(shè)置會(huì)員收費(fèi)機(jī)制，在不同社交平臺(tái)的官方賬號(hào)中，均對(duì)AC軟件有介紹，例如“AI是我們的朋友、戀人、家人”“AI智能女友聊天APP”。至案發(fā)共收取費(fèi)用363萬(wàn)余元，注冊(cè)用戶11.6萬(wàn)余人，付費(fèi)用戶2.4萬(wàn)余人，抽樣鑒定顯示部分聊天內(nèi)容屬于淫穢范疇。

　　一審法院以制作淫穢物品牟利罪，判處主犯劉某全有期徒刑四年，并處罰金四百萬(wàn)元；從犯陳某洲有期徒刑一年六個(gè)月，并處罰金二十萬(wàn)元，二人違法所得被追繳，犯罪工具被沒(méi)收。

　　劉某全不服一審判決，提起上訴，主張無(wú)罪，其辯護(hù)律師周小羊在接受維度新聞采訪時(shí)提到，二審仍堅(jiān)持無(wú)罪辯護(hù)。

　　技術(shù)操作的定性成為爭(zhēng)議核心

　　周小羊告訴記者，“平臺(tái)2023年6月上線，《深圳市人工智能服務(wù)管理暫行辦法》同年8月15日實(shí)施，被告人被抓時(shí)距法規(guī)實(shí)施時(shí)間短，行業(yè)對(duì)備案要求存在理解偏差，且法規(guī)落地應(yīng)有適應(yīng)過(guò)程，不應(yīng)直接作為刑事追責(zé)依據(jù)。”

　　此外，周小羊認(rèn)為，“關(guān)鍵英文提示詞并非刻意涉黃，而是向ChatGPT求助的AI調(diào)試方案，目的是解決模型誤判、宕機(jī)問(wèn)題，且正向引導(dǎo)提示詞數(shù)量遠(yuǎn)多于爭(zhēng)議內(nèi)容，且同期同類陪聊APP因模型缺陷，經(jīng)用戶‘破甲誘導(dǎo)’均可能產(chǎn)生涉黃內(nèi)容，非本案獨(dú)有。”

　　據(jù)記者了解，該案的法律適用與程序合規(guī)性也引發(fā)激烈辯論。周小羊表示，一審無(wú)技術(shù)專家參與評(píng)判，偵查機(jī)關(guān)取證專家資質(zhì)存疑，且駁回專家證人出庭申請(qǐng)，可能影響審判公正。

　　周小羊稱，他已向法院提交申請(qǐng)人工智能領(lǐng)域?qū)＜易C人出庭作證的申請(qǐng)，“法院做了積極表態(tài)，提到需要考慮專家的權(quán)威性。”此外，他還向法院申請(qǐng)做實(shí)驗(yàn)，驗(yàn)證輸入相同內(nèi)容提示詞，是否會(huì)導(dǎo)致案涉AI大模型聊黃，暫未獲得法院的回復(fù)。

　　同時(shí)，在非法所得認(rèn)定上，律師認(rèn)為363萬(wàn)元“非法所得”包含大量用戶未消費(fèi)預(yù)付款，不應(yīng)全額認(rèn)定為違法所得，且未做司法會(huì)計(jì)鑒定區(qū)分涉黃與合法收益對(duì)應(yīng)部分，實(shí)際涉黃收益或僅約24萬(wàn)元。

陳某洲接受采訪

　　被告人：聊天內(nèi)容管控存在缺失

　　被告人陳某洲在接受維度新聞采訪時(shí)表示，自己作為兼職技術(shù)人員，僅負(fù)責(zé)功能開(kāi)發(fā)，不參與運(yùn)營(yíng)決策，全程僅獲18萬(wàn)元兼職工資，無(wú)額外分成。對(duì)于涉黃問(wèn)題，陳某洲告訴記者，“APP已審核角色字段，但因認(rèn)為一對(duì)一聊天具有封閉性、需保護(hù)隱私，未審核聊天內(nèi)容，且當(dāng)時(shí)技術(shù)無(wú)法完全攔截AI不合規(guī)輸出，百川等大模型亦有類似問(wèn)題。”

　　陳某洲坦言，案件對(duì)家庭造成極大沖擊，案發(fā)時(shí)妻子懷孕，自己釋放時(shí)孩子已一歲多，他對(duì)判決不服卻無(wú)力抗拒，反思稱今后會(huì)在法規(guī)不明朗時(shí)謹(jǐn)慎對(duì)待新技術(shù)。

　　律師周小羊表示，該案作為AI時(shí)代新型涉黃案件，其判決結(jié)果或?qū)榍楦信惆轭怉I的合規(guī)運(yùn)營(yíng)劃定法律邊界。

　　維度新聞將持續(xù)關(guān)注此案。

　　李達(dá)森 記者 賈博 王林曦