民盟江西省委會文化委員趙子建：AI生成圖像涉黃違法該處罰！

民盟江西省委會文化委員、民盟直屬中介組織支部副主委趙子建反映，近日，廣州一女子在地鐵上的照片被AI一鍵脫衣，“隔空猥褻”，一絲不掛的裸體照片被廣泛瘋傳，引發(fā)全民關(guān)注熱議。相繼發(fā)生的“裸體脫衣”、“明星換臉”、《熱巴之戀》、“特朗普被捕”等賺取流量事件，已突破道德操守，踐踏了法律 “紅線”。

“一鍵去衣”APP，可以使用AI算法自動“脫掉”人物身上的衣服，并快速填補出裸體。雖然該軟件已被屏蔽，但網(wǎng)絡(luò)上仍有許多替代應(yīng)用程序提供下載。正在衍生出一系列“AI犯罪”的風(fēng)險和隱患，令人恐慌，任何人都可能成為受害者，且難以維權(quán)。

ChatGPT等新技術(shù)的出現(xiàn)，是為了更好的服務(wù)社會，但隨著AI日漸發(fā)達，部分技術(shù)以創(chuàng)新和娛樂的形式走向了罪惡，猶如打開了潘多拉魔盒。利用AI技術(shù)生成虛擬真人的賬號已混入微信、抖音等社交媒體，甚至可能定制色情圖片視頻、騷擾、勒索等，已讓人真假難辨。目前，我國在人工智能方面尚缺乏更加嚴厲的監(jiān)管機制和倫理審查規(guī)則。

對此，本人建議如下：

一、建議相關(guān)部門及時完善相關(guān)法律，對利用AI技術(shù)侵犯他人肖像權(quán)、侮辱、誹謗、造謠等嚴重侵害公民合法權(quán)益的行為，要依法處罰。對在網(wǎng)絡(luò)上提供技術(shù)，傳播和售賣涉黃“換臉”或“脫衣”圖片視頻及或敲詐等違法犯罪行為，要依法亮劍，嚴厲懲罰。

二、建議國家職能部門、互聯(lián)網(wǎng)企業(yè)盡快制定開發(fā)規(guī)則，強化源頭治理，應(yīng)用商店等平臺上線要嚴格審核測試，堅決取締非法APP對審查不力、姑息縱容的網(wǎng)站平臺要連帶從重處罰。

三、建議職能部門對于違背公序良俗的黑灰色AI軟件，要持續(xù)強化監(jiān)管，激活《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》等現(xiàn)有法規(guī)。將該工作補充納入到 “清朗·從嚴整治”專項行動，強化對侵權(quán)圖片、視頻及賬號、平臺的審核，堅決打擊，從嚴處置，防范于未然，維護網(wǎng)上信息內(nèi)容傳播良好秩序，營造風(fēng)清氣正的社會環(huán)境。