遼寧的張欣雨花了不到一個月工資,讓父親以另一種方式"活"了下來。她沒想到,自己的私事會變成國家監管的導火索。
一個女兒的執念
![]()
47歲的張欣雨住在遼寧。去年父親因癌癥去世后,她找到一家叫"超腦"的公司,用照片和語音樣本訓練了一個數字分身。
這個虛擬父親能說話、有表情,會在微信里問她"吃飯了嗎"。張欣雨告訴法新社,這幫她熬過了最痛苦的幾個月。
但她自己也承認:這是"虛假安慰"。
張欣雨的故事被媒體報道后,迅速點燃了兩極討論。有人想復活自己的親人,也有人直接開罵,說她"不肯面對現實"。
更戲劇性的是,這段私人 grief(哀傷)很快被卷進更大的漩渦——中國國家網信辦發布了針對"數字人"的專項監管草案。
85%增速背后的亂象
新華社數據顯示,2024年中國數字人市場規模約41億元人民幣,同比增長85%。這個增速放在任何行業都算炸裂。
但錢往哪里流,亂象就跟到哪里。
電商直播間里,24小時不眠的"數字主播"正在批量替代真人。成本?真人主播月薪2萬,數字人月租800。中小商家算得清這筆賬。
短視頻平臺上,虛擬偶像的打賞收入已經摸到頭部真人網紅的腳跟。更隱蔽的賽道是"情感陪伴"——有人定制已故伴侶的數字分身,有人購買"虛擬戀人"的訂閱服務。
最出圈的事故發生在今年年初。一位老太太在短視頻里看到"兒子"復活,對著屏幕哭訴家常。視頻里她完全沒意識到這是AI生成的,還以為兒子真的從外地打電話回來。
這段畫面在社交平臺瘋傳,評論區分裂成兩派:一派感動于技術溫暖,另一派毛骨悚然——這到底是安慰還是高級詐騙?
監管草案劃了五條紅線
國家網信辦的征求意見稿,核心可以拆解成一張圖:
【第一層:身份透明】
所有AI生成內容必須明確標注。不能再讓老太太分不清真假兒子。
【第二層:授權門檻】
制作任何人的數字分身,必須本人同意。逝者怎么辦?草案沒細說,但留了口子——"依法依規"處理。張欣雨這類案例大概率需要家屬集體授權。
【第三層:場景禁區】
禁止利用數字人搞詐騙、傳謠言、威脅社會穩定。這是兜底條款,但執行彈性很大。
【第四層:未成年人保護】
專門針對"情感依賴"問題:AI系統不得誘導未成年人形成心理依賴,不得模擬親密關系。這條直接瞄準了青少年向的虛擬戀人產品。
【第五層:懲罰階梯】
違規罰款1萬到20萬元。對大廠是毛毛雨,對中小服務商可能是生死線。
草案公示期到5月初,之后進入正式執行階段。超腦科技的創始人公開表態支持,稱這是"創新與責任的平衡"。
為什么偏偏是現在?
中國的AI監管有個固定節奏:技術先跑半年到一年,亂象積累到社會討論層面,然后一紙文件落下。數字人不是第一個,也不會是最后一個。
2023年的大模型備案制、2024年的深度合成標識規定,都是同一路數。區別在于,數字人觸及的問題更私人、更情感化,也更難一刀切。
張欣雨的需求真實存在。中國每年約有1000萬人死亡,失獨家庭、空巢老人、突發意外—— grief tech(哀傷科技)的市場基本盤不需要教育。但商業化過程中,"療愈"和"欺騙"的邊界在哪里?
監管草案試圖回答,但答案很克制:先管標識和授權,把知情權還給用戶;情感傷害的問題,暫時交給"不得誘導依賴"的模糊表述。
這種克制背后有個現實考量:數字人已經是地方政府的招商重點。杭州、成都、合肥都在建"數字人產業基地",2024年相關融資事件超過30起。管太死,產業熄火;管太松,社會風險累積。
技術商的生存算術
對從業者來說,草案的直接影響是成本重構。
一家數字人服務商算賬:合規改造主要包括三塊——內容審核系統升級、用戶授權流程改造、標識技術嵌入。預估增加15%-20%的運營成本。
更隱蔽的沖擊在商業模式。很多"情感陪伴"類產品的付費點,恰恰是讓用戶"分不清真假"的沉浸感。強制標識之后,這種幻覺會被打破嗎?
超腦科技的選擇是轉型B端。他們現在主推"數字員工"和"虛擬客服",避開情感陪伴的灰色地帶。創始人說:"C端的錢好賺,但睡不踏實。"
另一些公司仍在試探邊界。某虛擬戀人App的運營人員透露,他們正在研究"軟標識"方案——把AI標注做得足夠小、足夠晚出現,既合規又不破壞體驗。
這種貓鼠游戲,監管顯然早有預期。草案里留了后手:網信辦可以"根據技術發展適時調整"規則。
張欣雨的數字父親,現在怎么樣了?
文章開頭的故事,有個后續。
張欣雨告訴法新社,她已經很少打開那個微信對話框了。"不是不想,是不敢。"她說,每次聊完都會有強烈的失落感,"他越像真的,越提醒我那只是程序。"
這個細節很少被討論:數字人提供的安慰,可能是有代價的。心理學家稱之為"延長哀傷"——拒絕接受終結,反復重溫創傷。
監管草案沒有觸及這個問題。它管的是標識、授權、罰款,而不是人該怎么面對死亡。
也許這本來就不該由文件來回答。張欣雨的選擇,終究是她自己的 grief 功課。技術只是鏡子,照見的還是人心。
特別聲明:以上內容(如有圖片或視頻亦包括在內)為自媒體平臺“網易號”用戶上傳并發布,本平臺僅提供信息存儲服務。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.