近年來,數字經濟高速發展,網絡交易、直播電商等新業態蓬勃興起,AI生成內容、數字人主播等新技術廣泛應用,與此同時,“僅退款”被惡意濫用、大數據殺熟、AI虛假內容泛濫等問題日益凸顯,給行業監管帶來新挑戰。
日前,為規范網絡交易秩序、保障消費者與經營者合法權益、促進數字經濟健康可持續發展,多部門聯合發布《網絡交易平臺規則監督管理辦法》與《直播電商監督管理辦法》。
![]()
新規不僅將AI生成內容、數字人主播等新興領域納入監管范疇,還對“僅退款”“大數據殺熟”等熱點行為作出精細化規范,實現監管范圍與行業發展的同步延伸。
為深入解讀新規核心要義、釋放信號及實踐挑戰,近日,互聯網分析師丁道師做客北京新聞廣播,與主持人展開對話,從新規亮點、風險應對、權益平衡等多個維度,分享了觀點和見解。
以下是節目實錄,今天分享給大家,供參考。
1、主持人:新規把AI生成內容納入了監管范圍,還對僅退款、大數據殺熟這些行為進行了細化規范,您認為這些新增加的內容釋放了哪些關鍵的信號呢?
丁道師:首先,監管非常及時。以往我們常說科技互聯網發展日新月異,監管存在滯后性,但從當前情況來看,AI主播、大數據殺熟、僅退款等領域,監管均能匹配行業發展節奏,意味著監管領域已全面延伸至數字經濟各新業態,我國依法治網體系得到進一步完善與夯實。
此次新規的亮點在于,不少人認為數字人主播、AI生成內容屬于新技術產物,監管可暫作擱置,但此次將其納入監管范疇,明確無論技術如何發展,只要涉及網絡交易、直播帶貨,關乎消費者權益,就必須在合規框架內運行,新技術并非法外之地。
此外,規則治理此前多為籠統的框架性要求,如今已進一步精細化落地。例如僅退款、大數據殺熟,以往多是籠統的禁止性條款,實操中部分平臺要么一刀切強制商家退款,要么對殺熟算法視而不見,此次新規明確了具體適用邊界,劃定了行為紅線,行業不能再依賴慣性經營。
值得關注的是,新規不再偏袒某一方,此前相關規則更多側重保護消費者權益,此次則真正兼顧消費者與商家兩端。商家與消費者都是行業生態的重要參與者,若僅保護消費者而忽視商家,容易導致職業薅羊毛群體泛濫,損害中小商家利益,不利于行業長遠發展。
2、主持人:那您覺得,它們主要針對當前網絡交易生態中哪些新風險和新痛點呢?
丁道師:新規針對的新風險與痛點,正是我們剛剛談及的內容。尤其是去年至今,以人工智能為代表的新技術、新業態及衍生產業,如數字人主播、AI算法等前沿應用場景帶來的各類問題,新規均針對性出臺條款,填補了此前的監管空白。
過去兩年人工智能高速發展,AI虛假內容泛濫、內容搬運抄襲等問題隨之而來,這些領域此前缺乏有效監管,此次不僅被納入監管范圍,相關規定也更為明確。
正如之前所說,新規還強化了各方權益保障,凸顯公平性,這亦是核心亮點。總體而言,新規最大的看點在于與時俱進,這也是我國近年來出臺新經濟相關法規時,呈現出的鮮明變化與積極升級態勢。
3、主持人:我們看到新規強調既要保障消費者的權益,也要保障平臺內經營者的權益,剛才你也提到了照顧得很全面,那在您看來,在網絡交易和直播電商發展的過程中,如何在保護消費者和為中小商家營造公平經營環境之間把握平衡呢?
丁道師:商家的權益此前處于被弱化的狀態,以僅退款為例,這是過去幾年電子商務行業的熱門詞匯,其早期應用場景是:商家售賣香蕉、蘋果等生鮮產品,商品送達消費者手中時,因運輸或擠壓等原因出現腐爛,商家會主動提出“無需退回商品,直接辦理僅退款”——此時商家已承擔運費與產品成本,若要求消費者退回商品,還需額外承擔返程成本,且腐爛商品退回后需投入人力物力處理,會進一步增加商家負擔,因此僅退款在該場景下是較為合理的設計。
但這一規則出發點雖好,近年來卻出現明顯漏洞,部分職業羊毛黨利用規則漏洞,明明商品完好無損,卻謊稱存在質量問題,例如購買襪子后自行扯爛,再要求僅退款,最終實現零成本獲取商品。此類行為愈演愈烈,大量合規商品被惡意薅羊毛,部分消費者從中獲利,商家卻承受巨大損失,不少商家因這一規則難以持續經營。
因此此次新規倡導雙方地位平等,不能簡單判定能否退款,而需根據商品實際情況實事求是判定。例如腐爛的香蕉自然可以僅退款,但電器、衣物等高價商品,不能隨意適用僅退款規則,不能放任商家利益受損。同時,明確規則標準后,也能有效遏制職業羊毛黨行為,對雙方權益保障均為利好。
需要特別強調的是,新規還引導建立雙向評價體系,這一舉措至關重要。電商生態中,消費者與商家都是參與者,不能僅考核商家的信用等級,也需為消費者建立信用檔案。若某一消費者頻繁購買商品后申請僅退款,或吊牌未摘、試用后便退貨,此類行為應受到相應限制甚至拉黑,唯有如此,才能構建真正公平、健康的行業生態。
此外,新規還引導平臺規則更加透明化,要求平臺制定規則時不能閉門造車,需公開征求商家、業界、消費者等多方意見,重大規則調整更應遵循這一原則,杜絕區別對待。未來平臺的處罰行為需有明確依據,若商家對處罰結果有異議,平臺應設立高效的申訴渠道,切實保護商家權益。因為保護商家本質上是保護整個行業生態的健康,長遠來看,對消費者與平臺均是利好。
4、主持人:新規也是對這一方面提出了一個方向性的要求。那出臺之后,您認為監管部門還有平臺,在技術識別、內容審核、責任界定等方面將面臨哪些主要的挑戰呢?
丁道師:數字人主播引發的相關問題,是全球性的治理難題,不僅我國,國外同樣存在數字人主播,也面臨類似挑戰。最典型的問題是,數字人主播若出現言論失誤,或帶貨過程中涉及假貨,相關責任應由誰承擔?數字人本身不具備法律主體資格,責任究竟歸屬使用數字人的公司,還是研發數字人的企業?這一問題此前缺乏明確界定,目前全球范圍內也未形成統一共識,因此這一前沿且現實的議題亟需深入探討。
在技術識別層面,當前技術發展迅猛,數字人主播的表情、語言擬人化程度不斷提升,與真實主播的差距逐漸縮小,傳統內容識別技術已難以滿足監管需求。目前我國明確要求使用者在使用數字人或AI參與的畫面、節目時,必須進行明確標注,當前無論是視頻拍攝還是微信公眾號發文,均已設置相關標注選項,這一要求具有強制性。通過平臺篩查與用戶自主標注相結合的方式,能夠較好地識別AI數字人及相關生成內容,進而開展針對性管理。
在內容審核層面,AI生成內容體量龐大,數字人主播理論上可實現24小時不間斷直播,單純依靠傳統人工審核難以實現全面覆蓋。盡管當前AI已參與審核工作,但仍可能存在誤判問題,例如將正常營銷話術判定為虛假宣傳,或遺漏違規內容。更關鍵的是,針對AI內容的違規判定標準尚未形成統一體系,不同平臺、不同監管人員的審核尺度存在差異,容易引發爭議。
最為棘手的仍是責任界定問題,前文提及的數字人主播相關責任歸屬,僅是其中一個簡單場景,其背后涉及平臺、機構、技術服務商、使用者等多個主體,一旦出現問題,如何追責、定責容易陷入混亂。
這一問題在國內尚且復雜,若涉及跨國合作,國與國之間不同部門、機構的協作難度更大,極易出現執法盲區。此外,全球各國關于人工智能的法律法規基礎存在顯著差異,某一產品或服務在甲國合法,在乙國可能構成違法,法律適用問題同樣亟待解決。因此,構建完善的治理體系,仍面臨諸多挑戰。
5、主持人:那您覺得就是面對這些挑戰,我們應該如何建立與這個實踐相適應的一些治理框架呢?
丁道師:這一問題其實已被多次探討,建立與實踐相適應的治理框架,不能依賴單一主體或單一體系,而需多方協同發力,通過技術升級與制度完善實現協同共治。
首先,技術層面必須緊跟行業發展,需搭建平臺級乃至產業級的AI內容識別平臺,整合算法監測、溯源追蹤等技術,實現對數字人主播及各類AI生成內容的實時監測。同時,要求平臺在部署相關技術工具時,必須對AI生成內容進行標注,明確各方責任邊界,核心原則為“誰運營、誰負責”。數字人主播的運營方,無論是背后機構還是具體使用者,需對內容真實性承擔首要責任;平臺需承擔審核資質審核、日常監督責任;技術服務商則需從底層技術層面提供溯源支持。明確各主體、各環節的責任,能夠大幅減少責任推諉現象。
審核機制需要進一步優化,可構建“AI初審+人工復核”的分層審核模式。當前抖音、今日頭條等平臺已采用類似的“人工智能+人工”結合審核機制,先通過AI技術對海量內容進行初步篩選,篩選出疑似違規內容后,再移交人工復核。這種人機協同的審核方式,能夠有效提升審核效率,保障內容真實性,確保審核過程可追溯。
最后,需推進全球治理與國際合作。人工智能治理并非單一國家的事務,而是全球性議題,監管部門可聯合行業協會,在各國之間建立統一協同機制。例如由主要大國牽頭提出人工智能治理頂層倡議,在倡議框架下,各國尋求最大共識,形成一套各方普遍遵守的規則體系。
唯有如此,才能實現人工智能發展與監管的協調統一,更好地解決全球性治理問題。
特別聲明:以上內容(如有圖片或視頻亦包括在內)為自媒體平臺“網易號”用戶上傳并發布,本平臺僅提供信息存儲服務。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.