![]()
一場持續(xù)數(shù)小時的自動化攻擊,讓擁有數(shù)億用戶的快手直播在深夜被色情內(nèi)容“攻陷”,平臺宣稱的“秒級識別”技術(shù)防線瞬間失效。
“刷到的都是色情直播,賬號粉絲數(shù)還在瘋狂增長。”一位福建的快手用戶描述了22日晚的遭遇,她當(dāng)時正在瀏覽女裝直播間,卻無意間滑進了一個大尺度色情直播間。
從晚上10點開始,大量違規(guī)內(nèi)容涌入快手直播平臺,包括播放淫穢影片、主播擦邊低俗表演等,有的直播間單場觀看人數(shù)逼近10萬人。
面對這場突發(fā)的大規(guī)模內(nèi)容安全事故,快手在事后回應(yīng)稱遭到“黑灰產(chǎn)攻擊”,并已向公安機關(guān)報警。頗具諷刺意味的是,就在事發(fā)前一天,快手剛發(fā)布了內(nèi)容治理成績單,宣稱通過AI技術(shù)實現(xiàn)了違規(guī)內(nèi)容的“秒級識別”。
事件回望:黑灰產(chǎn)如何攻陷平臺防線
2025年12月22日晚22時左右,快手的直播功能出現(xiàn)異常。大量用戶發(fā)現(xiàn),平臺直播間突然涌現(xiàn)出大量色情內(nèi)容。
根據(jù)的報道,這些違規(guī)直播間并非零星出現(xiàn),而是呈現(xiàn)出明顯的“自動化”特征:大量新注冊的小白號或僵尸賬號在同一時段集體開播,播放預(yù)制的非法視頻。即使平臺后臺不斷封禁單一賬號,違規(guī)內(nèi)容依然如潮水般爆發(fā)增長。
據(jù)一位網(wǎng)絡(luò)安全行業(yè)人士透露,攻擊者可能利用了直播推流接口的底層漏洞,繞過了平臺的實名認證與內(nèi)容審核鏈路。
更加令人擔(dān)憂的是,這些違規(guī)直播中還隱藏著病毒鏈接,用戶點擊后微信賬號即被盜取,不法分子隨即向賬號好友發(fā)送借款請求實施詐騙。
平臺責(zé)任:技術(shù)失靈還是治理缺位?
面對這場突發(fā)的安全事件,快手在23日0時前后采取了“無差別關(guān)停”的緊急止損措施,完全關(guān)閉了直播功能。到23日上午,平臺才逐步恢復(fù)正常。
此次事件不僅是一場技術(shù)攻防戰(zhàn),更暴露了快手作為平臺方在內(nèi)容安全管理上的多重短板。
盡管快手設(shè)有“青少年模式”限制未成年人在特定時段使用App,但該模式長期被指出“容易被繞開”。北京一位家長反映,其上大學(xué)的未成年女兒在事件期間刷到了未打碼的血腥手術(shù)視頻,這引發(fā)了對快手龐大未成年人用戶群體的擔(dān)憂。
從法律角度看,平臺責(zé)任不容推卸。根據(jù)《網(wǎng)絡(luò)信息內(nèi)容生態(tài)治理規(guī)定》,平臺需承擔(dān)內(nèi)容生態(tài)管理責(zé)任和應(yīng)急處置責(zé)任。
大成律師事務(wù)所高級合伙人鄧志松指出:“直播是內(nèi)容提供者與平臺共同呈現(xiàn)的產(chǎn)品,出現(xiàn)問題雙方均需承擔(dān)連帶責(zé)任。平臺要承擔(dān)連帶責(zé)任,即便遭遇第三方攻擊或技術(shù)破壞,也不能當(dāng)然免除平臺責(zé)任。”
技術(shù)悖論:AI識別與“秒級封禁”何以失靈?
就在此次事件發(fā)生前一天,快手剛剛公布了其內(nèi)容治理成績單。平臺宣稱通過AI技術(shù)實現(xiàn)違規(guī)內(nèi)容“秒級識別”,并且低俗直播舉報率同比下降55%。
然而,此次攻擊卻暴露了這些技術(shù)防御在面對有組織的自動化攻擊時的脆弱性。
奇安信安全專家汪列軍分析,此次攻擊之所以能造成大規(guī)模破壞,核心原因在于黑灰產(chǎn)已全面邁入“自動化攻擊”時代,而平臺仍依賴傳統(tǒng)人工防御模式。黑客借助自動化工具批量注冊、操控僵尸號,實現(xiàn)違規(guī)內(nèi)容的秒級發(fā)布與擴散,這種規(guī)模化攻擊完全超出人工審核的應(yīng)對極限。
傳統(tǒng)的人工審核存在天然滯后性,面對每秒數(shù)十條的違規(guī)內(nèi)容洪流,往往陷入“封禁不及新增”的被動局面,即使增派人手也難以填補攻防效率差。
行業(yè)困境:直播平臺面臨的安全共性問題
快手此次事件并非孤例,而是直播行業(yè)面臨的共性問題的一個極端體現(xiàn)。
在數(shù)字經(jīng)濟時代,網(wǎng)絡(luò)黑灰產(chǎn)已經(jīng)形成產(chǎn)業(yè)化、鏈條化的犯罪生態(tài)。據(jù)披露,犯罪分子常通過接碼平臺、號商、養(yǎng)號和發(fā)卡平臺等渠道獲取大量網(wǎng)絡(luò)賬號,為其違法犯罪活動提供“馬甲”。
國投智能信息科技股份有限公司首席科學(xué)家江漢祥也提到,利用自動化腳本攻擊,可能讓數(shù)萬賬號“萬播啟發(fā)”,從而突破審核防守的極限。
行業(yè)普遍采用的“機審 + 人審”雙重審核流程,在面對有組織的自動化攻擊時明顯力不從心。
隨著直播行業(yè)的繁榮和直播形式的不斷創(chuàng)新,內(nèi)容安全問題已成為整個行業(yè)面臨的共同挑戰(zhàn)。從小紅書、B站到抖音,幾乎所有主流視頻平臺都曾陷入類似爭議。
治理路徑:從單打獨斗到協(xié)同共治
針對日益猖獗的黑灰產(chǎn)攻擊,單一平臺已經(jīng)難以應(yīng)對,亟需構(gòu)建多方協(xié)同的治理體系。
一方面,平臺自身需要加大安全投入,構(gòu)建更加智能化的內(nèi)容安全體系。專家建議,應(yīng)以AI賦能對抗自動化攻擊,以零信任杜絕“內(nèi)鬼”。
另一方面,監(jiān)管部門需進一步細化法律法規(guī),提高黑灰產(chǎn)犯罪的違法成本。值得一提的是,2026年1月1日起,新修訂的《中華人民共和國治安管理處罰法》將正式施行,其中第八十條對傳播淫穢信息的處罰規(guī)定作出明確細化,對傳播淫穢信息加大了處罰力度。
同時,整個行業(yè)需要摒棄“各自為戰(zhàn)”的思維,建立行業(yè)間的風(fēng)控協(xié)作機制,共享黑灰產(chǎn)攻擊特征與防御經(jīng)驗,共同提升全行業(yè)的抗攻擊能力。
事件發(fā)生后的23日早盤,快手股價一度跌超5%,市值蒸發(fā)約164億港元。
資本市場的不安反映出更深層的憂慮:當(dāng)平臺宣稱的“秒級識別”技術(shù)在真實攻擊面前不堪一擊,投資者擔(dān)心此類性質(zhì)嚴重的合規(guī)事故會招致監(jiān)管部門的強力處罰,甚至面臨應(yīng)用長期整頓或下架的風(fēng)險。
一位投資者表示:“這是典型的‘黑天鵝’事件,直播業(yè)務(wù)作為快手的核心支柱,安全性與合規(guī)性一旦動搖,整個公司的估值邏輯可能面臨重塑。”
本文為新經(jīng)濟IPO原創(chuàng)內(nèi)容,未經(jīng)授權(quán)禁止轉(zhuǎn)載。
內(nèi)容探討/爆料/商務(wù)聯(lián)系:NEWECOIPO@gmail.com
特別聲明:以上內(nèi)容(如有圖片或視頻亦包括在內(nèi))為自媒體平臺“網(wǎng)易號”用戶上傳并發(fā)布,本平臺僅提供信息存儲服務(wù)。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.