快手“午夜驚魂”，4億用戶信任一夜崩塌

來源丨億歐網(wǎng)

撰文丨杜心怡

12月22日深夜，一場猝不及防的大規(guī)模黑灰產(chǎn)攻擊，讓快手遭遇了“直播驚魂夜”。

事故迅速傳導(dǎo)至資本市場，12月23日快手股價(jià)盤中一度下探超5.7%，較前一交易日蒸發(fā)約164億港元。截至今日收盤，快手報(bào)64.35港元/股，跌幅3.52%，總市值2779億港元。

當(dāng)晚22時(shí)左右，1.7萬個(gè)僵尸賬號(hào)涌入快手直播頻道，在同一時(shí)段同步開播，多個(gè)直播間被批量注入色情影片、低俗表演等違規(guī)內(nèi)容。大量用戶在刷到不良內(nèi)容后緊急反饋，平臺(tái)直播間系統(tǒng)異常的舉報(bào)信息在短時(shí)間內(nèi)集中爆發(fā)，輿論迅速蔓延至社交平臺(tái)。

23時(shí)30分，違規(guī)內(nèi)容的傳播達(dá)到高峰，不少用戶稱，部分違規(guī)直播間的觀看人數(shù)突破萬人，越來越多用戶選擇向警方報(bào)案。至23日0時(shí)30分左右，北京市公安局海淀分局已接到多個(gè)相關(guān)群眾報(bào)案，正針對事件情況展開了解。

就在用戶投訴與報(bào)案集中爆發(fā)時(shí)，快手啟動(dòng)了緊急止損措施。23日0時(shí)前后，平臺(tái)暫時(shí)關(guān)閉直播頻道，用戶點(diǎn)擊直播板塊時(shí)頁面已顯示“沒有找到內(nèi)容”或“服務(wù)器繁忙”，短視頻瀏覽、個(gè)人中心等功能也出現(xiàn)短暫波動(dòng)。直至凌晨，快手直播頻道逐步恢復(fù)正常，這場持續(xù)數(shù)小時(shí)的攻擊暫告一段落。

針對這場引發(fā)全網(wǎng)關(guān)注的突發(fā)事件，快手方面今日通過公告回應(yīng)稱，平臺(tái)確實(shí)遭到了網(wǎng)絡(luò)攻擊，相關(guān)問題已在緊急處理修復(fù)中，平臺(tái)始終堅(jiān)決抵制各類違規(guī)內(nèi)容，目前已將情況上報(bào)相關(guān)部門，并向公安機(jī)關(guān)正式報(bào)警，后續(xù)將配合相關(guān)調(diào)查推進(jìn)處置工作。

圖片來源：企業(yè)公告

1

違規(guī)內(nèi)容屢封屢現(xiàn)

長期以來，違規(guī)內(nèi)容早已成為困擾快手的“老大難”問題。此次事件的集中爆發(fā)，不過是平臺(tái)風(fēng)控體系與應(yīng)急處置能力短板的集中暴露。

回溯近幾年的公開信息，快手因違規(guī)內(nèi)容引發(fā)的監(jiān)管處罰與輿論爭議從未間斷。

2022年，國家網(wǎng)信辦在“清朗”專項(xiàng)行動(dòng)成果通報(bào)中明確指出，快手、嗶哩嗶哩、虎牙等平臺(tái)存在傳播色情引流、低俗庸俗、暴力謾罵、誘導(dǎo)打賞等有害不良信息的問題，相關(guān)部門已依法采取約談、限期整改、責(zé)令關(guān)閉賬號(hào)、罰款等一系列處置處罰措施。

2024年，國家網(wǎng)絡(luò)安全通報(bào)中心通報(bào)稱，快手存在對法律、行政法規(guī)禁止發(fā)布或傳輸?shù)男畔⑻幹貌患皶r(shí)、青少年模式落實(shí)不到位等問題，導(dǎo)致違法信息擴(kuò)散，危害未成年人身心健康，違反了《網(wǎng)絡(luò)安全法》相關(guān)規(guī)定。公安機(jī)關(guān)隨即依法對快手作出行政處罰，責(zé)令其全面落實(shí)青少年模式，全面排查清理違法信息，并依法依規(guī)處置違法違規(guī)賬號(hào)。

面對反復(fù)出現(xiàn)的違規(guī)亂象，快手并非毫無動(dòng)作。平臺(tái)幾乎每月都會(huì)發(fā)布違規(guī)賬號(hào)查封、不良內(nèi)容清理的治理公告。但現(xiàn)實(shí)卻是，違規(guī)內(nèi)容屢封屢現(xiàn)、死灰復(fù)燃的態(tài)勢從未得到根本扭轉(zhuǎn)。這些治理公告背后，折射出的是平臺(tái)監(jiān)控機(jī)制的短板，傳統(tǒng)的關(guān)鍵詞篩查、畫面識(shí)別等技術(shù)手段，早已難以跟上黑灰產(chǎn)不斷迭代的規(guī)避技巧。部分違規(guī)內(nèi)容通過碎片化剪輯、AI換臉、異地多IP推送等隱蔽方式，輕易突破平臺(tái)第一道監(jiān)控防線，讓治理陷入治標(biāo)不治本的惡性循環(huán)，也暴露了平臺(tái)在內(nèi)容安全防護(hù)上的被動(dòng)。

另一方面，在此次大規(guī)模攻擊中，平臺(tái)應(yīng)急響應(yīng)的滯后性被暴露出來。據(jù)多位用戶反饋及第三方數(shù)據(jù)監(jiān)測顯示，攻擊爆發(fā)后，違規(guī)直播間的推流鏈路未能第一時(shí)間切斷，大量不良內(nèi)容在平臺(tái)內(nèi)持續(xù)擴(kuò)散10~20分鐘，部分違規(guī)直播間持續(xù)時(shí)間甚至更長。直到用戶舉報(bào)量增加、相關(guān)話題在社交平臺(tái)快速發(fā)酵，快手才緊急啟動(dòng)全平臺(tái)直播頻道關(guān)停措施，這相當(dāng)于給不良內(nèi)容的傳播留出了較長傳播期。

除此之外，平臺(tái)仍缺乏完善的應(yīng)急預(yù)案與風(fēng)控策略。此次黑灰產(chǎn)攻擊明顯為有組織、技術(shù)化的行為，攻擊者操控大量僵尸賬號(hào)在同一時(shí)段開播，但面對這種非常規(guī)攻擊，快手顯然缺乏成熟的應(yīng)對方案，處置初期既無快速定位批量違規(guī)賬號(hào)的技術(shù)手段，也無分級(jí)管控、精準(zhǔn)限流的應(yīng)急流程，導(dǎo)致工作人員只能封禁單個(gè)賬號(hào)，難以遏制違規(guī)內(nèi)容的大規(guī)模擴(kuò)散。

而這一切問題的根源，直指平臺(tái)對僵尸賬號(hào)與異常行為的識(shí)別能力不足。黑灰產(chǎn)用于攻擊的賬號(hào)中，不乏長期沉寂、無真實(shí)用戶行為軌跡的僵尸號(hào)，也有短時(shí)間內(nèi)集中注冊、批量登錄的異常賬號(hào)，但快手的風(fēng)控系統(tǒng)未能有效識(shí)別這類歷史行為數(shù)據(jù)看似正常的賬號(hào)。于是，平臺(tái)既未對高風(fēng)險(xiǎn)賬號(hào)采取前置性管控措施，也未對同IP下多賬號(hào)同步開播、新賬號(hào)高強(qiáng)度推流等異常行為觸發(fā)預(yù)警與攔截，最終給了黑灰產(chǎn)可乘之機(jī)。

2

超百億研發(fā)投入

但“防火墻”形同虛設(shè)？

極低的作案成本讓黑灰產(chǎn)團(tuán)伙趨之若鶩。據(jù)安全行業(yè)數(shù)據(jù)測算，通常情況下，僵尸賬號(hào)的單賬號(hào)運(yùn)營成本約為0.3~0.5元，1.7萬個(gè)賬號(hào)的總成本不足萬元，但就是這“萬元級(jí)”的投入，卻足以搭建起覆蓋全平臺(tái)的攻擊節(jié)點(diǎn)網(wǎng)絡(luò)。

今年前三季度，快手在研發(fā)方面的投入達(dá)到103.48億元，同比增長18.3%，約占總營收的10%，連續(xù)多個(gè)季度保持增長。從公開表述來看，這些研發(fā)資源重點(diǎn)投向AI、大數(shù)據(jù)分析等前沿領(lǐng)域，用于強(qiáng)化業(yè)務(wù)競爭力。但此次大規(guī)模黑灰產(chǎn)攻擊的爆發(fā)，讓外界對這筆不小的投入能否轉(zhuǎn)化為有效的安全防護(hù)能力打上了問號(hào)。

對比之下，這筆研發(fā)投入在分散至算法優(yōu)化、產(chǎn)品迭代、市場拓展等多個(gè)領(lǐng)域后，真正投向內(nèi)容安全防御的份額究竟有多少，能否支撐起抵御黑灰產(chǎn)持續(xù)沖擊的需求，已成為外界質(zhì)疑的焦點(diǎn)。黑灰產(chǎn)的技術(shù)手段借著低成本試錯(cuò)快速升級(jí)，短視頻平臺(tái)的防御投入若未能聚焦、形成規(guī)模效應(yīng)，便難以構(gòu)建起真正的“銅墻鐵壁”。

值得注意的是，短視頻平臺(tái)普遍采用“先開播后審核”的模式，在短視頻行業(yè)流量為王的時(shí)代，延遲審核能夠最大化曝光時(shí)間，提升用戶活躍度，一度被視為兼顧用戶體驗(yàn)與內(nèi)容流通效率的最優(yōu)解。但這次事件表明，這種模式在技術(shù)化攻擊面前已經(jīng)失效，面對有組織的批量違規(guī)開播，人工審核和智能預(yù)審的響應(yīng)速度完全跟不上違規(guī)內(nèi)容的擴(kuò)散速度。在流量增長與內(nèi)容安全的天平上，快手是否過于傾斜前者，將內(nèi)容流通效率置于安全底線至上，給灰黑產(chǎn)的入侵留下了缺口。

3

4億用戶，誰來守護(hù)

快手最新財(cái)報(bào)顯示，公司第三季度收入達(dá)到355.54億元，同比增長14.2%；期內(nèi)利潤為44.89億元，同比增長37.3%，交出了一份堪稱漂亮的答卷。但回到年初，快手第一季度實(shí)現(xiàn)營收326.08億元,同比增長10.9%；期內(nèi)利潤39.79億元,同比下降3.4%。增收不增利的壓力，讓快手意識(shí)到傳統(tǒng)業(yè)務(wù)增長的天花板，也加速其向新領(lǐng)域?qū)ふ业诙鲩L曲線的步伐。

在這樣的背景下，AI與電商成為快手押注的未來，而AI業(yè)務(wù)的表現(xiàn)不負(fù)眾望，在今年下半年成為拉動(dòng)公司增長的新動(dòng)力。

反映在營收結(jié)構(gòu)上，在今年第三季度，包含AI、電商業(yè)務(wù)在內(nèi)的其他服務(wù)板塊貢獻(xiàn)了58.78億元收入，占比從去年的13.4%升至16.6%。與之相對應(yīng)，作為傳統(tǒng)基本盤的線上營銷服務(wù)與直播業(yè)務(wù)，收入占比則同步出現(xiàn)回落，分別為56.5%和26.9%。

圖片來源：企業(yè)公告

當(dāng)資源與精力紛紛向新興業(yè)務(wù)傾斜、全力沖刺增長目標(biāo)時(shí)，基本盤中潛藏的隱患卻在被忽視的角落發(fā)酵。短視頻平臺(tái)的核心競爭力，既在于前沿技術(shù)帶來的增長活力，更在于內(nèi)容安全構(gòu)建起的信任基礎(chǔ)。這次風(fēng)波，正是基本盤防守薄弱的集中爆發(fā)，風(fēng)控技術(shù)跟不上黑灰產(chǎn)的迭代節(jié)奏，應(yīng)急響應(yīng)機(jī)制在飽和式攻擊面前滯后，這些問題并非一日之寒。

信任的崩塌往往只在一瞬，修復(fù)之路卻道阻且長。對于坐擁4億日活用戶的快手而言，AI業(yè)務(wù)帶來的增長紅利固然重要，但用戶對內(nèi)容安全的基本訴求同樣是支撐企業(yè)長久發(fā)展的關(guān)鍵所在。網(wǎng)絡(luò)安全的本質(zhì)是人與人的對抗，黑灰產(chǎn)用技術(shù)挑戰(zhàn)平臺(tái)時(shí)，平臺(tái)必須以“國家隊(duì)”的姿態(tài)應(yīng)戰(zhàn)。信任的重建，也許就從一次次全鏈防御中開始。

深藍(lán)財(cái)經(jīng)新媒體集群發(fā)源于深藍(lán)財(cái)經(jīng)記者社區(qū)，已有15年歷史，是國內(nèi)知名財(cái)經(jīng)新媒體，旗下賬號(hào)關(guān)注中國最具價(jià)值公司、前沿行業(yè)發(fā)展、新興區(qū)域經(jīng)濟(jì)，為投資者、上市公司高管、中產(chǎn)階級(jí)提供價(jià)值內(nèi)容，歡迎關(guān)注。