內容安全的防線一旦失守,再龐大的互聯網平臺也會頃刻間地動山搖。
日前,北京市互聯網信息辦公室對快手開出1.191億元的罰單,創下同類平臺內容安全問題的最高罰款紀錄。
![]()
圖源:網信北京公眾號
快手之所以被罰,起因是2025年12月22日晚上發生的一場嚴重直播事故。
當時,快手平臺在短時間內被上萬個僵尸賬號同步發起的自動化攻擊攻陷,大量不良內容肆意傳播,部分直播間觀眾人數甚至逼近10萬。
據了解,當天晚上,黑灰產組織發起了一場精準的、有預謀的黑客攻擊行動,他們特意選擇了平臺流量最大、審核人員換班的時間點,利用直播功能的一個技術漏洞,讓大批虛假賬號在同一時間開播。
![]()
圖源:微博
快手的自動審核系統未能有效識別這些攻擊,黑手們用技術手段偽裝了內容,繞過了平臺的識別機制。
而人工審核團隊更是忙不過來,這邊剛封掉一個違規賬號,那邊又冒出來好幾個新的賬號。審核的速度完全趕不上賬號產生的速度。
攻擊開始后,平臺花了將近兩個小時才基本控制住局面。
在這段時間里,應急處理機制幾乎失效,用戶的舉報功能一度無法使用。
![]()
![]()
圖源:微博
最后,快手不得不采取“一刀切”的辦法,臨時關閉了部分直播功能,才勉強阻止了事態進一步惡化。
![]()
![]()
圖源:快手
不得不提的是,據每日經濟新聞透露,有業內人士估算,發動這次攻擊的成本可能在百萬元以上,而快手2025年第三季度在技術研發上投入了約37億元。
![]()
圖源:每日經濟新聞公眾號
如此大的技術投入,卻在關鍵時刻沒能防住一次低成本攻擊,這在一定程度上也暴露了平臺在安全防護上的短板。
雖然系統能識別出不同的違規內容,但對不良信息攻擊仍缺乏有效的應對能力。
按照公開信息,本次快手被罰金額高達1.191 億元,創下互聯網平臺內容安全處罰新高。
監管部門對其多項違法違規行為進行從重處置,釋放出一個重要的信號:針對用戶體量龐大、社會影響力突出的頭部網絡平臺,網絡內容監管力度正持續收緊、日趨嚴格。
根據有關部門的說明,快手主要存在三方面問題。
第一,沒有盡到網絡安全保護的責任;第二,沒有及時處理已經發現的技術漏洞;第三,沒有對用戶發布的違規內容立即采取刪除等措施。
監管部門特別指出,快手被黑客攻擊事件情節嚴重,影響惡劣,即便平臺是被別人惡意攻擊的,也需要承擔自己的責任,不能逃避。
有法律專家指出,直播是主播和平臺共同呈現的,平臺不僅提供技術支持,更要對內容審核和安全保障負責。
這意味著,平臺不能簡單用“自己被黑了”作為借口,而必須建立起足夠堅固的防護體系。
監管環境的變化不僅體現在罰款金額上,更體現在各項制度的完善上。
2026年2月1日開始實施的《直播電商監督管理辦法》,標志著直播行業進入了更規范、更細致的管理新階段。
![]()
圖源:國家市場監督管理總局官網
新規要求平臺建立起從主播審核、內容監控到違規處理的全流程管理體系。平臺不能再把合規當作臨時任務來應付檢查,而必須把它變成企業日常運營的基礎部分。
快手這次事件反映出的內容安全問題,其實是整個互聯網行業都需要面對的挑戰。
當前,網絡安全環境已經發生巨大的變化,高級威脅的隱蔽性與攻擊的自動化特征,讓傳統人工防御難以為繼。
換句話說,攻擊者成本低、手段多,而防守方則需要投入大量資源來建立防護體系。面對自動化、規模化的攻擊,光靠人工審核并不夠用。
在李響看來,要想應對自動化的攻擊,最好的辦法就是用智能化系統來防御,用先進的技術來對抗技術攻擊。
這種情況下,平臺需要建立一套完整的防護體系,包括事前預警、事中處理和事后總結。
具體來說,平臺需要從幾個方面加強內容安全建設。
一方面,技術上要升級智能審核系統,建立實時風險監測機制,對可疑的批量注冊行為提高警惕,還要有更快速、更精準的直播中斷能力;
另一方面,管理上要加強主播資質審核,完善內容審核制度,提前過濾高風險內容。
還有,應急處理上要建立分級響應機制,確保出現問題能快速啟動預案,把影響降到最低。
監管部門曾多次強調,會持續加強對網絡平臺的監管,通過定期檢查、專項治理等方式,督促平臺切實負起責任。
對平臺而言,內容安全不再是“選擇題”,而是“必答題”,他們必須在商業發展和社會責任之間找到平衡點。
回顧快手這幾年的發展,有一個現象值得注意。
長江商報透露數據顯示,2024年,快手研發投入為121.99億元,已連續三年下降。
![]()
圖源:長江商報公眾號
財報數據顯示,2025年前三季度,快手的研發投入分別為33億元、34億元、37億元,占營收比例約為10.1%、9.7%、10.3%,沒有明顯上升趨勢。
當平臺把資源分散到多個新業務領域時,安全這條“看不見的防線”極有可能被忽視。
而這次事件就像一次警醒,提醒快手和其它互聯網企業,沒有安全保障的發展,就像在沙地上蓋高樓,遲早會出問題。
快手在道歉聲明中表示,對監管部門的處罰“誠懇接受,堅決整改”,承認因為公司技術管理上的問題,應急處理不夠及時,導致平臺出現大量不良內容,造成了惡劣的影響。
![]()
圖源:快手
聲明中還強調,此次教訓非常深刻,快手會引以為戒,時刻保持警惕。
道歉和罰款只是開始,真正的考驗在于快手后續能否從根本上加強安全體系建設,把“安全第一”真正落實到日常運營中。
展望未來,互聯網平臺的競爭方式正在發生深刻變化,競爭不再只是看成交額的數字,而是要看合規能力、內容質量和社會責任的綜合表現。
此時,用戶和監管部門都用更高的標準來要求平臺,平臺也必須在商業價值和社會責任之間找到平衡,做到真正重視內容安全,才能走得長遠,實現健康發展。
快手這張1.191億的罰單,或許標志著中國互聯網行業正在從“快速增長期”進入“規范發展期”。
在這一時期,內容平臺需要共同構建更為健康的網絡空間,擔當起保護網絡環境清朗的基本責任,從根源上杜絕有害內容的傳播。
客觀來講,安全防線的建立,是一個需要多方協作的系統工程。
它不僅僅是技術部門深化內容過濾那么簡單,而是需要通過貫穿平臺運營的每一個環節,把不良內容遏殺在搖籃中。
或許,從產品設計功能時,平臺就要考慮安全風險,堵住程序漏洞,讓審核團隊制定細致的內容標準,客服部門建立有效的用戶反饋通道等等。
只有把這些環節都扎實地做好,形成一套能夠協同運作的機制,安全防線才能真正發揮作用。
當然,內容安全這件事不是一勞永逸的,由于網絡環境在變,攻擊手段在更新,平臺也必須持續投入、不斷調整,對內容審查和攔截機制進行更全面的升級。
![]()
快手過往的內容審查和攔截機制 圖源:快手財報
畢竟用戶覺得安全,才會繼續使用;信任建立了,平臺才有長期發展的可能。
整個行業也是如此,當各大平臺都越來越重視內容安全時,互聯網行業的發展才能更健康、更持久。
接下來,無論是快手還是其他平臺,技術再進步、業務再擴展,安全和責任始終是需要面對的核心問題。
在未來的競爭中,也許只有將內容安全放在第一位,把內容監督做得足夠扎實的平臺,才能立于不敗之地。
作者 | 李響
特別聲明:以上內容(如有圖片或視頻亦包括在內)為自媒體平臺“網易號”用戶上傳并發布,本平臺僅提供信息存儲服務。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.