深度：Meta和TikTok的算法軍備競賽如何以用戶安全為代價

BBC最新紀錄片披露了十余名社交媒體行業吹哨人的證詞，揭示了一場以用戶注意力為戰場、以安全為代價的算法軍備競賽。

TikTok的崛起引發連鎖反應

2020年，TikTok憑借其極具成癮性的推薦算法實現爆發式增長。這套算法的核心機制是：憤怒和爭議內容帶來更高的用戶參與度。Meta被迫快速響應——在安全措施不足的情況下倉促推出Instagram Reels。

Meta前高級研究員Matt Motyl向BBC提供了數十份內部研究文檔。數據顯示Reels上的霸凌騷擾、仇恨言論和暴力煽動的發生率顯著高于Instagram其他功能。盡管如此，公司投入700人發展Reels業務，卻拒絕了安全團隊申請的2名兒童保護專員和10名選舉完整性專員。

算法的黑盒困境

TikTok前機器學習工程師Ruofan Ding描述了一個令人不安的現實：工程師們并不關注內容本身，所有內容在他們眼中只是不同的ID編號。他們依賴內容安全團隊來過濾有害帖子，就像造車時負責油門的人期待剎車團隊做好本職工作。

Ding坦言：我們對深度學習算法本身沒有控制力。當TikTok幾乎每周都在優化算法以提升參與度時，安全審查很難跟上迭代速度。

政治優先于安全

一名TikTok員工向BBC展示了內部投訴儀表板，揭示了一個更深層的問題：公司指示員工優先處理涉及政客的案例，而非大量涉及兒童有害內容的舉報。做出這些決定是為了與政治人物維持良好關系、避免監管威脅，而非出于用戶安全考慮。

行業反思

Meta回應稱故意放大有害內容以牟利的說法是錯誤的。TikTok則稱這些都是捏造的說法。但吹哨人提供的內部文檔表明：Facebook自己的研究發現，其算法為內容創作者提供的是一條以犧牲受眾福祉來最大化利潤的路徑，且當前的財務激勵機制與公司讓世界更緊密連接的使命并不一致。

當算法的目標函數是最大化參與度而非用戶福祉時，安全永遠是被犧牲的那一方。這場軍備競賽的真正輸家，是屏幕前的每一個用戶。