Roblox推出實時AI聊天“凈化改寫”功能 自動替換違規詞以維持交流連貫性

在線游戲平臺 Roblox 日前宣布，上線一項基于人工智能的實時聊天改寫功能，在玩家發送含有違規內容的消息時，系統不再簡單用“#”號屏蔽，而是自動將相關表述改寫為更為禮貌、符合平臺規范的語言，同時盡量貼近用戶原本的表達意圖。 Roblox 表示，過去大段“####”不僅打斷對話節奏，也讓玩家難以理解上下文，因此希望通過這一方式，在維持社區文明標準的前提下減少聊天過程中的摩擦。

在新機制下，當用戶輸入包含敏感詞的內容時，聊天窗口將直接顯示經改寫后的文本，并向所有參與對話的用戶提示該消息已被重寫，以幫助保持交流氛圍的友好與清晰。 報道舉例稱，原本會被全部屏蔽成“####”的句子“Hurry TF up!”如今會變為“Hurry up!”等更為中性的表達。 Roblox 用戶與發現產品副總裁 Rajiv Bhatia 在新聞稿中表示，聊天是玩家在平臺上實現社交、協作與游玩體驗的核心，實時改寫有助于在不打亂游戲節奏的情況下，引導用戶使用更恰當的用語。

Bhatia 強調，該功能一方面通過“潤色而非消音”的方式減少聊天中的阻礙，另一方面仍然維持平臺原有的安全標準，對更嚴重的違規行為依舊會啟用嚴格的安全系統進行處理。 Roblox 指出，新上線的實時改寫功能適用于當前平臺自動翻譯工具所支持的全部語言，以覆蓋其多語種用戶群體。

除新增改寫功能外，Roblox 此次還同步升級了文本過濾系統，以識別更多變體形式的違規語言。 公司稱，經過改進后，系統在識別“黑客語”（leetspeak）及更復雜的規避審查寫法方面的表現有所提升，從而大幅減少在分享或索取個人信息場景中的“漏報”情況，相關誤判比例已被壓低約 20 倍。

此次更新是在 Roblox 收緊平臺安全措施的大背景下推出的。 今年 2 月，Roblox 剛剛為平臺聊天引入強制人臉驗證機制，此前該公司面臨來自得克薩斯州、肯塔基州和路易斯安那州等多位州總檢察長提起的多起訴訟，指控平臺在兒童安全方面存在嚴重隱患。 這些訴訟源于多篇調查報道和研究機構的指控，認為 Roblox 讓未成年用戶暴露在包括誘騙、露骨內容等高風險環境之中，從而引發了監管層對其安全機制的持續審查與壓力。

在監管壓力和社區安全訴求雙重推動下，Roblox 此次通過實時 AI 改寫與更強的文本過濾組合出擊，試圖在保障兒童及青少年安全的同時，盡可能維持游戲內聊天的連貫性與可讀性。