![]()
據(jù)《太陽哨兵報(bào)》8 月 7 日深度調(diào)查,全球最大兒童游戲平臺(tái) Roblox 終于亮劍 —— 推出開源 AI 反戀童系統(tǒng),卻仍難脫 "監(jiān)管不力" 的訴訟泥潭。這款名為 "Sentinel" 的 AI 工具號(hào)稱半年內(nèi)已協(xié)助上報(bào) 1200 起潛在兒童剝削案件,但其能否真正守護(hù)億萬未成年人安全,正引發(fā)激烈爭議。
AI 識(shí)魔記:從 60 億條聊天記錄中捕捉 "grooming" 信號(hào)
與傳統(tǒng)關(guān)鍵詞過濾不同,Sentinel 系統(tǒng)通過分析每日 60 億條聊天記錄的 "一分鐘快照",構(gòu)建良性對(duì)話與高危對(duì)話雙索引庫。Roblox 安全總監(jiān)馬特?考夫曼解釋:"戀童者的 grooming 行為(逐步誘導(dǎo)兒童的行為)往往跨越數(shù)天甚至數(shù)周,單句 ' 你多大了 ' 可能無害,但結(jié)合上下文模式就會(huì)暴露風(fēng)險(xiǎn)。"
系統(tǒng)通過持續(xù)學(xué)習(xí)優(yōu)化風(fēng)險(xiǎn)評(píng)分機(jī)制,將用戶互動(dòng)向 "良性集群" 或 "高危集群" 分類。當(dāng)分?jǐn)?shù)觸發(fā)閾值時(shí),人工安全團(tuán)隊(duì)會(huì)介入審查,并同步至美國國家失蹤與受剝削兒童中心(NCMEC)。2025 年上半年,該系統(tǒng)已促成 1200 份潛在剝削報(bào)告。
13 歲少女遭綁架性侵,平臺(tái)設(shè)計(jì)被指 "為虎作倀"
此舉被業(yè)內(nèi)視為應(yīng)對(duì)監(jiān)管壓力的關(guān)鍵動(dòng)作。目前 Roblox 面臨多起集體訴訟,其中艾奧瓦州案件指控其 "設(shè)計(jì)成戀童者狩獵場":一名 13 歲女孩通過平臺(tái)結(jié)識(shí)成年 predators 后遭綁架、跨州販賣并性侵。訴訟文件指出,盡管平臺(tái)禁止 13 歲以下用戶跨游戲私聊(需家長授權(quán)),且不加密私人對(duì)話以便監(jiān)控,但 "漏洞百出的防護(hù)系統(tǒng)形同虛設(shè)"。
工程副總裁納倫?科內(nèi)魯強(qiáng)調(diào):"開源是讓全行業(yè)共享解決方案。沒有任何平臺(tái)能單獨(dú)解決兒童安全問題。" 但批評(píng)者指出,系統(tǒng)仍存在誤判風(fēng)險(xiǎn) —— 正常社交對(duì)話可能被標(biāo)記為可疑,而精心偽裝的 predators 仍可能通過諧音、暗語規(guī)避檢測。
數(shù)字守夜人困境:隱私與安全的永恒博弈
盡管 Sentinel 號(hào)稱能識(shí)別 "跨時(shí)段行為模式",但技術(shù)挑戰(zhàn)依然顯著。平臺(tái)禁止視頻 / 圖片分享并屏蔽手機(jī)號(hào)等個(gè)人信息,但用戶總能找到繞過方法。更核心的矛盾在于:不加密聊天記錄的監(jiān)控模式,是否侵犯了兒童隱私權(quán)?
正如兒童權(quán)益律師莎拉?陳所言:"Roblox 的開源嘗試值得肯定,但真正的安全需要監(jiān)管、技術(shù)、家長監(jiān)護(hù)的三重防線。當(dāng) 1.11 億孩子的安全依賴于一套 AI 系統(tǒng)時(shí),我們已經(jīng)輸了。"
特別聲明:以上內(nèi)容(如有圖片或視頻亦包括在內(nèi))為自媒體平臺(tái)“網(wǎng)易號(hào)”用戶上傳并發(fā)布,本平臺(tái)僅提供信息存儲(chǔ)服務(wù)。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.