BOSS直聘發(fā)布《2025年安全治理報(bào)告》：AI主動(dòng)攔截80%違規(guī)賬號(hào)

1月20日，BOSS直聘發(fā)布《2025年安全治理報(bào)告——在動(dòng)態(tài)博弈中凝聚盟友》（以下簡(jiǎn)稱“報(bào)告”）。報(bào)告顯示，AI大模型正在滲透求職安全的各個(gè)鏈路，平臺(tái)全年封禁處置的賬號(hào)中，80%由AI支持的風(fēng)控系統(tǒng)主動(dòng)攔截。

報(bào)告指出，以招聘為名開(kāi)展違規(guī)違法活動(dòng)的黑灰產(chǎn)呈現(xiàn)“工業(yè)化、團(tuán)伙化、外包化”的新趨勢(shì)。對(duì)應(yīng)平臺(tái)在加強(qiáng)AI對(duì)違規(guī)行為識(shí)別力度的基礎(chǔ)上，配合警方從源頭打擊犯罪，協(xié)助警方破獲案件58起，抓獲嫌疑人607人，成功打掉數(shù)個(gè)“套路運(yùn)”“招轉(zhuǎn)培”犯罪團(tuán)伙。

同時(shí)，安全團(tuán)隊(duì)也加強(qiáng)了向求職者發(fā)送安全提示與防騙科普信息的力度，在求職者心中構(gòu)建“第一道防線”，全年向求職者推送相關(guān)信息近2.5億次。

AI發(fā)力打擊“專業(yè)化”的黑灰產(chǎn)

報(bào)告指出，2025年黑灰產(chǎn)在招聘場(chǎng)景中的作案特征越發(fā)專業(yè)化：上游通過(guò)眾包方式誘導(dǎo)部分HR倒賣簡(jiǎn)歷，或組織求職者成為“簡(jiǎn)歷工具人”；中游將多渠道匯總的簡(jiǎn)歷在線下黑灰產(chǎn)渠道匿名出售；下游團(tuán)伙收購(gòu)線索后，或誘導(dǎo)求職者下載不明來(lái)源APP開(kāi)展刷單行為，或誘導(dǎo)求職者辦理“購(gòu)車貸”“培訓(xùn)貸”“整容貸”等。

對(duì)此，安全團(tuán)隊(duì)利用AI大模型，對(duì)“批量索取簡(jiǎn)歷”“相似話術(shù)反復(fù)出現(xiàn)”等行為進(jìn)行模式識(shí)別，發(fā)現(xiàn)并封禁“簡(jiǎn)歷工具人”賬號(hào)，同時(shí)上線了風(fēng)控模型實(shí)時(shí)巡檢、攔截。相關(guān)線索也被匯總提供至公安機(jī)關(guān)。綜合公安機(jī)關(guān)反饋，已有數(shù)十人涉案接受調(diào)查。

此外，報(bào)告中系統(tǒng)披露了AI在求職招聘風(fēng)控領(lǐng)域的兩大核心應(yīng)用：語(yǔ)義識(shí)別與行為建模。

AI大模型能看懂上下文，還能讀懂“潛臺(tái)詞”和暗語(yǔ)。這種基于深度語(yǔ)義的巡檢能力，使得審核團(tuán)隊(duì)能夠從海量信息中識(shí)別出隱晦的違規(guī)職位描述并快速攔截。特別是在隱晦色情表述的識(shí)別等場(chǎng)景下，AI幫助安全團(tuán)隊(duì)有效提升了攔截效率。

同時(shí)，AI幫助安全團(tuán)隊(duì)更快識(shí)別不同類型的違規(guī)模式，構(gòu)建精細(xì)化的風(fēng)險(xiǎn)識(shí)別模型，在短時(shí)間內(nèi)完成違規(guī)賬號(hào)的識(shí)別與攔截，縮短違規(guī)賬號(hào)的存續(xù)周期。除了上述“簡(jiǎn)歷工具人”的識(shí)別場(chǎng)景，在收費(fèi)類專項(xiàng)治理中，AI同樣抓住了來(lái)自三個(gè)不同地域公司，但發(fā)布崗位的職位描述、名稱及地址完全一致的違規(guī)HR。

報(bào)告顯示，在AI的支持下，安全團(tuán)隊(duì)在2025年發(fā)起了打擊招聘性騷擾、整治違規(guī)收費(fèi)、整治刷單詐騙與違規(guī)引流、虛假高薪管控等多個(gè)治理專項(xiàng)，攔截違規(guī)職位、封禁數(shù)萬(wàn)個(gè)違規(guī)賬號(hào)。

近2.5億次安全提示構(gòu)建“第一道防線”

同時(shí)，報(bào)告顯示，為了規(guī)避平臺(tái)監(jiān)管，一些違規(guī)招聘者刻意誘導(dǎo)求職者脫離平臺(tái)，在第三方社交軟件或線下面試中暴露真實(shí)企圖。例如，涉色情類違規(guī)中，違規(guī)招聘者往往就是轉(zhuǎn)到第三方平臺(tái)后，再向求職者提出“找對(duì)象”的不當(dāng)訴求，或向求職者發(fā)送涉黃圖文，或表達(dá)招聘“貼身助理”等意圖。

對(duì)此，BOSS直聘安全團(tuán)隊(duì)也優(yōu)化了相關(guān)提示。當(dāng)風(fēng)控系統(tǒng)監(jiān)測(cè)到招聘者頻繁誘導(dǎo)用戶“加V”“掃碼”時(shí)，一方面招聘者會(huì)被“重點(diǎn)關(guān)注”，另一方面求職者也會(huì)收到彈窗警示。

同時(shí)，BOSS直聘在2025年全面加強(qiáng)了對(duì)求職者安全提示與防騙科普信息的推送力度，全年向求職者推送相關(guān)信息近2.5億次。

BOSS直聘安全相關(guān)負(fù)責(zé)人也提醒求職者，與招聘方溝通時(shí)，盡量在平臺(tái)內(nèi)完成，保存好聊天記錄。若轉(zhuǎn)至第三方軟件或線下面試，可通過(guò)平臺(tái)交換聯(lián)系方式，留存記錄。如果站外聯(lián)系人的聯(lián)系方式與平臺(tái)交換的不符，提高警惕，隨時(shí)舉報(bào)。如果在溝通中出現(xiàn)不當(dāng)?shù)膷徫灰螅蛘T導(dǎo)下載不明APP、購(gòu)買商品/課程，請(qǐng)立即停止溝通并通過(guò)平臺(tái)舉報(bào)。

三道防線：線上守護(hù)到線下生態(tài)共治

上述在安全提示、防騙科普上所做的工作，都是BOSS直聘安全團(tuán)隊(duì)在求職安全“風(fēng)險(xiǎn)緩沖區(qū)”的針對(duì)性優(yōu)化。

2025年，BOSS直聘根據(jù)求職場(chǎng)景與風(fēng)控系統(tǒng)覆蓋能力，將求職安全保護(hù)拆分為核心守護(hù)區(qū)、風(fēng)險(xiǎn)緩沖區(qū)與生態(tài)共治區(qū)，并聯(lián)合多方進(jìn)行全域共治。

核心守護(hù)區(qū)，即BOSS直聘APP及網(wǎng)頁(yè)端內(nèi)部。“人工+AI”的審核巡查系統(tǒng)覆蓋招聘端賬號(hào)注冊(cè)、認(rèn)證、發(fā)布、溝通全鏈路，確保公司、招聘者與崗位的真實(shí)性。而在招聘者與求職者即將轉(zhuǎn)到第三方的“風(fēng)險(xiǎn)緩沖區(qū)”，平臺(tái)在盡可能鼓勵(lì)站內(nèi)溝通的基礎(chǔ)上，要求雙方交換留痕，同時(shí)加強(qiáng)對(duì)求職者的風(fēng)險(xiǎn)提示。

而在生態(tài)共治區(qū)，BOSS直聘聯(lián)合警方、企業(yè)與行業(yè)等多方力量，共同從上游減少違規(guī)招聘者的生存空間。

2025年，安全團(tuán)隊(duì)協(xié)助警方成功打掉數(shù)個(gè)“套路運(yùn)”“招轉(zhuǎn)培”犯罪團(tuán)伙。同時(shí)，針對(duì)外賣配送招聘領(lǐng)域的租買車亂象，安全團(tuán)隊(duì)牽頭聯(lián)合102家外賣配送企業(yè)簽署行業(yè)自律公約，推動(dòng)崗位信息真實(shí)透明，不誘導(dǎo)辦理貸款或高額購(gòu)車。

在涉色情類違規(guī)的治理中，安全團(tuán)隊(duì)將部分嚴(yán)重違規(guī)招聘者的行為通報(bào)至其所在企業(yè)，推動(dòng)企業(yè)方加強(qiáng)管理與整改。在與企業(yè)的溝通中，多家企業(yè)表示積極配合，并承諾加強(qiáng)招聘者管理；也有企業(yè)向平臺(tái)反饋，涉事員工已被解除勞動(dòng)關(guān)系。