ChatGPT推出年齡預(yù)測功能保護未成年用戶安全

為了保護年輕用戶，OpenAI在ChatGPT中引入了"年齡預(yù)測"功能，旨在幫助識別未成年人并對其對話內(nèi)容實施合理限制。

隨著人們對AI對年輕人影響的擔(dān)憂持續(xù)加劇，OpenAI近年來因ChatGPT對兒童的影響而受到嚴(yán)厲批評。多起青少年自殺事件被認(rèn)為與該聊天機器人有關(guān)，與其他AI供應(yīng)商一樣，OpenAI也因允許ChatGPT與年輕用戶討論性話題而受到批評。去年4月，該公司被迫處理一個漏洞，該漏洞允許聊天機器人為18歲以下用戶生成色情內(nèi)容。

OpenAI一直在努力解決未成年用戶問題，新的"年齡預(yù)測"功能只是在現(xiàn)有保護措施基礎(chǔ)上的補充。該公司在周二的博客文章中表示，這項新功能利用AI算法評估用戶賬戶的特定"行為和賬戶級信號"，以識別年輕用戶。

這些"信號"包括用戶聲明的年齡、賬戶存在時間長度以及賬戶通常活躍的時段等。該公司已經(jīng)建立了內(nèi)容過濾器，旨在為18歲以下用戶過濾性、暴力和其他潛在問題話題的討論。如果年齡預(yù)測機制識別出某個賬戶為18歲以下，這些過濾器會自動應(yīng)用。

如果用戶被錯誤地標(biāo)記為未成年人，他們可以通過向OpenAI的身份驗證合作伙伴Persona提交自拍照來重新確立其"成人"賬戶狀態(tài)。

Q&A

Q1：ChatGPT的年齡預(yù)測功能是如何工作的？

A：年齡預(yù)測功能利用AI算法評估用戶賬戶的特定"行為和賬戶級信號"來識別年輕用戶。這些信號包括用戶聲明的年齡、賬戶存在時間長度以及賬戶通常活躍的時段等。

Q2：為什么OpenAI要推出這個年齡預(yù)測功能？

A：因為ChatGPT對兒童的影響受到嚴(yán)厲批評，多起青少年自殺事件被認(rèn)為與該聊天機器人有關(guān)，OpenAI也因允許ChatGPT與年輕用戶討論性話題而受到批評，甚至出現(xiàn)過為18歲以下用戶生成色情內(nèi)容的漏洞。

Q3：如果被錯誤識別為未成年用戶該怎么辦？

A：如果用戶被錯誤地標(biāo)記為未成年人，他們可以通過向OpenAI的身份驗證合作伙伴Persona提交自拍照來重新確立其"成人"賬戶狀態(tài)，恢復(fù)正常的使用權(quán)限。