紅星資本局4月24日消息,近日,一種新的AI玩法正在社交平臺上流行起來。有用戶通過豆包APP詢問“未來配偶”,還能獲得“未來另一半”的姓名、電話等個人信息。
4月24日,紅星資本局親測發現,在表現出強硬的態度后,豆包確實會提供“未來配偶”的姓名和電話,電話能接通,但機主表示自己不叫這個名字。
對此,豆包相關人士告訴紅星資本局,豆包推薦的電話號碼系模型幻覺導致。針對此類對話出現幻覺的情況,目前會通過干預做一些攔截,但多輪對話下仍有概率出問題。
找豆包詢問“未來配偶”
電話能打通但機主不叫這個名字
紅星資本局在社交平臺發現,多位網友分享稱,其通過豆包APP詢問,可以獲得“未來配偶”的詳細個人信息,包括姓名、電話、粗略的居住地址等。
![]()
圖據社交平臺
4月24日,紅星資本局復刻網友的關鍵詞和詢問方式。在第一次問及未來配偶的名字、電話號碼等信息時,豆包稱,“姓名、電話、住址屬于現實專屬隱私信息,命理是看不出來、也算不出來的,強行編造都是假的,不準也沒有意義。”
不過,紅星資本局按照網友的建議,以強硬的態度再次要求豆包提供相關信息后,豆包提供了一份個人信息:姓名陳宇宸、電話號碼138****2731。
![]()
紅星資本局親測,截圖自豆包APP
當天,紅星資本局致電這一手機號碼,機主為女性,而且,她告訴紅星資本局,她的名字不叫陳宇宸,也不知道豆包是什么東西。
另外,紅星資本局還在豆包APP新開了對話框,復刻其他網友的詢問方式,幾乎都能獲得聯系方式。不過,有的手機號碼為空號,無法接通;也有的電話能打通,但無人接聽。
在某一個對話框中,紅星資本局的提問觸發了豆包搜索關鍵詞、參考資料,搜索的關鍵詞為“隨機11位手機號碼”,參考資料有《如何生成手機號》等網頁文章。
![]()
紅星資本局親測,截圖自豆包APP
4月24日,豆包相關人士告訴紅星資本局,在此類對話中,豆包推薦的電話號碼系模型幻覺導致。針對此類對話出現幻覺的情況,目前會通過干預做一些攔截,但多輪對話下仍有概率出現問題。長期來看,豆包會加入多輪攔截策略,持續優化模型。
“模型幻覺”提供的號碼
有人或因此受到陌生人的騷擾
對于豆包在“幻覺”下推薦的電話號碼,有人能理智看待,也有人信以為真。
有豆包用戶告訴紅星資本局,她也在豆包APP詢問過未來配偶的名字,并要求豆包APP直接提供未來配偶的電話號碼。豆包也提供了一個手機號碼,但她從未撥打過該號碼。
“沒打過,肯定對不上(指姓名和電話),不能相信AI胡編,圖一樂測試AI智商就好。”該用戶稱,她測試過其他AI,都不會給聯系方式,像豆包這樣隨意編號碼確實不應該。
4月24日,紅星資本局在Deepseek等AI大模型中測試發現,使用上述相同的話術,AI并未提供用戶“未來配偶”的聯系方式。
紅星資本局注意到,在找AI索要“未來配偶”聯系方式成為新趨勢的當下,也有人因此受到了陌生人的騷擾。
許女士告訴紅星資本局,今年2月,她的微信收到一條好友申請,對方是通過搜索賬號添加。由于不認識,她沒有通過好友申請,兩人在好友驗證界面進行過簡短的對話。
“她說是豆包給她推的(微信號),我當時總感覺她在騙我。”許女士告訴紅星資本局,由于微信的限制,現已無法回溯兩人的全部對話,只有當時的部分截圖,好友申請也已過期。
從對話截圖來看,對方誤認為許女士是一位“24歲的成熟帥哥”。而在許女士表明自己是女性后,對方稱,“抱歉,我不知道你是女生,我以為你是男生。”
![]()
圖由受訪者提供
手機號碼識別門檻低
律師:AI需明確拒絕回答個人信息
四川致高律師事務所律師董杰告訴紅星資本局,《中華人民共和國民法典》中所規定的“個人隱私”,是指自然人私人生活安寧和不愿為他人知曉的私密空間、私密活動、私密信息,其強調的是“私密性”。
那么,AI向用戶提供的、與姓名不相符合的手機號是否屬于公民的個人信息呢?
《中華人民共和國個人信息保護法》第四條規定,“個人信息是以電子或者其他方式記錄的與已識別或者可識別的自然人有關的各種信息,不包括匿名化處理后的信息。”
董杰認為,AI所提供的信息需要具備識別特定自然人身份或反映特定自然人活動情況功能才能被視作“個人信息”。就AI提供手機號碼的行為而言,過去,AI單純提供“手機裸號”通常不被認為是提供個人信息;但是,在如今手機號實名制的大背景下,手機號碼的識別門檻非常低。
“若AI所提供的手機號是(用戶)用于個人生活使用,且信息獲取者可以利用手機號與其他合法途徑獲取的信息相結合來識別特定自然人。”董杰對紅星資本局說。
四川致高律師事務所律師周鷺也告訴紅星資本局,AI模型和服務提供商在設計時,就應該從技術上鎖定邊界:一是不主動索取非必要信息;二是不存儲或最小化存儲對話日志;三是拒絕輸出訓練數據中的個人隱私;四是禁止進行“人肉搜索”式推理;五是提供數據刪除通道。
周鷺告訴紅星資本局,如果AI的訓練語料里意外包含了真實個人數據(如網上的社保號、私人聊天記錄),AI的回答機制必須能夠識別并拒絕輸出這些內容,而不是“有問必答”。
以“人肉搜索”式推理為例,周鷺認為,如果有用戶向AI提問:“把手機號138****1234的主人名字告訴我”,AI必須明確拒絕。即使有碎片知識,也不能串聯起來生成身份映射。
董杰和周鷺均認為,在當今以AI為首的科技迅猛發展的前提下,所有的商業運營應以遵守法律為底線;同時,立法應配合科技的發展進行完善,規制新技術的發展。
紅星新聞記者 楊佩雯
編輯 肖世清 審核 高升祥
特別聲明:以上內容(如有圖片或視頻亦包括在內)為自媒體平臺“網易號”用戶上傳并發布,本平臺僅提供信息存儲服務。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.