北京
近日，V2EX社區一ID為“Curtion”的用戶發帖吐槽稱，自己的收款二維碼被字節跳動旗下AI助手豆包拿去，用作其他用戶購買保險的付款二維碼。其他用戶支付完成后，未查詢到保單，找到“Curtion”，才發現豆包“代購”保險鬧出了烏龍。
據了解，一用戶通過豆包咨詢購買保險，豆包不僅生成了一份看似正規的訂單，還提供了一個付款二維碼。該用戶信以為真，掃碼支付了1620元。然而，付款后用戶始終無法查詢到保單。面對質疑，豆包解釋稱“保單需至次日零點后方可查看”，試圖自圓其說。
最終，付款用戶通過收款商家入口聯系到“Curtion”，“Curtion”則表示，對該筆保險交易毫不知情。據“Curtion”推測，豆包展示的二維碼很可能源于自己早年公開發布在開源庫或博客的收款二維碼。該二維碼被豆包的訓練語料庫收錄，從而在“代購”保險交互中產生幻覺，誘導其他用戶付費。
值得注意的是，近期豆包不止出現上述爭議。4月10日，據鞭牛士報道，有用戶吐槽，豆包記錄會議時突然插入廣告。據悉，該用戶使用豆包記錄會議時提及“畫冊”，結果豆包突然中斷記錄，推送了一則視覺傳媒公司的廣告，并且介紹了該公司的設計能力、報價等信息。
正如“Curtion”所言，“這個案例告訴我們國內很多人根本就不知道AI的邊界在哪里, AI存在幻覺也不清楚, 連AI實際接入了哪些業務也不清楚, 甚至真的相信AI給出的建議和方案。”現階段AI技術還存在諸多不足，大家使用豆包時，需警惕出現幻覺。
特別聲明：以上內容(如有圖片或視頻亦包括在內)為自媒體平臺“網易號”用戶上傳并發布，本平臺僅提供信息存儲服務。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
