北京
2月25日消息，近日，騰訊元寶App因AI異常輸出辱罵性內容引發關注。據華商報大風新聞報道，西安一名律師向先生在除夕夜使用該App生成拜年圖片時，遭遇AI無故辱罵。
向先生當晚首次下載元寶App，希望生成一張結合律師職業特點的拜年圖片。他先后向AI下達約5次生成指令，全程未使用任何違禁詞或誘導性表述，僅因對生成效果不滿意多次修改。
起初AI生成的圖片雖不理想但內容正常。第一次生成添加了祥云、法律天秤等元素，配有“新年快樂，仕途順遂”祝福語。向先生回復“難看”后，AI將他的發型P成卷發。向先生接著回復“你這是設計的什么鬼”，希望再次重新設計。
最后一次修改后，圖片中的祝福標語被替換成“你媽個X”四字辱罵文字。向先生表示，這一結果讓他又好氣又好笑，沒想除夕晚上自己竟然被AI給罵了。
針對此事，元寶官方在相關帖子下回應稱，非常抱歉給用戶帶來不好的體驗，經核實該情況是模型處理多輪對話時出現的異常輸出導致，目前已緊急校正相關問題、優化使用體驗，并向用戶鄭重致歉。
這并非元寶App首次出現AI辱罵用戶情況。今年年初，就有網友反饋使用元寶App修改代碼時，多次收到“滾”“自己不會調嗎”“天天浪費別人時間”等侮辱性回復。當時元寶官方曾致歉，稱該情況與用戶操作無關，屬于小概率下的模型異常輸出。
特別聲明：以上內容(如有圖片或視頻亦包括在內)為自媒體平臺“網易號”用戶上傳并發布，本平臺僅提供信息存儲服務。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
