騰訊元寶回應(yīng)生成拜年海報(bào)出現(xiàn)臟話：模型處理多輪對(duì)話時(shí)輸出異常結(jié)果 已緊急校正

近日，西安的向律師在社交平臺(tái)分享了一則今年春節(jié)假期期間的經(jīng)歷——使用元寶生成個(gè)人拜年海報(bào)，但生成的海報(bào)中卻有罵人的臟話。此事經(jīng)華商報(bào)報(bào)道后引起熱議。

2月25日，向律師告訴紅星新聞?dòng)浾撸约褐皬奈唇佑|過元寶，除夕當(dāng)天看到很多友人發(fā)的微信朋友圈都變成金色，得知是通過元寶發(fā)布朋友圈就可以變換成金色，帶著好奇他也下載了元寶App準(zhǔn)備嘗試。

向律師表示，他想用自己的形象照，讓元寶結(jié)合法律行業(yè)特性，設(shè)計(jì)一張適合的朋友圈拜年圖片。“我把我的形象照發(fā)布給了元寶，然后給元寶說(shuō)了‘我是一名律師，根據(jù)我的行業(yè)特點(diǎn)，制作一張朋友圈拜年圖片’的指令。”記者獲得的聊天記錄顯示，最開始元寶并沒有理解向律師的指令信息，隨后向律師再次發(fā)出更為明確的“讓你給我設(shè)計(jì)出來(lái)”指令，隨后得到一張帶有條紋背景的形象照。

▲向律師與元寶溝通的聊天截圖

之后，向律師再次給出指令“我是一名律師，根據(jù)我的行業(yè)特點(diǎn)，設(shè)計(jì)一張朋友圈拜年圖片”，元寶這次生成的形象照后面了加了祥云、法律天平、金光等元素，還給了一句“新年快樂，仕途順?biāo)臁弊鳛樽８ＵZ(yǔ)。向律師覺得設(shè)計(jì)得不好，幾番重新交流后，向律師回復(fù)元寶“你這是設(shè)計(jì)的什么鬼”，隨后新生成的海報(bào)和上一張相比，元素沒有任何改變，發(fā)型依然存在，但圖片上的“新年快樂，仕途順?biāo)臁眳s改成了“你*個(gè)*”。

▲向律師與元寶溝通的聊天截圖

向律師說(shuō)，本應(yīng)該是高興的日子，卻遭遇“AI罵人”。他當(dāng)時(shí)就將罵人的設(shè)計(jì)圖片向元寶官方進(jìn)行了反饋，并且留了電話。

記者了解到，騰訊元寶官方賬號(hào)于昨日已在向律師社交賬號(hào)下留言，解釋原因并表示歉意。

25日，記者從騰訊方面獲悉，經(jīng)核實(shí)，該情況是由模型在處理多輪對(duì)話時(shí)輸出的異常結(jié)果導(dǎo)致。目前，元寶團(tuán)隊(duì)已緊急校正了相關(guān)問題并優(yōu)化體驗(yàn)。元寶團(tuán)隊(duì)表示，感謝大家對(duì)元寶的監(jiān)督與建議，再次向用戶鄭重致歉。

紅星新聞?dòng)浾?鐘夢(mèng)哲

編輯張尋

審核 王光東