被垃圾信息喂養(yǎng)出的AI幻覺(jué)

3月3日奧斯卡頒獎(jiǎng)禮之后，網(wǎng)上開(kāi)始流傳一段美國(guó)影星羅伯特·德尼羅在臺(tái)上大罵Fuck Trump的視頻，很多網(wǎng)友為德尼羅點(diǎn)贊，宣揚(yáng)他不畏總統(tǒng)權(quán)勢(shì)敢于在如此盛大的場(chǎng)合公開(kāi)表達(dá)對(duì)特朗普不滿(mǎn)的勇氣。

但同時(shí)也有網(wǎng)友質(zhì)疑這段視頻并不是發(fā)生在今年的奧斯卡頒獎(jiǎng)禮上，從視頻畫(huà)面里也能看到德尼羅身后顯示著“TONY”背景墻，因此認(rèn)為這段視頻出自幾年前的托尼獎(jiǎng)?lì)C獎(jiǎng)典禮。

于是向AI提問(wèn)，字節(jié)跳動(dòng)的豆包明確回答這出自2018年托尼獎(jiǎng)?lì)C獎(jiǎng)禮；月之暗面的KIMI 也確定是托尼獎(jiǎng)?lì)C獎(jiǎng)禮，并且說(shuō)德尼羅并未參加今年的奧斯卡頒獎(jiǎng)禮。

唯獨(dú)接入了DeepSeek的騰訊元寶，經(jīng)過(guò)4秒鐘的深度思考后，言之鑿鑿地說(shuō)是這件事發(fā)生在今年的奧斯卡頒獎(jiǎng)禮上，并且搜索到4個(gè)網(wǎng)頁(yè)來(lái)支持這一結(jié)論。

象騰訊元寶這樣生成的內(nèi)容包含了不準(zhǔn)確、虛構(gòu)或與現(xiàn)實(shí)不符的信息，則被稱(chēng)之為AI幻覺(jué)。但之所以會(huì)發(fā)生這種偏離事實(shí)的AI幻覺(jué)，從這個(gè)例子來(lái)看其源頭是網(wǎng)絡(luò)上存在著大量的虛假的、人為編造的垃圾信息，影響了AI的判斷。

比如“老子的算法只認(rèn)五星紅旗”這個(gè)在網(wǎng)上突然爆火的話題，明顯出于自媒體的人為編造，而且經(jīng)過(guò)AI加工還活靈活現(xiàn)地添加了梁文峰發(fā)言的狀態(tài)和現(xiàn)場(chǎng)聽(tīng)眾的反應(yīng)，但因?yàn)槠鹾狭嗣耖g情緒，所以網(wǎng)上熱度飆升；特別有的自媒體借機(jī)發(fā)揮又編造出華為任正非帶上女兒孟晚舟在加拿大被扣押的腳鏈參加企業(yè)家峰會(huì)的細(xì)節(jié)，雖然一眼假，但并不妨礙這篇爽文閱讀量沖上10萬(wàn)+。

所以，當(dāng)網(wǎng)絡(luò)上充斥著這些人類(lèi)刻意編造的虛假信息的時(shí)候，要求被這些語(yǔ)料喂養(yǎng)的AI做出是非判斷，避免AI幻覺(jué)的發(fā)生，究竟該由誰(shuí)來(lái)承擔(dān)起責(zé)任呢？

全國(guó)政協(xié)委員甘華田建議加快制定針對(duì)AI生成虛假信息的專(zhuān)項(xiàng)法律法規(guī)，明確AI生成內(nèi)容的“全生命周期”責(zé)任，包括開(kāi)發(fā)者、使用者和運(yùn)營(yíng)者的法律責(zé)任和義務(wù)…… 但如果AI生成虛假內(nèi)容的源頭是人類(lèi)制造的垃圾信息呢？