識(shí)別深度偽造，AI與人類(lèi)各有所長(zhǎng)

來(lái)源：參考消息

編譯：蘇佳維

據(jù)西班牙《趣味》月刊網(wǎng)站2月28日?qǐng)?bào)道，在像素可塑、面孔合成的時(shí)代，模糊真?zhèn)沃g邊界的容易程度令人不安。所謂的深度偽造，也就是通過(guò)人工智能(AI)生成的以驚人準(zhǔn)確度模仿真人的圖像和視頻，已經(jīng)不是什么技術(shù)奧秘，而是一個(gè)可能改變公眾感知、評(píng)價(jià)和決策的工具。在這種變幻莫測(cè)的情況下，有一個(gè)問(wèn)題很重要：誰(shuí)更擅長(zhǎng)區(qū)別真?zhèn)危侨祟?lèi)還是機(jī)器？

圖片來(lái)源：攝圖網(wǎng)

美國(guó)佛羅里達(dá)大學(xué)一個(gè)跨學(xué)科團(tuán)隊(duì)針對(duì)這個(gè)問(wèn)題的研究結(jié)果既具啟發(fā)性又具反直覺(jué)色彩。根據(jù)這項(xiàng)發(fā)表在《認(rèn)知研究：原則與啟示》上的研究，算法在檢測(cè)靜態(tài)照片中偽造面孔的表現(xiàn)大大強(qiáng)過(guò)人類(lèi)。但在同樣的面孔開(kāi)始在視頻里說(shuō)話(huà)和打手勢(shì)時(shí)，優(yōu)勢(shì)便易主了。突然之間，人眼就占了上風(fēng)。

在靜態(tài)圖像領(lǐng)域，人工智能展示出壓倒性的識(shí)別效率。在分辨人工生成面孔的照片時(shí)，檢測(cè)算法的準(zhǔn)確率高達(dá)97%。相比這種近乎手術(shù)級(jí)精度的準(zhǔn)確率，人類(lèi)參與者區(qū)分真?zhèn)蔚臏?zhǔn)確率僅相當(dāng)于隨機(jī)猜測(cè)。

該研究的設(shè)計(jì)很細(xì)致。研究人員收集和生成了數(shù)百個(gè)圖像和視頻，其中一些是真實(shí)的，其他則是通過(guò)深度偽造技術(shù)創(chuàng)造的。數(shù)千名參與者評(píng)估了這些素材的真實(shí)性，與此同時(shí)，同樣的文件也交給專(zhuān)門(mén)檢測(cè)偽造的算法。對(duì)比很明顯：針對(duì)靜態(tài)圖像，機(jī)器仿佛擁有一個(gè)隱形的放大鏡，能夠檢測(cè)人類(lèi)直覺(jué)察覺(jué)不到的瑕疵。

這種技術(shù)優(yōu)勢(shì)表明，至少在照片領(lǐng)域，自動(dòng)化工具能夠成為對(duì)抗視覺(jué)虛假信息的關(guān)鍵助力。算法分析微觀特征(不連貫的陰影、不合邏輯的對(duì)稱(chēng)、數(shù)字偽影)的能力大大超越人類(lèi)的有意識(shí)感知。

然而，這種優(yōu)勢(shì)在場(chǎng)景不再靜止不動(dòng)后，就顯現(xiàn)出脆弱性。

在圖像活動(dòng)起來(lái)、人物說(shuō)出話(huà)語(yǔ)的視頻中，算法的準(zhǔn)確率下降到與隨機(jī)選擇相同。相反，人類(lèi)參與者正確識(shí)別了近三分之二的視頻，無(wú)論視頻真?zhèn)巍?/strong>

為什么會(huì)出現(xiàn)這種角色轉(zhuǎn)換？研究論文的作者們認(rèn)為，動(dòng)態(tài)帶來(lái)了更豐富的背景。一段視頻涉及微表情、語(yǔ)速、停頓、手勢(shì)與聲音的微妙同步。人腦在進(jìn)化中受到訓(xùn)練，以解析復(fù)雜的社交信號(hào)，它似乎能抓住現(xiàn)有的算法模型無(wú)法以同樣的細(xì)膩程度加以解讀的不協(xié)調(diào)之處。

此外，該研究還發(fā)現(xiàn)了人類(lèi)表現(xiàn)中有趣的細(xì)微差別。分析思維能力較強(qiáng)、數(shù)字素養(yǎng)較高的人表現(xiàn)出較強(qiáng)的識(shí)別偽造視頻的能力。相反，自認(rèn)心情較好的人往往出錯(cuò)較多，這或許是因?yàn)榉e極的情緒有助于增強(qiáng)信任感和削弱批判性懷疑能力。

不過(guò)，作者們提醒，這些測(cè)試是在受控條件下進(jìn)行的，而且測(cè)試內(nèi)容是有特定類(lèi)型的。現(xiàn)實(shí)的數(shù)字生態(tài)系統(tǒng)充滿(mǎn)了各種刺激和模糊不清的背景，要復(fù)雜得多。不論是檢測(cè)技術(shù)還是偽造技術(shù)，都在以難以預(yù)料的高速度發(fā)展。

除了人類(lèi)與機(jī)器的對(duì)比，該研究還提出一個(gè)根本性問(wèn)題：人類(lèi)集體決策的穩(wěn)定性取決于信息的真實(shí)性。從政治競(jìng)選到國(guó)際沖突等諸多領(lǐng)域，偽造視頻的流傳可能在幾個(gè)小時(shí)內(nèi)影響大眾的認(rèn)知。

研究人員強(qiáng)調(diào)，不是每個(gè)人都必須成為數(shù)字化鑒別專(zhuān)家。但是，培養(yǎng)警惕的態(tài)度確實(shí)很重要：質(zhì)疑眼之所見(jiàn)、核對(duì)多個(gè)信源，并且在將一張圖像視作鐵證之前尋找更多證據(jù)。