政新微評(píng) | AI背后的陷阱：有圖未必有真相

借助AI技術(shù)手段制造不實(shí)信息，已成為當(dāng)下信息傳播領(lǐng)域面臨的一大新挑戰(zhàn)，其特點(diǎn)鮮明且危害突出，不僅侵蝕了信息的真實(shí)性，平生事端形成輿情，擾亂了社會(huì)秩序與公眾認(rèn)知。眼見不為實(shí)，真假難分辨，生成舉手間，查處更困難。

一

AI制作不實(shí)信息具有以下特點(diǎn)

一是迷惑性強(qiáng)。AI技術(shù)的高度發(fā)展使得謠言制造者能夠精準(zhǔn)模仿真實(shí)人物的聲音、外貌乃至行為模式和語(yǔ)言邏輯，使得謠言內(nèi)容在感官上極具欺騙性。普通民眾往往難以分辨真?zhèn)危瑯O易被誤導(dǎo)，極易信以為真。

二是刺激度高。為了吸引眼球、吸引流量，或以此獲利，或制造話題談資，或炫耀技術(shù)。AI生成謠言的制作者，往往圍繞熱點(diǎn)事件或敏感話題來(lái)做文章，通過虛構(gòu)事實(shí)，或編造聳人聽聞的情節(jié)，或以當(dāng)事人的口吻發(fā)表夸張言論，或制造新的矛盾沖突點(diǎn)，或提供更“生動(dòng)”的細(xì)節(jié)，以此激發(fā)公眾的好奇心與情緒反應(yīng)，從而達(dá)到讓事件關(guān)注度、影響力升級(jí)的目的。

三是傳播力廣。借助AI發(fā)布的音視頻，做為某起特定事件的新鮮素材，往往依托社交媒體、短視頻平臺(tái)等新媒體渠道，能夠以病毒式速度擴(kuò)散，迅速覆蓋大量用戶，又因?yàn)橐粢曨l本身的易二次加工屬性，不斷變種迭代，這讓不實(shí)信息跑得更快更廣，特別是被媒體賬號(hào)做為信源引用報(bào)道后，就又借助了媒體的影響力和公信度，繼續(xù)提速傳播。

四是傷害力大。做為被假借身份的事件當(dāng)事人，會(huì)因?yàn)檫@種“本人言論”，而迅速成為被關(guān)注、被指責(zé)、被情緒攻擊的對(duì)象，僅澄清辟謠往往百口莫辯。自己說(shuō)不是，但網(wǎng)民就不信。特別是當(dāng)這類AI謠言以“偷拍偷錄、知情人透露、設(shè)備丟失或維修無(wú)意流出”等方式包裝時(shí)，更會(huì)讓公眾產(chǎn)生信源可靠的印象。同時(shí)，做為事件矛盾的另一方，往往則會(huì)因?yàn)檫@一“挑釁言論”的出現(xiàn)，選擇回?fù)艋貞?yīng)，于是事件沖突更加激烈。

五是查處難度大。AI謠言查處至少面臨三個(gè)困難，第一雖有辟謠但舉證難，被假冒人難以自證不是自己所為；第二信源模糊，造謠者為自我掩飾，可能會(huì)采取據(jù)傳，大家來(lái)判斷等話術(shù)，不點(diǎn)明音視頻來(lái)源，若是只想添柴挑事的，可能會(huì)把素材提供給某些領(lǐng)域的自媒體，本人并不直接發(fā)，這讓查詢?cè)搭^更困難；第三就是技術(shù)鑒定，官方調(diào)查要有規(guī)范的流程和明確的依據(jù)，來(lái)證實(shí)真假，而AI技術(shù)本身的匿名性和隱蔽性使得謠言的源頭追蹤就十分困難。同時(shí)，由于AI生成的方式方法具有多樣性和復(fù)雜性，包括使用工具的差異，專業(yè)機(jī)構(gòu)鑒定需要花費(fèi)大量時(shí)間和資源，這無(wú)疑增加了查處的難度和成本。

二

AI制作不實(shí)信息的主要行為模式

一是假借身份：謠言制造者通常會(huì)選擇熱點(diǎn)事件中的關(guān)鍵人物或自稱知情人，利用公眾對(duì)這些人物的關(guān)注度和信任感，以假亂真地發(fā)布信息。明確角色，量體裁衣，對(duì)象越明確，假冒的效果越直觀。

二是深度偽造：通過AI技術(shù)，如深度學(xué)習(xí)算法，對(duì)聲音、圖像、視頻進(jìn)行高度逼真的偽造，使得偽造內(nèi)容幾乎與原始資料無(wú)異，難以用肉眼用耳聽來(lái)辨別。特別是加上所謂環(huán)境嘈雜、信號(hào)影響、轉(zhuǎn)拍轉(zhuǎn)錄等理由，更成了霧里看花越看越像。

三是以視吸睛以聲惑人。相對(duì)于視頻人物偽造，AI合成模仿聲音，更具有欺騙性，而單純的音頻在后續(xù)傳播中，又很容易被配視頻配照片，剪輯編輯成為更飽滿的傳播版本。

四是關(guān)鍵信息缺失。這類謠言的假借對(duì)象雖明確，但發(fā)生在何時(shí)何地，什么場(chǎng)景下拍的，如何流出的，這些關(guān)鍵信息卻被模糊處理，就是讓公眾自己去猜測(cè)，可能性越多，話題就越豐富。

五是虛中有實(shí)。這類AI謠言的細(xì)節(jié)中，往往真假交織，用一個(gè)真實(shí)的細(xì)節(jié)來(lái)讓公眾其他細(xì)節(jié)也是真的，或者是直接把真實(shí)的音視頻片段或偽造內(nèi)容混剪，更增加所謂可信度。

三

AI類謠言信息的危害

一旦AI謠言進(jìn)入公眾視線，由于其高度的真實(shí)感和刺激性，“眼見為實(shí)鐵證鑿鑿”，往往能迅速獲得關(guān)注并被廣泛轉(zhuǎn)發(fā)，直接推高輿情熱度。而辟謠和處理謠言又需要一定的時(shí)間過程，在信息空窗期內(nèi)，公眾的心理和看法都會(huì)受到這種AI謠言的直接影響，形成對(duì)某起事件的情緒態(tài)度，即使后續(xù)反轉(zhuǎn)，但前期對(duì)于涉事方的傷害已經(jīng)造成。哪怕是在證實(shí)為謠言，處理AI制謠者后，也讓公眾對(duì)于網(wǎng)絡(luò)信息的真實(shí)性、AI的可怕性造成心理陰影，從先入為主看了就信向?qū)ι抖疾恍呸D(zhuǎn)化。

四

AI謠言的應(yīng)對(duì)查處

查處AI謠言，要采取法律加技術(shù)，管理加防御的組合拳。從法律上，要對(duì)法律法規(guī)不斷完善，明確AI謠言的法律責(zé)任，提高違法成本，同時(shí)建立健全跨部門協(xié)作機(jī)制，提升謠言監(jiān)測(cè)、處置、打擊的效率。從技術(shù)上，要以魔法打敗魔法，用更先進(jìn)的AI識(shí)別技術(shù)手段，來(lái)更快更準(zhǔn)的發(fā)現(xiàn)識(shí)別過濾虛假信息。從管理上，則還是要強(qiáng)化平臺(tái)責(zé)任，對(duì)于有明確辟謠，信源存疑，主責(zé)部門已介入調(diào)查的內(nèi)容有一定的先期限制措施或標(biāo)識(shí)說(shuō)明，至少讓公眾看到時(shí)，知道這一信息存在爭(zhēng)議及不確定性。從心理防御角度，則是讓公眾對(duì)于AI技術(shù)的能力和使用界線，形成符合社會(huì)主流價(jià)值觀的認(rèn)知，技術(shù)本無(wú)錯(cuò)，但無(wú)規(guī)則亂用就是問題，就需要有針對(duì)性的解決辦法，加以監(jiān)督限定。

福爾貓斯

一個(gè)不愿露臉的業(yè)內(nèi)人士，告訴你輿情后面的可能有的故事。