AI生成烏軍投降視頻，社交媒體炸了

亞太日報 丹瑋

據媒體報道，一些內容為“烏克蘭士兵在前線哭泣并投降”的視頻于11月初開始在社交媒體上流傳。這些視頻的內容看起來很真實，沒有明顯被剪輯或拼貼過的痕跡，直到有人發現這些視頻中出現了自己的臉。

現居紐約的俄羅斯知名直播主阿列克謝·古巴諾夫（Aleksei Gubanov）在觀看一個視頻的時候，發現其中一個視頻中的士兵竟然是“自己”。“起初我并沒有認真對待它，但很快我注意到觀看次數增長得有多快，更糟糕的是，很多人相信這些視頻是真實的，”古巴諾夫談到他看到的視頻時說道。這段視頻是由人工智能生成的假視頻，該視頻利用他的肖像在烏克蘭軍隊中傳播有關士氣的虛假敘述。

該視頻是NBC新聞最近幾周審查的21段由人工智能生成的烏克蘭士兵視頻之一，這些視頻是使用先進的人工智能程序創建或操縱的，導致一些畫面內容非常逼真，幾乎無法追查其來源。

但在這些視頻中，至少有一半的視頻角落里有一個小標志，泄露了這一點：它們是用Sora 2制作的，Sora 2是OpenAI文本轉視頻生成器的最新版本。Sora制作的一些視頻使用了古巴諾夫等熱門俄羅斯直播主的面孔，進行了戲劇性的深度偽造，而另一些視頻則展示了成群的烏克蘭士兵向俄羅斯軍隊集體投降的畫面。

其他看似由其他人工智能平臺生成的圖像也存在非常微妙的錯誤，但對于大多數人來說很難發現，例如烏克蘭士兵所穿的制服和頭盔的錯誤或簡化版本。然而，烏克蘭人很容易發現這一點，因為大多數視頻的主角都是講俄語的士兵，21個假視頻中只有8個視頻的主角是講烏克蘭語的軍事人員。然而，這些視頻在各大社交平臺上傳播。所有這些視頻都試圖將烏克蘭士兵描繪成不愿戰斗并準備放棄的人。

分析人士表示，這些圖像和視頻是最新的虛假信息齊射，旨在扭曲公眾對俄羅斯與烏克蘭戰爭的看法。雖然尚不清楚是誰創建或發布了這些視頻，但它們增加了越來越多的虛假信息，而這些信息只會變得更加復雜和更難以發現。

近年來，人工智能生成的視頻迅速發展，從基本、粗糙到近乎完美，許多專家越來越多地警告說，很快就會沒有什么方法可以輕松辨別真假。烏克蘭國家安全與國防委員會下屬的反虛假信息中心告訴NBC新聞，過去一年“使用人工智能創建或操縱的內容數量顯著增加”，旨在破壞公眾對烏克蘭政府的信任和國際支持。

許多人工智能視頻生成器試圖在用戶生成的作品上添加標簽或水印，以表明它們是計算機生成的。OpenAI表示，其針對Sora的虛假信息安全護欄包括注明視頻來源的元數據以及每個下載視頻上的移動水印。但事實表明，仍有一些方法可以消除或最小化這些努力，比如用戶可以使用一些工具遮擋自帶的移動水印。

據悉，這些需要被審查的“假視頻”全部發布在TikTok或YouTube上，因為每天會有大量的歐洲和美國用戶在這兩個平臺上“沖浪”。其中一些視頻包含各種語言的字幕，以便不會說烏克蘭語或俄語的用戶也能理解。

TikTok和YouTube都明文禁止在其平臺上發布人工智能生成的欺騙性內容和深度偽造內容，兩者都提供“人工智能生成”描述標簽，以便觀眾區分真實和生成的內容。目前，帶有“人工智能生成”標簽的視頻和用戶均已從該平臺刪除。然而，仍有一些視頻在其他社交平臺如X和Facebook上以轉發的形式繼續存在。

注：本文為亞太日報原創內容，未經授權不得轉載。