涉黃 AI 視頻，暴擊新能源汽車

一場(chǎng)品牌毀滅戰(zhàn)

封面 I 豆包AI

作者 I 李東陽(yáng)

報(bào)道 I 李東陽(yáng)朋友圈

一天 清晨 ，你從不安的睡夢(mèng)中醒來(lái)，發(fā)現(xiàn)自己躺在床上變成了一位 AI仿真人 。

AI就是以這般突然的姿態(tài)闖入各行各業(yè)以及人們生活的每一個(gè)角落，即便你毫不關(guān)心AI的發(fā)展與演化，但很可能在尚未意識(shí)到它的到來(lái)時(shí)就已身處其中，不得不抬起頭做出選擇。

近日，還有一個(gè)趨勢(shì)值得關(guān)注，AI涉黃、造假新聞?wù)诿土覜_擊新能源汽車品牌，一場(chǎng)由技術(shù)濫用引發(fā)的品牌危機(jī)正在行業(yè)蔓延。

先來(lái)看幾個(gè)例子，前幾日小鵬汽車就有人利用AI技術(shù)生成虛假視頻向公安機(jī)關(guān)報(bào)案、保時(shí)捷女銷售被換臉合成不雅視頻、小米汽車因其搞流量屬性被AI生成不雅視頻等……

圖注：AI生成虛假內(nèi)容

這些 AI 生成的涉黃內(nèi)容，制作成本低至幾毛錢，傳播速度卻極其迅猛，給企業(yè)造成的損失動(dòng)輒數(shù)億。

雖然目前來(lái)看，咱們總體還是抱著一個(gè)樂(lè)觀的心態(tài)看待AI，等待著真正令人滿意、服務(wù)于人類的存在出現(xiàn)。

只是AI帶來(lái)的問(wèn)題，一個(gè)也沒(méi)躲過(guò)去！

除了“對(duì)”與“錯(cuò)”這兩個(gè)字以外，世界上再也沒(méi)有本身就叫做“對(duì)”或者是“錯(cuò)”的東西。

這句略顯詭辯色彩的語(yǔ)錄，用來(lái)解釋工具的對(duì)錯(cuò)屬性倒也能自洽。

只是具體到個(gè)人與行業(yè)身上，好與壞的后果會(huì)赤裸裸的盡數(shù)顯露。

前幾日，一則小鵬汽車車展不雅視頻在網(wǎng)上瘋傳，畫面中一女子身著暴露、行為過(guò)火，評(píng)論區(qū)一片指責(zé)小鵬汽車營(yíng)銷無(wú)下限的聲音，不出意料，這是一個(gè)由AI生成的視頻。

小鵬汽車第一時(shí)間報(bào)警，涉案男子李某被公安機(jī)關(guān)處以治安拘留10日的處罰，但造成的惡劣影響久久消散不去。

無(wú)獨(dú)有偶，早在理想MEGA上市前夕，就有人將色情圖片與車輛內(nèi)飾圖拼接，編造" 車載攝像頭泄露車主私密畫面 " 的謠言，在 20 多個(gè)車友群同步擴(kuò)散，引發(fā)近千萬(wàn)次瀏覽，導(dǎo)致部分潛在消費(fèi)者取消訂單。

圖源：微博@鳳凰網(wǎng)科技

這類攻擊之所以極具迷惑性，是因?yàn)樗鼘a(chǎn)品場(chǎng)景與AI生成內(nèi)容綁定，讓網(wǎng)友們一時(shí)難辨真假。

人員關(guān)聯(lián)抹黑則更具殺傷力，之前青島保時(shí)捷中心女銷售牟倩文的個(gè)人照片，被不法分子用 AI 換臉技術(shù)合成不雅視頻，視頻中刻意保留了保時(shí)捷的品牌標(biāo)識(shí)和門店背景。

其被惡意冠以"保時(shí)捷銷售為沖業(yè)績(jī)陪客戶" ，不僅讓受害者陷入社會(huì)性死亡，更讓保時(shí)捷品牌形象遭受重創(chuàng)。事件持續(xù)發(fā)酵近一個(gè)月，相關(guān)話題登上微博熱搜 TOP5，青島保時(shí)捷中心的到店客流量環(huán)比下降 40%。

圖源：微博@青島廣電解碼新聞

還有一些蹭流量的媒體，例如在小米兩款車型上市之后，直接用AI生成不雅內(nèi)容在網(wǎng)上大肆傳播，目的就是借明星車型引流自己的視頻內(nèi)容。

受AI內(nèi)容困擾最深的莫過(guò)于蔚來(lái)，之前一段時(shí)間有關(guān)蔚來(lái)自燃現(xiàn)場(chǎng)和涉黃評(píng)論同時(shí)大量發(fā)酵，據(jù)蔚來(lái)法務(wù)部透露，僅 2025 年上半年，此類關(guān)聯(lián)攻擊就造成品牌形象損失評(píng)估超過(guò) 28 億元，直接影響了季度銷售額。

究其原因，是 AI 技術(shù)降低了作惡門檻。現(xiàn)在任何人只需在某款 AI 生成工具中輸入 "新能源汽車 + 車展 + 低俗" 等關(guān)鍵詞，上傳一張品牌圖片，幾分鐘內(nèi)就能生成以假亂真的視頻。

近年來(lái)，熱錢涌動(dòng)，烈火烹油的新能源汽車行業(yè)，成了黑公關(guān)們眼饞的“唐僧肉”。

比亞迪、理想、長(zhǎng)城、鴻蒙智行等企業(yè)，都吃到過(guò)黑公關(guān)的苦頭，嚴(yán)重者一整個(gè)車系潰敗收尾。

這場(chǎng)戰(zhàn)役的背后，是汽車行業(yè)競(jìng)爭(zhēng)白熱化的縮影。當(dāng)技術(shù)差距縮小，營(yíng)銷戰(zhàn)逐漸演變?yōu)椤昂诠P(guān)暗戰(zhàn)”。

AI 涉黃造假之所以在汽車行業(yè)愈演愈烈，核心是背后形成了完整的利益鏈條，流量變現(xiàn)與惡意競(jìng)爭(zhēng)成為兩大主要驅(qū)動(dòng)力。

經(jīng)常用AI“造假”的都知道，雖然市面上主流產(chǎn)品監(jiān)管比較嚴(yán)格，但總有一些軟件為了為了爭(zhēng)奪用戶，刻意弱化內(nèi)容審核機(jī)制，甚至在用戶協(xié)議中埋下灰色條款，為涉黃內(nèi)容生成提供便利。

有了廣大不良內(nèi)容生存的土壤，接下來(lái)只要?jiǎng)e有用心之人施加催化劑便能迸發(fā)出驚人的破壞力，MCN 機(jī)構(gòu)和水軍團(tuán)隊(duì)扮演的就是這個(gè)角色。

理想汽車法務(wù)部查處的案例顯示，某 MCN 機(jī)構(gòu)為了流量變現(xiàn)，專門收購(gòu) 20 多個(gè)網(wǎng)絡(luò)賬號(hào)，批量生成針對(duì)新能源汽車的 AI 涉黃內(nèi)容和虛假售后爭(zhēng)議，再通過(guò)水軍矩陣擴(kuò)散，該機(jī)構(gòu)僅靠廣告分成和公關(guān)接單，三個(gè)月就獲利超過(guò) 500 萬(wàn)元。

正所謂造謠一張嘴，辟謠跑斷腿，很多時(shí)候就算得到澄清，其破壞力還是會(huì)存在，這對(duì)于步步踩在生死存亡大關(guān)上的新能源車企們是致命的。

當(dāng)然最無(wú)恥的莫過(guò)于同行之間的相互攻擊，一些品牌專門雇傭團(tuán)隊(duì)，在競(jìng)爭(zhēng)對(duì)手新車上市、車展等關(guān)鍵節(jié)點(diǎn)，集中投放 AI 生成的涉黃虛假內(nèi)容。

之前有個(gè)新聞無(wú)奈又好笑，部分攻擊者將涉黃內(nèi)容與產(chǎn)品質(zhì)量問(wèn)題捆綁，如編造 "某品牌電池爆炸是因?yàn)檐囍髟谲噧?nèi)進(jìn)行不正當(dāng)行為"，讓品牌直接社死。

新能源汽車品牌的核心資產(chǎn)之一是技術(shù)創(chuàng)新和品牌美譽(yù)度，而涉黃內(nèi)容的傳播會(huì)直接沖擊公眾對(duì)品牌的信任。

而且這種信任損傷是長(zhǎng)期的，即使品牌后續(xù)投入大量資源進(jìn)行公關(guān)修復(fù)，也很難完全消除負(fù)面影響。

所以說(shuō)，未來(lái)在警惕AI生長(zhǎng)內(nèi)容對(duì)車圈破壞這一塊，要打起十二分精神，畢竟技術(shù)手段日新月異，造謠手段同樣層出不窮。

不光是新能源汽車行業(yè)，AI所帶來(lái)的問(wèn)題已經(jīng)蔓延到了社會(huì)的每一個(gè)角落。

例如讓普通人頻頻上當(dāng)?shù)腁I詐騙，年輕女性被造黃謠等，據(jù)《2024人工智能安全報(bào)告》顯示，2023年國(guó)內(nèi)基于AI的深度偽造欺詐增長(zhǎng)了3000%，僅2024上半年，AI詐騙案案值已超過(guò)1.85億元。

而之所以被稱為“迷人的危險(xiǎn)”，是因?yàn)锳I向善的一面同樣震撼力十足。

近幾年, AI創(chuàng)業(yè)者呈現(xiàn)井噴態(tài)勢(shì)，不少小白摸著石頭過(guò)河賺到了人生第一桶金。

各位最熟知的，莫過(guò)于在B站等短視頻平臺(tái)出現(xiàn)的甄嬛在遭四郎扇臉后端起機(jī)槍瘋狂掃射、林黛玉倒拔垂楊柳等，這些小作坊靠著簡(jiǎn)單的AI軟件，輕松將流量費(fèi)收入囊中。

而更高階的AI玩家，則把目光放得更為長(zhǎng)遠(yuǎn)，利用AI搞起了新的創(chuàng)業(yè)敘事。

圖源：豆包AI

OPEN AI的創(chuàng)始人薩姆·奧爾特曼喊出過(guò)一句充滿誘惑的口號(hào)：“一個(gè)人就能做出市值10億美金公司的時(shí)代馬上就要到來(lái)。”其實(shí)就是對(duì)AI投射的希望。

隨著字節(jié)、騰訊、百度陸續(xù)發(fā)布了“智能體”AI應(yīng)用。行業(yè)內(nèi)很多人斷言，智能體就是下一個(gè)AI風(fēng)口——如此易開(kāi)發(fā)、有分發(fā)、有錢賺的智能體平臺(tái)，必將能幫助普通人在AI時(shí)代獲得流量和收入，成為超級(jí)個(gè)體。

可以說(shuō)要想逃脫被工具代替的現(xiàn)實(shí)，學(xué)會(huì)主宰工具是繞不過(guò)去的一個(gè)手段，有研究表明九成以上工作未來(lái)都離不開(kāi)AI的加持。

當(dāng)然了，幾乎在每一次重大輿情事件中，都有AI的身影，而且影響極為惡劣。

本質(zhì)上是AI 技術(shù)在各個(gè)領(lǐng)域的廣泛應(yīng)用，顯露出相關(guān)法律法規(guī)的缺失問(wèn)題。

但改變正在發(fā)生，目前不少平臺(tái)已經(jīng)開(kāi)始整治AI創(chuàng)造內(nèi)容，如抖音、快手、小紅書、微信推出知治理措施推進(jìn)算法向上向善，目的就是將謠言扼殺在搖籃里。

在AI時(shí)代下，到底是人類馴化AI，還是AI逐漸塑造新人類，這無(wú)疑是個(gè)需要警惕的問(wèn)題。

一個(gè)不容忽視的底線是，技術(shù)，最終都是為了守護(hù)人之為人的尊嚴(yán)與溫度。