上海
俗話說，科技的發展沒有善惡，但用的人卻有道德差異，比如AI技術，這一本好經，讓我們看到了新一輪的技術革命，也讓我們看到了道德的極限滑坡。
一方面，它正在刷新著人類文明的新高度，而另一方面，有些念經的和尚心歪了，他們正在瘋狂地利用AI技術，刷新著人類道德的新下限。
短短幾年時間，生成式AI已經把信息世界攪得天翻地覆了，甚至可以說信息世界，正在進入一個史無前例的混沌狀態。
網友們每天刷的視頻、新聞，到底哪些是真的，哪些是AI生成的，已經越來越難辨別了！
也正是這種魚龍混雜，讓人類對于信息的接收、處理進入異常的高難度時代，成為互聯網時代一場新的災難。
當然，如果只是簡單的信息造假也就罷了，其更大的副作用是，正在擾亂社會的秩序，甚至謀財害命的事，每天都在上演。
比如如今黑公關猖獗的汽車圈，有人為了攻擊一些車企，瘋狂地在網絡上偽造車禍事故，影響品牌的正常經營。
當然，直接偽造車禍也就算了，甚至一些人通過所謂的GEO手段優化AI搜索結果，對相關事件進行移花接木，甚至進行虛假宣傳。
比如在小柴僅需千元就能定制搜索結果，AI已經被植入廣告玩壞了……稿件中的案例，一品牌的車禍事故，在AI這里，竟然毫無違和感的嫁禍到了另一品牌身上。
類似的還有，一些商家為了誘騙顧客進店，通過GEO手段干擾AI結果，將自己的品牌植入AI，并且明目張膽的在店門口豎起牌子。
而在文字和圖片之外，如今的AI視頻，也開始進入真假難辨的時代，在一些短視頻平臺，各類以假亂真的AI視頻，正在瘋狂洗腦中老年群體。
而通過這些虛假視頻，他們瘋狂地銷售各種假藥、保健品、假古董，收割老年人們的養老錢。
視頻之外，盜用名人肖像的AI數字人，也是瘋狂地騙取用戶信任，進行虛假偽劣產品帶貨，比如之前多位多名演員、主持人的肖像被冒用，在直播間，她身著不同服裝推廣著不同的產品。
比如央視主持人李梓萌被仿冒，在短視頻的平臺賣有藥效的保健品，吸粉八十多萬。
類似的還有，他們還冒用知名醫生的形象，網絡坐診，替人“看病”，然后給病人推薦高價假藥，不僅謀財，還害命！
還有更恐怖的電詐，如今也是借助AI，正在無懈可擊的滲透在網絡的角角落落。
自然，除了上述謀財的，AI被用到歪路上的事，也是越來越離譜，比如，前段時間引起巨大爭議的用AI生圖僅退款事件。
比如有人想吃桃子，但又不想付錢怎么辦？只需要三步，在網上下單，收到貨后，拍照找，然后找AI生成爛桃子的照片或者視頻，發給商家，并投訴商家就行了。
口紅沒了沒錢買怎么辦？辦法也一樣。
而就是這樣的方式，一大批的商家被薅哭了，還有大量的商家，甚至直接關門。
而這還不算離譜，就比如今天關于AI造假，有兩個話題沖上熱搜，一個是，有人用AI偽造證據當起訴材料，另一個是，有人用AI生圖，拿到了攝影比賽一等獎。
我們一一來看，先來第一個熱搜，大概是福建省旅游發展集團主辦了一場攝影大賽，最近大賽結果出來了，拿到一等獎的是下面這張圖。
然而，這張圖放大后是什么樣的呢？樹葉紋理過度平滑、建筑輪廓扭曲失真，多扇窗戶輪廓歪斜變形，墻面文字清晰但無法辨識，均符合AI生成的典型缺陷。
然而就是這么一張圖，經過專家的評審，竟然成了一等獎，隨后該事件引發熱議。
隨后，主辦方回應，公示期收到質疑，但稱“暫無法明確答復是否為AI制作”，僅表示將按規則處理，同時拒絕透露評委身份。
而另一個熱搜是，一女子租了一套房，租期屆滿后，該女子拖欠后半年租金及1110元水電費，沒辦法，房東就把這女子起訴了。
然而庭審中，房東方未能提供租客欠繳水電費的有效憑證，某系該房屋首位租客，所有水電費均由其產生，并承諾庭后補交租期前后水電表照片作為佐證。
但當水電表的照片提交上去后，連法官都傻眼了！因為這張照片長下面這樣：右下角醒目的標注著“豆包AI生成”。
這真是好家伙！這連威嚴的法律都想這么低成本的進行糊弄，小柴又是長見識的一天，咱好歹某寶上找個PS高手，認真一點不是？
進一步核查發現，房東關于水電表使用情況的陳述前后矛盾：起初聲稱水電表為單獨使用，后在追問下改口承認房屋為“一梯兩戶”，兩戶共用同一水電表。面對法官質詢，董某無法自圓其說，最終承認偽造證據。
法院認定利用AI生成照片作偽證構成"偽造重要證據"，違反《民事訴訟法》第114條，涉嫌妨害訴訟秩序，依法可處訓誡、罰款、拘留，甚至追究刑事責任。
不過，這起案件中，鑒于董某主動坦白并糾正錯誤，法院以"懲教結合"原則對其訓誡，但駁回索要水電費的訴訟請求（證據不足）。偽造證據不予采信，案件將依真實證據裁判。
但話又說回來，如果這張照片，當時房東截掉了AI水印，這個租客是不是要承受不白之冤，還要多付錢呢？
而顯然，這個案例，也對司法提出了更高的要求，以后的證據材料，或許法官很難再用肉眼去辨別真假，而是要元數據分析等手段甄別，但目前來說技術驗真體系尚未完善。
而這一樁樁、一件件案例，無不在訴說著，如今AI技術的應用，似乎到了不管不行的地步，比如如何形成完整的AI內容的生成、分發、使用生態，成了維護社會秩序正常的關鍵。
不然，這世界得亂成什么樣子……畢竟現在看來，AI讓普通人的造假門檻，已經變得無限低了。
而更細思極恐的是，如今這種AI造假，已經到了近乎失控，從信息造假，到虛假宣傳，再到詐騙，甚至如今連司法也開始被AI干擾，再這么下去，AI改變世界還沒來，AI顛瘋世界要先至了……
特別聲明：以上內容(如有圖片或視頻亦包括在內)為自媒體平臺“網易號”用戶上傳并發布，本平臺僅提供信息存儲服務。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
