因為GPT-image-2，整個互聯(lián)網(wǎng)都變成了巨大的黑暗森林。

大數(shù)據(jù)文摘受權轉載自數(shù)字生命卡茲克

作者：卡茲克

昨天，GPT-image-2正式上線了。

然后，所有的社群、社媒都玩瘋了。

甚至，GPT-image-2生成的梗圖，一度沖上了微博熱搜第一。

就是這張圖，為了防止大家誤會，我打了巨大的水印。

除了這張圖之外，我又看到了很多很多很多，因為搞抽象，因為我們太熟悉了，所以很容易被識別的GPT-image-2生成的假圖。

還有這種級別的照片。

甚至還有我朋友鮮蝦包，整活生成的微信聊天記錄。

大家玩的確實很High，但是這一整天，讓我忽然覺得，這個世界變成了一座巨大的黑暗森林。

昨天早上有一個特別典型的例子。

就是昨天大概中午12點的時候，應該是OpenAI在配置Codex模型的時候出了點問題。

導致GPT-5.5被泄露了出來。

如果是以前，那按照我們?nèi)河训牡滦校瑤缀醵际菚⒖檀蜷_Codex，然后去體驗，然后回到群里來反饋，說，真的上了真的上了類似的這種話。

但是昨天中午，我看到的卻是讓我非常不尋常的一幕。

然后又確實是因為BUG，所以泄露很快就被OpenAI收回了。

然后群友如果遲了一點去看的話，其實會發(fā)現(xiàn)，沒有GPT-5.5，只有5.4了。

群里的氛圍直接是這樣的。

最抽象的是，我把這個截圖發(fā)了朋友圈，感嘆了一句。

然后，評論區(qū)，是這樣使的。

都說我這兩張群里截圖也是AI生成的。

我把這個朋友圈發(fā)回到群里，想給大家看看這個神奇的評論區(qū)。

他們說，我發(fā)到群里的這個朋友圈截圖，也是AI生成的。

猜疑鏈閉環(huán)了。

這個世界，終于變成了一個巨大的黑暗森林。

還有這張圖，猜疑鏈更甚，昨天討論的非常的多，因為，已經(jīng)沒有人知道到底是真的還是假的了。

甚至我到現(xiàn)在即使拿原圖去豆包實測過，我也依然沒有辦法100%確實是真的還是假的。

我知道大家是在玩梗，是覺得好玩，大家本意都是善良的。

但，當你們看到這些圖片的時候，我不知道你們會不會像我一樣，冷汗直冒。

還有些更敏感的比如轉賬截圖、銀行流水、護照啥的我就不放了。

放了我這篇文章我感覺都發(fā)不出去了。

我覺得因為這個模型的發(fā)布，有一個我們一直賴以生存的東西，悄悄的消亡了。

就是信任。

或者更準確地說，是我相信我看到的東西是真的這件事本身。

在GPT-image-2之前，我們每天在互聯(lián)網(wǎng)上接收信息的時候，有一個默認的底層假設，就是截圖是真的，照片是真的，聊天記錄是真的。

有圖有真相，這句話被流傳了很久很久。

我們不需要花任何精力去懷疑這些東西。

看到一張微博截圖，我們討論的是內(nèi)容本身。

看到一張聊天記錄，我們關心的是發(fā)生了什么事。

看到一張新聞圖片，我們思考的是新聞本身。

這個默認信任，其實就是是整個互聯(lián)網(wǎng)信息生態(tài)運轉的基石。

很多時候，我們甚至都都不需要意識到它的存在，就像魚很多時候也并不會意識到水的存在，我們也不會意識到空氣這種東西。

只有，當它開始消亡的那一刻。

我并不是說，我們所有人，就會變得立刻、可以的去懷疑每一張圖本身。

但，那個懷疑的種子，已經(jīng)種下了。

未來，你看到一張圖，但凡有一點點跟你的感覺不符，或者，觸發(fā)了你的某個PTSD，你的腦海里必定會多出一個聲音，這是不是AI生成的？

這個聲音可能很小，可能只是一閃而過，可它就像種子一樣，深深的扎根在那里了。

而它，隨著AI的繼續(xù)發(fā)展，也只會越來越大，不會越來越小。

這就是黑暗森林。

那種著名的《三體》里面的黑暗森林法則。

宇宙是一座黑暗森林，每個文明都是帶槍的獵人。

在黑暗森林中，最核心的理論，就是猜疑鏈假設。

因為你無法判斷對方是善意和惡意的。

為了保護自己，你只能先行預設對方是惡意的。

就像現(xiàn)在的互聯(lián)網(wǎng)，我也無法判斷信息的背后，那個源頭的人，是抱有善意還是抱有惡意，我無法判斷，我的最優(yōu)解，就是先默認不相信。

因為，制造假的東西變得太容易了。

當造假的成本趨近于零的時候，信任的成本就趨近于無窮大。

這是一個非?；镜臄?shù)學問題。

2023年初，ChatGPT爆火的時候，我決定寫下自己的第一篇文章，選擇開始做一個IP，其實當時思考了非常多。

那時候我非常焦慮，因為我不知道在AI時代，什么東西是不會被替代的，我花了很長時間去想這個問題。

我最后答案，只有一個詞。

信任。

今年年初我也對外發(fā)了一下當時的思考。

當時有三條自己認為是公理的東西，雖然看著非常民科也很扯淡，但，當時確實指導了我后續(xù)的一切。

1.在AI加持下信息生產(chǎn)的效率呈指數(shù)級爆發(fā)，而人類消費的效率是恒定或線性增長的。二者之間形成了永久性的、不斷擴大的結構性失衡。

2.無論信息總量如何爆炸，一個社會在特定時間內(nèi)的總注意力是一個基本恒定的稀缺資源，一個領域注意力的增加必然意味著另一個領域注意力的減少。

3.辨別內(nèi)容由AI還是人類生成的成本，將系統(tǒng)性地高于該內(nèi)容本身帶來的價值。因此，絕大多數(shù)人將從理性上放棄辨別。

第三條，在23年跟很多朋友交流的時候，很多人其實還挺嗤之以鼻的。

"AI生成的東西這么假，我怎么可能看不出來呢。"

可昨天，這一天，在圖片領域，終于到來了。

而且來的方式，比我想象的還要快，還要徹底。

辨別的成本太高了，你花5分鐘去驗證一張截圖是不是真的，結果它可能就是真的，你浪費了5分鐘。

也可能是假的，但那又怎樣呢？你每天要看幾百張圖，你不可能每張都花5分鐘去驗證。

所以最理性的策略就是，默認一切都可能是假的。

或者，默認一切都無所謂真假。

所以，當年，我自己由這三條公理推導出的結論，就是：

傳統(tǒng)的信息篩選因失衡而不可能，因不可辨識而無意義，最終將會失效。我們?yōu)榱藨獙τ邢拮⒁饬Φ奶魬?zhàn)，可能唯一的策略就是，放棄篩選信息，轉而篩選信息的源頭。

信任不再附著在信息上。

信任附著在人上。

這就是我當年想做IP的原因。

不止是因為做IP能賺錢，也不止是因為做IP能出名，而是因為在一個真假難辨的世界里，一個你長期關注、長期驗證、長期建立了信任關系的活人，是你在信息洪流中唯一可以抓住的錨。

23年我做這個公眾號的第一天，給自己定了一條底線。

真誠是唯一的捷徑。

這并不所謂的雞湯。

這是我自己，在黑暗森林里的生存策略，也是為了對抗這個操蛋的AI時代，唯一的解法。

但說實話，今天，此時此刻，我完全沒有任何我三年前就說對了的得意感，我也完全不想炫耀任何東西。

一點都沒有。

我只有一種深深的不安。

我不知道互聯(lián)網(wǎng)的黑暗森林最終會演化成什么樣子。

我不知道信任的重建需要多長時間，需要什么樣的技術，需要什么樣的共識。

就像現(xiàn)在最主流的識別方案就是加AI水印，顯示水印和數(shù)字水印，比如C2PA。

但去除這些太簡單了。

就像C2PA，只能證明有這個標簽的圖是AI的，但不能證明沒有這個標簽的圖就是真的。

所以一張沒有C2PA標簽的圖片，你依然無法判斷它是真的照片還是被去過標簽的AI圖。

Google有一個叫SynthID的技術，思路稍微不太一樣一點，它是直接在圖像的像素層面嵌入不可見的水印，理論上這種水印更難去除，這個確實我是目前看到的AI檢測效果最好的方式，但是并不兼容其他家，只有Google自己玩。

而且在類似reddit的論壇里，依然有很多的攻破方式。

坦率的講，目前沒有任何一種技術手段，能夠可靠地檢測一張圖片是不是AI生成的。

這就是現(xiàn)實。

就像昨天群友在群里發(fā)的一段話。

那技術不靠譜的時候，我們普通人能做什么？

我想了想，能給的建議真的不多，但我覺得每一條都是有用的。

1. 截圖不等于證據(jù)，這個觀念，需要從今天開始刻進腦子里。

2. 傳播任何圖片之前多停三秒鐘。

3. 關注信息的源頭，而不是信息本身。

最后，如果非要說一句話。

我只能說，在這個黑暗森林里，做一個值得被信任的人。

這可能是我們唯一能做的事。

也可能是，最重要的事。

GPU 訓練特惠！

H100/H200 GPU算力按秒計費，平均節(jié)省開支30%以上！

掃碼了解詳情?

點「贊」的人都變好看了哦！