斯諾登警告：OpenAI已經(jīng)卸下偽裝...

文/觀察者網(wǎng)專欄作者 熊節(jié)

2025年5月13日，一家美國聯(lián)邦法院發(fā)出了一項(xiàng)令人震驚的命令。該命令要求OpenAI“保存并隔離所有用戶活動記錄”，即使用戶或企業(yè)希望刪除這些記錄。這項(xiàng)命令意味著，從那天起，全球超過3億用戶每天發(fā)送的超過10億條與ChatGPT的對話，正在被無限期保存——即使用戶點(diǎn)擊了“刪除”。

該命令源于《紐約時報》對OpenAI提起的一起版權(quán)訴訟。但法院的理由令人不安：“刪除數(shù)據(jù)的用戶很可能是試圖抹去痕跡的版權(quán)侵權(quán)者。”換言之，行使刪除權(quán)——一項(xiàng)基本的隱私保護(hù)——正被法院視為犯罪嫌疑的證據(jù)。

OpenAI首席執(zhí)行官薩姆·奧爾特曼（Sam Altman）在社交媒體上警告稱，這一決定“損害了用戶隱私”并“開創(chuàng)了一個糟糕的先例”。但更令人不安的問題是：這些被強(qiáng)制保存的對話中包含什么？用戶向ChatGPT傾訴的醫(yī)療癥狀、財(cái)務(wù)困難、職業(yè)規(guī)劃、個人秘密——所有這些“都可能被出售或贈與，被黑客侵入，或泄露給執(zhí)法部門”。

OpenAI首席執(zhí)行官薩姆·奧爾特曼（Sam Altman）在社交媒體上的回應(yīng)

這并非假設(shè)性的威脅。2023年，三星員工通過ChatGPT泄露了公司的機(jī)密源代碼。這家韓國公司的律師警告說，這些數(shù)據(jù)“無法恢復(fù)，因?yàn)樗鼈儸F(xiàn)在存儲在屬于OpenAI的服務(wù)器上”。蘋果、亞馬遜、摩根大通、高盛、德意志銀行……從科技到金融，從健康到法律，一長串名單揭示了：全球最大、裝備最精良的公司都在限制員工使用ChatGPT。研究顯示，近70%的公司為保護(hù)機(jī)密信息而阻止使用此工具。

如果連這些擁有最先進(jìn)網(wǎng)絡(luò)安全團(tuán)隊(duì)的跨國公司都無法安全使用ChatGPT，全球南方的政府和企業(yè)又怎能做到呢？

企業(yè)監(jiān)控僅僅是冰山一角。當(dāng)愛德華·斯諾登（Edward Snowden）——這位揭露美國大規(guī)模監(jiān)控計(jì)劃“棱鏡”（PRISM）的舉報人——發(fā)出警報時，我們必須意識到，問題遠(yuǎn)比企業(yè)數(shù)據(jù)泄露嚴(yán)重得多。

愛德華·斯諾登

01.從“棱鏡”到ChatGPT：監(jiān)控的升級

2024年6月，OpenAI任命美國國家安全局（NSA）前局長保羅·中曾根（Paul Nakasone）將軍為其董事會成員。愛德華·斯諾登在社交媒體上發(fā)布了自被迫流亡以來最嚴(yán)厲的警告之一：“他們已經(jīng)徹底撕下了面具：永遠(yuǎn)不要信任OpenAI或其產(chǎn)品。這是對地球上每個人權(quán)利的有意識的、精心策劃的背叛。你們已經(jīng)被警告了。”

“棱鏡門”披露者斯諾登警告：OpenAI已經(jīng)卸下偽裝……

斯諾登并非空穴來風(fēng)。2013年，他冒著巨大的個人自由風(fēng)險，揭露了NSA的“棱鏡”計(jì)劃——一個直接從谷歌、Facebook和蘋果等科技巨頭收集數(shù)據(jù)、在沒有司法授權(quán)的情況下進(jìn)行大規(guī)模監(jiān)控的計(jì)劃。“棱鏡”丑聞引發(fā)了全球震蕩，導(dǎo)致許多國家加強(qiáng)了隱私保護(hù)法律，歐盟也推出了《通用數(shù)據(jù)保護(hù)條例》（GDPR）。

斯諾登現(xiàn)在警告說，ChatGPT是一個比“棱鏡”更強(qiáng)大的監(jiān)控工具。為什么？“棱鏡”是被動地收集通信數(shù)據(jù)；ChatGPT則讓用戶主動提供他們最私密的想法。“棱鏡”主要收集元數(shù)據(jù)（誰聯(lián)系了誰）；ChatGPT收集完整內(nèi)容——人們的思想、計(jì)劃、擔(dān)憂、秘密。“棱鏡”涉及數(shù)百萬用戶；ChatGPT擁有超過3億用戶，每天處理超過10億條信息。更關(guān)鍵的是，“棱鏡”的曝光引發(fā)了抵抗和法律改革；而ChatGPT的監(jiān)控行為已被公之于眾，卻繼續(xù)被廣泛接受和使用。

一些評論家甚至稱ChatGPT為“有史以來最大的監(jiān)控?cái)?shù)據(jù)庫——NSA夢寐以求的數(shù)據(jù)庫”。

02.OpenAI承認(rèn)其在監(jiān)視用戶

斯諾登的警告并非基于猜測，而是基于他對監(jiān)控機(jī)器如何運(yùn)作的深刻理解。更令人不安的是，我們甚至不需要舉報人來證明OpenAI在監(jiān)控用戶。OpenAI自己的報告就已經(jīng)承認(rèn)了這一點(diǎn)。

2025年10月，該公司發(fā)布了一份題為《打擊惡意使用AI”的報告》。該文件自豪地宣布，自2024年2月以來，它“阻止并報告了”超過40個違反其使用政策的網(wǎng)絡(luò)。報告詳細(xì)披露，與中國政府有關(guān)的賬戶會使用ChatGPT起草大規(guī)模社交媒體監(jiān)控系統(tǒng)的提案。據(jù)稱，俄羅斯組織試圖優(yōu)化入侵病毒，以遠(yuǎn)程訪問系統(tǒng)并竊取特權(quán)用戶的憑證。據(jù)稱，朝鮮黑客創(chuàng)建了旨在攻擊韓國的入侵內(nèi)容。

OpenAI的聲明以及該報告的目錄頁

OpenAI將這些披露描述為打擊“惡意使用”的成就。但該報告無意中揭示了一個更深層次的真相：為了識別這些特定的“惡意使用”案例，OpenAI必須擁有并使用其常規(guī)監(jiān)控所有用戶對話的能力。

思考其技術(shù)邏輯：為了發(fā)現(xiàn)一個據(jù)稱正在開發(fā)維吾爾人監(jiān)控系統(tǒng)的中國用戶，OpenAI需要訪問和分析該用戶的所有對話內(nèi)容；部署實(shí)時或近實(shí)時的監(jiān)控系統(tǒng)；能夠分析內(nèi)容并識別模式；能夠?qū)⒂脩襞c特定國家或組織關(guān)聯(lián)；然后主動選擇披露哪些案例。

最關(guān)鍵的問題是：OpenAI只披露其認(rèn)為是“敵對國家”（中國、俄羅斯、伊朗、朝鮮）的案例。那么西方國家呢？美國的盟友呢？該報告保持沉默。這種選擇性披露恰恰證明，OpenAI可以監(jiān)控所有國家，但只選擇披露符合美國地緣政治利益的部分。如果他們能監(jiān)控中國和俄羅斯，他們就能監(jiān)控巴西、印度、南非——以及全球南方的所有國家。

2025年8月，OpenAI在一篇官方博文中公開承認(rèn)，該公司正在掃描ChatGPT上的用戶對話，并向警方報告內(nèi)容。具體機(jī)制是：用戶“計(jì)劃對他人造成傷害”的對話會被轉(zhuǎn)到專門的審查渠道，由經(jīng)過培訓(xùn)的人工審核員進(jìn)行審查。如果審核員確定某個案例涉及“對他人構(gòu)成迫在眉睫的嚴(yán)重身體傷害威脅”，該案例將被轉(zhuǎn)交給執(zhí)法部門。

但標(biāo)準(zhǔn)何在？“對他人造成傷害”意味著什么？由誰來定義？這些標(biāo)準(zhǔn)會隨著政治環(huán)境而改變嗎？今天是“迫在眉睫的暴力威脅”。明天是否會涵蓋政治異見、墮胎咨詢、關(guān)于性取向的討論？

03.言辭與實(shí)踐之間的驚人鴻溝

OpenAI的“官方執(zhí)法部門用戶數(shù)據(jù)請求政策”明確聲明：只有在收到合法的搜查令后，才會披露用戶的對話內(nèi)容。 但現(xiàn)實(shí)如何？OpenAI主動監(jiān)控所有用戶對話（上文引用的報告已證明了這一點(diǎn)）；自行判斷什么構(gòu)成“惡意使用”，主動向執(zhí)法部門報告（而不僅僅是響應(yīng)請求），并發(fā)布威脅情報報告公開披露用戶行為——所有這一切都無需任何法律程序。

歐洲監(jiān)管機(jī)構(gòu)已意識到這一點(diǎn)。2024年12月，意大利數(shù)據(jù)保護(hù)局以“在沒有適當(dāng)法律依據(jù)的情況下處理個人信息”和“違反透明度原則”等理由，對OpenAI處以1500萬歐元的罰款。 隱私研究員Lukasz Olejnik在向波蘭數(shù)據(jù)保護(hù)局提交的17頁投訴中更為直接：“OpenAI似乎承認(rèn)，ChatGPT工具模型的開發(fā)方式，在根本上不符合歐盟《通用數(shù)據(jù)保護(hù)條例》（GDPR）的要求”。

歐盟《通用數(shù)據(jù)保護(hù)條例》（GDPR）

這不是OpenAI的疏忽，而是其商業(yè)模式的根本問題。OpenAI對意大利罰款的回應(yīng)暴露了其邏輯：罰款“幾乎是（在該國）收入的20倍”——這意味著該公司在該國賺的錢很少，但數(shù)據(jù)收集的價值是巨大的。罰款僅僅是收集數(shù)據(jù)的“成本”。

04.與美國政府的戰(zhàn)略融合

OpenAI與美國政府的關(guān)系遠(yuǎn)遠(yuǎn)超出了普通的商業(yè)合作。從人事角度看，OpenAI董事會成員保羅·中曾根是美國國家安全局的前局長，負(fù)責(zé)美國的情報和網(wǎng)絡(luò)戰(zhàn)行動。另一位董事會成員威爾·赫德（Will Hurd）曾是中情局（CIA）的官員，并任職于In-Q-Tel（中情局的主要投資部門）的董事會。

保羅·中曾根，OpenAI董事會成員，日裔美國人，曾任美國國家安全局（NSA）局長，也是在任時間最長的美國網(wǎng)絡(luò)司令部司令和中央安全局（CSS）局長。

威爾·赫德，OpenAI前董事，美國共和黨總統(tǒng)參選人，美國得克薩斯州國會議員。

從商業(yè)合作角度看，OpenAI推出了ChatGPT Gov，這是專為美國政府機(jī)構(gòu)設(shè)計(jì)的服務(wù)。令人震驚的細(xì)節(jié)包括與美國總務(wù)管理局的一項(xiàng)協(xié)議。該協(xié)議為這些機(jī)構(gòu)提供ChatGPT企業(yè)版，每年每家機(jī)構(gòu)僅需1美元。這實(shí)質(zhì)上是一種捐贈。

從技術(shù)整合的角度看，ChatGPT Gov允許美國政府機(jī)構(gòu)將“敏感的非公開數(shù)據(jù)”輸入OpenAI的模型，進(jìn)行絕密數(shù)據(jù)處理。OpenAI的GPT-4o通過微軟Azure集成到美國政府云中。這意味著承擔(dān)秘密工作職責(zé)的聯(lián)邦機(jī)構(gòu)，包括國防部，可以使用GPT-4o執(zhí)行不向公眾披露的任務(wù)。

一個揭示性的雙重標(biāo)準(zhǔn)：OpenAI堅(jiān)稱不會使用美國聯(lián)邦雇員輸入的數(shù)據(jù)來訓(xùn)練其模型，這為美國政府提供了“數(shù)據(jù)防火墻”。但在其他國家的用戶卻沒有這樣的保護(hù)。

每年1美元的價格不是商業(yè)交易，而是戰(zhàn)略合作。這9萬名政府用戶的1800萬條信息中包含什么內(nèi)容？這些信息是如何被使用的？與此同時，中情局（CIA）也在開發(fā)自己版本的ChatGPT，名為Osiris，供美國18家監(jiān)視機(jī)構(gòu)的數(shù)千名分析師使用。 大型語言模型（LLM）與間諜活動之間的界限正在消失。

05.“大規(guī)模監(jiān)視”到“大規(guī)模窺探”

安全專家布魯斯·施奈爾（Bruce Schneier）警告說，AI使得監(jiān)控發(fā)生了質(zhì)變——從“大規(guī)模監(jiān)視”轉(zhuǎn)向“大規(guī)模窺探”。 區(qū)別在于：監(jiān)視是收集和存儲；窺探是理解和利用。傳統(tǒng)監(jiān)視只能進(jìn)行關(guān)鍵詞搜索；AI可以“理解”上下文和隱含意義，同時分析數(shù)十億次對話并識別復(fù)雜的模式。美國公民自由聯(lián)盟（ACLU）指出，大型語言模型使得“被有效監(jiān)控的通信數(shù)量將大幅增加”。

一個更隱蔽的威脅是訓(xùn)練數(shù)據(jù)的污染。亞馬遜員工稱曾看到ChatGPT“模仿”了公司內(nèi)部數(shù)據(jù)，雖然沒有完全復(fù)制——但“足夠令人信服”。 這意味著：即使你沒有直接輸入信息，ChatGPT也可以通過聚合他人的輸入來重建敏感信息。在全球南方國家，即使政府禁止員工使用OpenAI的系統(tǒng)，只要第三方（外國情報機(jī)構(gòu)、跨國公司）使用它，ChatGPT就可能“學(xué)會”他們的國家機(jī)密。

外媒關(guān)于此事件的報道

06.全球南方的數(shù)字主權(quán)危機(jī)

中國已完全禁止ChatGPT。2025年1月29日，印度財(cái)政部發(fā)布通知，限制政府雇員在公務(wù)工作中使用ChatGPT和DeepSeek等AI工具，理由是這些工具依賴海外服務(wù)器存儲和處理數(shù)據(jù)，導(dǎo)致政府無法控制敏感信息的使用。 巴西研究人員已向數(shù)據(jù)保護(hù)局請?jiān)福笳{(diào)查ChatGPT違反巴西《通用數(shù)據(jù)保護(hù)法》（LGPD）的行為，指出OpenAI甚至?xí)峁┌臀鞴娙宋锏膫€人稅號（CPF）。

但警惕不等于應(yīng)對能力。聯(lián)合國貿(mào)易和發(fā)展會議（UNCTAD）指出，全球南方國家正面臨“新一輪的數(shù)字殖民主義”。一個三重困境：數(shù)據(jù)主權(quán)喪失、技術(shù)依賴（芯片、模型、云服務(wù)均由少數(shù)公司控制）以及價值觀被強(qiáng)加（硅谷價值觀通過AI在全球范圍內(nèi)植入）。 構(gòu)建新的人工智能極其昂貴，而芯片的獲取受到嚴(yán)格控制。即使投入巨資，“你仍然無法消除對外國的依賴”。

07.一個關(guān)于殖民主義的警示

AI時代權(quán)力不平等再現(xiàn)了歷史上的殖民模式：全球南方國家提供數(shù)據(jù)（原材料）。這些數(shù)據(jù)流入美國的服務(wù)器進(jìn)行處理和利用。北方控制著處理能力，然后向南方出售AI服務(wù)（成品）。利潤和控制權(quán)仍留在北方。這不是比喻，而是經(jīng)濟(jì)現(xiàn)實(shí)。作者的研究表明，僅谷歌一家，在2024年為其資產(chǎn)增加了價值360億美元的用戶數(shù)據(jù)。然而，關(guān)于數(shù)據(jù)價值的核算、權(quán)利的確定和利益的分配的國際討論幾乎不存在。

最深層的殖民主義是意識形態(tài)。定量分析表明，即使是本土的大型模型也表現(xiàn)出中等到高度的西方意識形態(tài)偏見——因?yàn)橛?xùn)練數(shù)據(jù)集嚴(yán)重依賴英語內(nèi)容，西方控制的信息源獲得了過高的權(quán)重。

08.另一條道路：與中國的主權(quán)合作

全球南方國家通過自力更生獨(dú)立構(gòu)建完整的信息通信技術(shù)體系的歷史窗口已經(jīng)關(guān)閉。現(xiàn)實(shí)是：中國和美國在AI研發(fā)上的投入達(dá)萬億美元級別，而印度的IndianAI項(xiàng)目僅為12.5億美元。 但這并不意味著絕望。全球南方有兩個選擇：要么繼續(xù)使用美國的基礎(chǔ)設(shè)施，忍受數(shù)據(jù)攫取、意識形態(tài)灌輸和安全威脅；要么在維持和加強(qiáng)數(shù)字主權(quán)的條件下，與中國建立技術(shù)合作。

根據(jù)數(shù)字主權(quán)指數(shù)（DSI）的評估，中國是除美國之外唯一擁有完全數(shù)字主權(quán)的國家，DSI得分為4.25。 具體的合作路徑包括：第一，通過BOT（建設(shè)-運(yùn)營-移交）等模式共建數(shù)字基礎(chǔ)設(shè)施；第二，合作開發(fā)數(shù)據(jù)要素，量化數(shù)據(jù)資產(chǎn)價值并談判互惠互利的機(jī)制；第三，互鑒治理經(jīng)驗(yàn)；第四，聯(lián)合培養(yǎng)人才，包含技術(shù)轉(zhuǎn)讓和能力建設(shè)。

09.行動時刻已到

2025年5月，一家美國法院命令OpenAI無限期保存所有用戶對話。全球超過3億的用戶中，很少有人意識到他們的醫(yī)療咨詢、財(cái)務(wù)規(guī)劃、職業(yè)焦慮、個人秘密，現(xiàn)在被強(qiáng)制存儲在OpenAI的服務(wù)器上，可能“被出售或贈與，被黑客侵入或泄露給執(zhí)法部門”。

2023年，當(dāng)一位三星工程師打開ChatGPT尋求代碼幫助時，他以為只是在使用一個便捷的工具。他沒有意識到，他公司的秘密“現(xiàn)在技術(shù)上已掌握在OpenAI手中”并且“無法恢復(fù)”。三星可以禁止ChatGPT，蘋果可以開發(fā)自己的AI工具，高盛可以阻止這項(xiàng)服務(wù)。但全球南方的小企業(yè)呢？他們的政府部門呢？研究機(jī)構(gòu)呢？他們有三星的資源嗎？有蘋果的技術(shù)能力嗎？

當(dāng)愛德華·斯諾登說OpenAI是“對地球上每個人權(quán)利的有意識的背叛”時，他并非危言聳聽。他是基于對美國監(jiān)控機(jī)器的深刻理解發(fā)出這一警告。當(dāng)安全專家布魯斯·施奈爾說我們正從“大規(guī)模監(jiān)視”轉(zhuǎn)向“大規(guī)模窺探”時，他揭示了監(jiān)視性質(zhì)的轉(zhuǎn)變：不僅僅是收集數(shù)據(jù)，而是理解、處理和利用數(shù)據(jù)。

對于全球南方國家而言，這不僅是隱私問題，更是主權(quán)問題。數(shù)據(jù)是新石油，AI是新基建。將數(shù)據(jù)和AI的控制權(quán)交給美國公司，就像歷史上將自然資源和基礎(chǔ)設(shè)施的控制權(quán)交給殖民者一樣。

2025年7月，金磚國家領(lǐng)導(dǎo)人通過人工智能全球治理宣言

歷史的窗口可能已經(jīng)關(guān)閉，但選擇的窗口依然敞開。全球南方國家可以選擇繼續(xù)被動接受美國的數(shù)字殖民主義，也可以選擇與中國等國家合作，在采用先進(jìn)技術(shù)的同時，維持和加強(qiáng)自身的數(shù)字主權(quán)。數(shù)字主權(quán)指數(shù)（DSI）框架提供了評估和跟蹤的工具。四項(xiàng)具體建議提供了一條行動路徑。所缺乏的不是方案，而是決心。

當(dāng)政府雇員使用ChatGPT起草官方文件時；當(dāng)企業(yè)使用ChatGPT進(jìn)行商業(yè)規(guī)劃時；當(dāng)研究人員使用它進(jìn)行調(diào)查研究時，必須意識到：這些對話可能正在被OpenAI監(jiān)控、分析，并與美國情報機(jī)構(gòu)共享。

2025年5月法院命令的教訓(xùn)是：即使你點(diǎn)擊“刪除”，數(shù)據(jù)仍可能被強(qiáng)制保存。三星案例的教訓(xùn)是：一旦上傳，數(shù)據(jù)就“無法恢復(fù)”。對全球南方國家的教訓(xùn)應(yīng)該是：數(shù)字主權(quán)一旦喪失，就難以挽回。