賽格特約作者 丁 慧
本月初,一款限量版AI助手手機發布,旋即引發科技行業大討論。有人認為這是大勢所趨,也有人認為這是創新歧路,但不管什么看法,AI在加速融入現實世界的進程中,必將造成的數據泄露和隱私災難,后果比互聯網時代將有過之而無不及。
![]()
過去三十年里,在進步主義思潮與摩爾定律的牽引下,信息技術發展主要呈現出光鮮亮麗的一面,但在閃亮背后,也一直貯藏著黑灰產泛濫的“暗面”。
尤其近二十年里,全球經歷了大量因數據、隱私泄露而引發的嚴重后果,黑灰產也在這些事件中不斷壯大,形成了成熟的跨國鏈條;人們在一次次事件中形成對信息泄露風險的認知框架,任何與數據權限相關技術突破,都可能成為黑客利用的入口。
這種公眾感知,使得AI助手不被當成一個單一的產品,而應被放置在一條足夠長的技術演化時間線中被檢視和評估。
![]()
風險如何層層累積
如果說移動互聯網的本質是“服務觸達用戶”,那么AI時代,手機與則正在變成“代理替代用戶”。從讀取用戶信息,到代用戶操作手機,再到模仿用戶的身份,技術的每一次進步都擴大了智能應用的能力半徑。
要理解今天的爭議,必須回到過去三十年全球數據泄露史的起點。因為AI手機助手的出現并不是創造了一個新矛盾,而是舊邏輯在新技術環境下的再次出現。
回到上世紀九十年代末,那是互聯網野蠻生長的時代。人們對數據的認識非常粗淺,信息的存儲、加密、防護幾乎都還處在探索期。
黑客行為也主要源自個人興趣,其后果更多停留在局部數據庫損壞、郵件泄露或賬號盜取這樣的范圍內。
1998年雅虎(Yahoo)首度被攻破,當時僅數百萬用戶受影響,事件并未引起公共層面的大規模討論,但是這次事件第一次引發了世界范圍層面的思考:互聯網世界并不是只是一個抽象的空間,它也可以被用來攻擊現實世界。
當時的大多數人還沒有意識到這意味著什么,但黑灰產開始通過這類事件中出現。用戶信息第一次以商品的形式被出售;密碼庫開始在地下傳播;“社工庫”的概念也正式成形。
同一時期,在中國則出現了大量QQ號被盜號、游戲裝備被盜、木馬程序被批量植入個人電腦等現象。這些行為通常是為了錢。
彼時互聯網用戶數量迅速上升,但安全體系尚未建立,用戶也缺乏防范意識,政府層面的監管尚也尚未形成,黑灰產也由此積累了“原始資本”:大量可被反復使用的個人數據,以及一批具備黑客技術與分發渠道的早期黑產操作者。可以說,這一時期奠定了日后黑灰產的生態基礎。
真正的轉折發生在2010年前后。智能手機的普及改變了互聯網的結構和生態,數據量前所未有,對用戶信息的收集程度也前所未有,用戶的每一次輸入、每一次登錄、每一次位置變化,都成為了平臺能夠記錄的數據點。
在這一時期,數據泄露事件進入了指數級增長階段,也產生了真正意義上的全球性影響。Adobe在2013年被曝出1.5億用戶密碼泄露,這讓世界第一次意識到:企業規模越大,泄露的風險也越大。因為數據的集中意味著信息泄漏后也會產生巨大影響。
![]()
全球規模最大的十起數據泄露事件
隨后爆發雅虎30億賬戶泄露事件更是改變了整個行業的認知體系。2013年,雅虎30億賬戶被黑,這是迄今為止規模最大的數據泄露事件。當時,這家互聯網巨頭市場估值直接縮水,引發全美國范圍的公開訴訟。由此,也讓整個資本市場第一次把“數據風險”納入企業估值的核心指標。
如果說這些事件主要威脅的是個人賬號安全,那么2015年約會激情公司(Ashley Madison)事件則把數據泄露的風險推到了更危險的層面。
該網站因婚外情主題而有極高的敏感性。2015年8月18日,黑客在線公布了近10億遭竊取的數據,3200萬注冊用戶的真實信息被公開,引發大規模家庭破裂和數起自殺案件。這也使人們第一次認識到,數字隱私并非只是一堆虛擬的代碼,而擁有能夠直接摧毀現實生活的力量。它迫使世界重新定義“隱私”的含義——不是信息的私密性,人之為人的尊嚴與安全。
再往后,2017年,美國征信機構Equifax信用體系泄露讓全球金融體系受到震蕩。1.43億人的信用信息被泄露,包括名稱、社會保障號、出生日期、地址、以及一些駕駛執照號碼等,這也讓美國一半人口暴露于信息泄漏的危險之下。Equifax為此支付了6.5億美元與美國聯邦貿易委員會(FTC)等監管機構和解。
這次事件的影響很大,它意味著,黑客第一次掌握了足以讓一個國家的公民長期遭受風險的數據量。從那之后,“數據主權”“身份安全”“算法風險”成為全球監管詞典中的關鍵詞。
中國也在十年后經歷了信息泄露的全面爆發期。快遞面單泄露使精準詐騙迅速蔓延,比如,不少人都接到過“你有一個快遞被退回”的詐騙電話;教育培訓機構、房產中介、醫院等行業內部倒賣用戶數據,使黑灰產的發展獲得了前所未有的“入口資源”;社交、電商、支付等平臺之間缺乏有效隔離,使同一套數據也可以被重復利用。
2018年浙江紹興越城區警方偵破了堪稱國內“史上最大規模數據竊取案”。警方查明,一伙犯罪分子利用非法竊取的30億條用戶數據,操控用戶賬號進行微博、微信、QQ、抖音等社交平臺的加粉、刷量、加群、違規推廣,非法獲利,旗下一家公司一年營收就超過3000萬元。其數據來源是,非法從運營商流量池中獲取用戶數據,百度、騰訊、阿里、今日頭條等全國96家互聯網公司用戶數據被竊取。
![]()
黑產公司先后與全國多家運營商簽訂正式的服務合同,為其提供精準廣告投放系統的開發、維護。
可以看到,2018年后,AI迅速突破能力邊界時,深度偽造(Deepfake)、語音克隆、自動化執行等技術開始成為黑灰產業利用的新武器。之前的詐騙者需要積累經驗、訓練員工、編寫腳本,而現在,一個能克隆用戶聲音的模型、一個能模擬用戶輸入的自動化程序,就能完成過去整個團隊才能完成的流程。
換句話說,當AI技術成熟到一定程度,它不再只是幫助黑灰產提高效率,而是讓黑灰產完成了從“偷信息”向“偷身份”質的轉變。無論是美國克隆CEO語音,還是國內頻出的AI換臉貸款事件,都指向一個現實,AI時代,信息風險的本質已經改變,攻擊者不再需要你,他們只需要“像你”。
這正是為什么AI助手會成為時代爭議的焦點,它并非止于黑灰產,甚至帶著善意降臨,但它讓社會第一次直視這一問題:當AI具備跨應用執行能力時,它是否觸碰到了與“身份執行權”相關的邊界?
![]()
從偷信息到偷身份
過去系統權限的設計邏輯,是為應用設置隔離,為用戶提供可控性;但AI的代理模式正在打破傳統應用間的壁壘,使得權限成為可流動、可調度的資源。這種能力一旦缺乏透明的機制或清晰的制度約束,就必定會成為黑灰產的幫兇。
實際上,公眾的擔憂并不在于AI助手這一次會出問題,而在于所有能力突破后的監管的空白。
俗話說,“道高一尺,魔高一丈”,技術每前進一步,黑客技術也會隨之升級,黑灰產也會進一步發展,而治理往往滯后半步。
![]()
黑客盜取數十億用戶的面部照片
當執行權、行為權、身份權正在被AI重塑時,我們必須重新討論智能體的權限邊界:哪些操作可以自動執行、哪些必須人工確認、哪些必須要求應用或系統雙向授權、哪些必須被強制記錄、哪些必須無法被記錄。
從這個意義上說,此次,AI助手手機風波讓我們看見,從互聯網誕生之日起不斷累積的信息風險,在AI到來之后發生了質變:信息技術不再只是處理信息的工具,而正在成為一種能夠影響現實社會中人的行為,甚至擁有重構現實身份的力量。
而任何能夠進入手機系統底層的智能應用,不論來自哪家公司、采用何種技術路線,都需要被納入新的安全框架之中。我們所需要的不僅是避免泄露,而是確保任何AI的行動都可被理解、可被追蹤、可被阻止。這將是未來十年的AI發展的關鍵競爭力,也將決定數字社會的穩定與信任基礎。
AI助手事件之后,AI作為手機的智能助手仍會繼續發展,技術進步也不會停止。真正的問題從來不是“要不要AI”,而是“如何讓AI在能力不斷增強的同時,保持清晰的邊界、保持可控的執行、保持數據的獨立”。
當AI已經開始“代替我們行動”,人類需要思考的不是如何限制技術,而是如何重新定義“身份”的含義:什么是我們自己的決定,什么是智能手機可替代的行為,什么必須嚴格由我們掌控。這將是數字時代最重要的公共議題之一,而AI手機助手事件只是這一議題的開端。
正如柯林伍德所說,歷史的價值不在告訴我們人做過什么,而在于告訴我們“人是什么”。以這句話來審視過去數十年數據泄露的歷史,我們會發現那些看似遙遠的事件,其實都在揭示同一件事:
當技術擴展了人的能力,它也同步擴展了人的愚昧、盲目、自大、貪婪與僥幸。如果忽視這些沉重的歷史,社會將一次又一次在新的場景中重復過去的錯誤,甚至以更高的代價重蹈覆轍。
特別聲明:以上內容(如有圖片或視頻亦包括在內)為自媒體平臺“網易號”用戶上傳并發布,本平臺僅提供信息存儲服務。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.