根據(jù)極目新聞報道,最近有網(wǎng)友說,自己因買藥收到當?shù)亟痪块T發(fā)送的短信,提醒其注銷駕駛證。該網(wǎng)友在往期視頻中透露,自己曾購買鎮(zhèn)靜催眠藥佐匹克隆片和速效救心丸。其向記者證實,短信是真的,自己也買過促進睡眠的藥物,但未再提及是否買過速效救心丸。
根據(jù)其就診購藥記錄,地方交警部門進行大數(shù)據(jù)比對分析,認為該網(wǎng)友可能存在妨礙安全駕駛的疾病。因此,交警部門要求其依法依規(guī)停止駕駛行為,前往車輛管理所辦理駕駛證注銷業(yè)務。
這事兒確實挺駭人:技術(shù)已經(jīng)跑在了治理前面,而程序正義,卻沒看見緊跟其后。
買點藥,怎么就被系統(tǒng)“判定”不適合開車了?這當然令人極度困惑。不過詭異的是,這事兒的出發(fā)點,其實沒問題。
按照現(xiàn)行法規(guī),確實有一類疾病,比如癲癇、嚴重心臟病、精神障礙等,是不允許駕駛的。同時,“藥駕”也不是新問題,服用鎮(zhèn)靜催眠類藥物后駕駛,反應遲鈍、判斷下降,確實可能釀成事故。
從這個角度講,通過數(shù)據(jù)提前篩查風險人群,把事故擋在發(fā)生之前,這種“事前預防”的治理邏輯,看似有其道理。
然而問題不在“要不要做”,而在“怎么做”。
這恰恰也是程序正義之要義:你不能因為一件事情是正確的,就忽視了辦事當中的先后順序和公民權(quán)利。
一個本來需要復雜判斷的問題,被簡化成了一個粗暴的邏輯鏈條:“你買了某類藥→你可能有某種病→你不適合開車”。
于是,就有可能剝奪你的駕照。
這中間跨越了多少現(xiàn)實的復雜性?細節(jié)幾乎全部被抹掉了:買助眠藥,可能只是最近壓力大、睡不好;你買速效救心丸,可能是給父母備著。
甚至,就算是買了這些藥給自己吃,也不代表身體就一定有不符合駕駛規(guī)定的問題啊。
但在算法眼里,這些差異是不存在的。它只看“行為痕跡”,不在乎“行為動機”。于是,“相關性”被當成了“因果性”,一個概率判斷,被當成了接近確定性的結(jié)論。
“技術(shù)還不夠聰明”,還只是能力問題;現(xiàn)在的問題是,它正在悄悄改變程序的運行方式。
![]()
當算法開始參與治理,一個很容易被忽視的轉(zhuǎn)變是:判斷權(quán),正在從“可解釋的人”,轉(zhuǎn)向“不可解釋的系統(tǒng)”。
銀行卡被風控系統(tǒng)錯殺、社交軟件被莫名其妙限制使用……都是類似的問題。
你不知道這套模型是怎么設定閾值的,不知道什么行為會觸發(fā)預警,也不知道自己什么時候被納入了某種“風險標簽”。一切都在后臺靜默運行,而你只在結(jié)果出現(xiàn)時,被動接受通知。
去詢問,答案只有“我們也不知道算法是怎么運作的”。
沒有人直接指控你,但系統(tǒng)已經(jīng)“傾向性地認為你有問題”;沒有正式處罰,但你已經(jīng)開始承擔證明成本;沒有公開決策過程,但結(jié)果卻實實在在影響你的權(quán)利。
這是一種非常隱蔽的管理權(quán)擴張方式:它可以輕松改變規(guī)則,把責任交給算法。
更讓人不舒服的,其實還不光是算法,而是溝通方式。
那條短信的措辭,給人感覺是一種裁決:“30日內(nèi)注銷,逾期作廢”。“先定性、再解釋”,這種冰冷讓很多人都是無法接受的。
哪怕后續(xù)交警解釋說:“這只是一種提醒,可以申訴、可以簽承諾書”,但第一時間傳遞給公眾的信息,是另一種感覺:先認為你有問題,然后你再自證。
你被默認有問題,然后你需要花時間、跑醫(yī)院、開證明,去證明你沒有問題。這就是一個很典型的邏輯轉(zhuǎn)移:舉證責任,從管理者,轉(zhuǎn)移到了個體身上。
而一旦這種邏輯被接受,它就是可以被復制的:今天是“買藥影響駕照”,明天可能是“消費記錄影響金融信用”,后天甚至可能是“社交行為影響某種權(quán)限與資格”。
如果每一個環(huán)節(jié)都以“風險預防”為名,逐步擴大數(shù)據(jù)使用范圍,那最終的結(jié)果,很可能不是更安全的社會,而是一個充滿了不確定性、處處擔心被系統(tǒng)誤判的社會。
這才是“大數(shù)據(jù)濫用”的真正風險——它是以“合理的小步驟”,一點點侵入日常生活。
這件事中間還存在一個數(shù)據(jù)邊界的問題。
你買了什么藥,這是典型的敏感個人信息。那么,這些數(shù)據(jù)是如何流動的?誰有權(quán)調(diào)用?你又是否知情?
當醫(yī)療數(shù)據(jù)和交通管理數(shù)據(jù)被互相打通之后,確實提升了效率,但同時也打開了一扇更大的門。
交通安全、金融風控……再后來可能就是更多你想不到的場景。
技術(shù)上其實永遠沒有障礙,真正的障礙,只有程序掌控者的自我約束。
必須建立一個“反濫用機制”。任何跨部門數(shù)據(jù)調(diào)用,都應有明確授權(quán)、可追溯記錄和獨立監(jiān)督;任何基于算法的預警,都應保留人工復核機制;任何影響公民權(quán)利的決策,都必須可解釋、可申訴、可糾錯。
否則,技術(shù)越先進,風險反而越大。
很多事情,初衷都是“為你好”,結(jié)果卻變成了“先懷疑你,再讓你證明你沒問題”。
技術(shù)可以越變越聰明,但帶來的不應當是“把程序交給算法”,而應當是對程序正義的加倍重視。
特別聲明:以上內(nèi)容(如有圖片或視頻亦包括在內(nèi))為自媒體平臺“網(wǎng)易號”用戶上傳并發(fā)布,本平臺僅提供信息存儲服務。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.