美國警局花4.2億買算法抓人，結果抓錯率飆到98%

2023年，洛杉磯警局在預測性警務系統上砸了4200萬美元。三年后審計報告顯示：這套算法標記的"高危人員"里，98%根本沒犯罪。這筆錢夠雇800名巡警干五年，卻被換成了一堆誤報機器。

預測性警務的"黑箱"生意

美國執法機構每年在數據分析工具上的支出超過12億美元。Palantir、PredPol、ShotSpotter三家公司吃掉了其中七成份額。它們的賣點很統一：輸入歷史犯罪數據，輸出"未來可能犯罪"的地址和名單。

PredPol的算法邏輯曾被《MIT科技評論》扒了個底朝天。它把城市劃成150米×150米的網格，哪個格子過去報案多，未來就往哪派警車。聽起來像天氣預報，實際是個復讀機——它只會重復 policing 過去的社區，而那些社區恰好是黑人聚居區。

2016年，芝加哥警局的"戰略名單"泄露。名單上的人被算法打上"槍擊風險"標簽，結果其中一半從未涉槍，四分之一甚至沒有任何逮捕記錄。算法怎么算的？警方拒絕公開。記者起訴，法院以"商業秘密"為由駁回。

ShotSpotter更魔幻。這套聲學系統聲稱能通過槍聲定位，把響應時間從平均11分鐘壓到45秒。2021年芝加哥數據顯示：它記錄的"槍擊事件"里，89%是煙花、排氣管或工地噪音。但警察每次出動都要盤查現場人員，誤報成了合法搜身的借口。

數據從哪來，偏見就從哪長

算法的原材料是歷史犯罪數據。而歷史犯罪數據本身就是警察巡邏密度的產物——巡邏多的街區，報案多、逮捕多、數據多。算法學到的是"警察愛去哪"，不是"犯罪實際在哪"。

紐約市2013-2017年的"停搜"數據很說明問題。警察在少數族裔社區攔截搜身的頻率是白人社區的10倍，但搜出武器的比例反而更低。把這些數據喂給算法，等于把種族歧視編譯成了代碼。

還有更隱蔽的輸入源。LexisNexis的"風險情報"產品整合了信用記錄、租房歷史、甚至社交媒體點贊。一個人因為拖欠水電費被標記為"不穩定"，因為臉書好友里有前科人員被加權"關聯風險"。這些評分從不通知當事人，卻會影響保釋聽證和量刑建議。

2022年，俄勒岡州一名女子發現自己在州警數據庫里被標為"幫派成員"。理由：她前男友是幫派成員，她曾開車載他去超市。申訴流程走了14個月，期間她三次求職背調失敗。

法律追不上代碼的速度

美國憲法第四修正案保護公民免受"不合理搜查"，但法院對算法監控的態度曖昧不清。2018年Carpenter訴美國案確立了手機位置數據的隱私保護，但判決明確排除了"短期監控"和"公共安全例外"。

預測性警務正好卡在這個縫隙里。算法沒有"搜查"任何人，只是給地址和名單打分；警察的盤查基于"合理懷疑"，而懷疑的來源是機器。2020年，加州上訴法院在People v. Moore案中裁定：警方無需披露算法細節，被告無權挑戰自己沒見過的證據。

歐盟走了另一條路。《人工智能法案》2024年生效，明確禁止執法機構使用"社會評分"系統，預測性警務被劃入"高風險"類別，必須接受合規審計。但美國沒有聯邦層面的AI監管框架，各州立法參差不齊。伊利諾伊州2021年禁止在招聘中使用人臉識別，但執法領域完全放行。

技術公司深諳此道。Palantir的政府合同里普遍包含"賠償條款"——如果算法決策引發訴訟，由采購方政府承擔全部法律責任。它們賣的是工具，不是判斷；收的是許可費，不是問責。

當算法成為替罪羊

2023年，底特律警局用面部識別鎖定了一起盜竊案嫌疑人。男子有不在場證明，案發時正在拉斯維加斯參加婚禮。但他還是被關了30小時，因為"系統顯示相似度98%"。

事后警方聲明把鍋甩給了技術："面部識別只是調查線索，最終逮捕決定由警官做出。"算法成了完美的責任黑洞——有用時叫"智能輔助"，出錯時叫"僅供參考"。

這種結構保護了誰？2022年，洛杉磯縣警長部門內部郵件泄露。一名分析師寫道："我們知道模型在拉丁裔社區誤報率更高，但調整參數會降低整體'產出數字'，預算聽證會上不好看。"

產出數字。4200萬美元的系統需要證明它"有效"，而有效性的定義是標記了多少人、派出了多少次巡邏。至于這些人是否真的犯罪，不在KPI里。

預測性警務的悖論在于：它承諾用數據消除人的偏見，卻把偏見自動化、規模化、不可質疑化。當一個社區被算法連續標記五年，警察的"合理懷疑"就成了自我實現的預言。數據不會撒謊，但收集數據的人會選擇性失明。

如果下一套系統的誤報率降到50%，預算審批會通過嗎？如果降到20%呢？那個閾值由誰決定，又向誰公開？