真的有“犯罪臉”嗎？科學(xué)算法里隱藏的歧視

“刷臉”好像隨著人臉識別的發(fā)展變得越來越流行。在支付寶里付款，給手機(jī)解開密碼，在酒店里識別身份……但是，如果我們將人臉識別應(yīng)用到識別罪犯當(dāng)中，這是一件好事嗎？19世紀(jì)興起的顱相學(xué)討論一度沉寂，如今，又悄悄地跟著能夠認(rèn)臉的AI死灰復(fù)燃，這究竟意味著什么？對我們的現(xiàn)實(shí)生活有多大的影響？今天這篇文章里，Catherine Stinson為我們解釋這一切。
此文依法譯自AEON，如需轉(zhuǎn)載，請聯(lián)系我們，侵權(quán)必究。

算法：長相、犯罪及其黑暗的過去

By: Catherine Stinson

01

“顱相學(xué)" (Phrenology)這個頗有年代感的詞，聽上去像是收錄在某本歷史書中的一個章節(jié)，大概排在“放血”（bloodletting）之后，“舊式自行車”（velocipede）之前。雖然我們會認(rèn)為“根據(jù)一個人頭骨的大小和形狀來評判其價值”這種行為早已被社會擯棄，但現(xiàn)實(shí)是，我們正又一次漸漸步入顱相學(xué)那顆丑陋大腦袋的陰影之下。近年來，基于機(jī)器學(xué)習(xí)的算法讓各國政府和眾多私營企業(yè)得以從人們的外貌提取出各類信息。現(xiàn)有好幾個初創(chuàng)企業(yè)（startup）聲稱，他們能夠使用人工智能（AI）分析應(yīng)聘者的面部表情，幫助雇主識別其性格特征。中國政府已率先利用監(jiān)控攝像頭來辨別、追蹤少數(shù)民族人口。與此同時，有報道稱一些學(xué)校也安裝了智能攝像頭。這些攝像頭能根據(jù)面部動作和挑眉等微表情自動檢測并懲罰走神的學(xué)生。

可能最臭名昭著的例子還是幾年前，人工智能研究人員吳曉林和張希聲稱成功研發(fā)出了一套根據(jù)臉型辨別罪犯的算法，其準(zhǔn)確率高達(dá)89.5%。他們并沒有發(fā)展到支持19世紀(jì)盛行的面相學(xué)（physiognomy）觀點(diǎn)的程度。當(dāng)時最著名的理論由意大利犯罪學(xué)家切薩雷·龍勃羅梭 (Cesare Lombroso)提出，他認(rèn)為罪犯都是進(jìn)化不完全的、非人的野獸，在外貌上表現(xiàn)為前額陡峭，鷹鉤鼻。然而，吳曉林和張希在研究中收集與犯罪相關(guān)的面部特征，這一看似高科技的研究方法卻直接借鑒了維多利亞時代博學(xué)家弗朗西斯·高爾頓（Francis Galton）的“影像合成法”（photographic composite method）。這種方法涉及把某類人的臉全部重疊在一起，然后找出象征健康、疾病、美貌和犯罪等等的外貌特征。

02

技術(shù)評論家們把這些面部識別技術(shù)稱為“字面意義的顱相學(xué)”，并將其跟提倡人們擇優(yōu)繁衍從而改良人類種族的偽科學(xué)——優(yōu)生學(xué)（eugenics）聯(lián)系在一起。（“優(yōu)生學(xué)”這個詞是高爾頓自己發(fā)明的。他在1883年描述道，優(yōu)生學(xué)泛指“所有有益于‘優(yōu)越種族’的影響，不論其大小。這種影響能讓他們更快地戰(zhàn)勝‘劣等種族’”。）

在某些情況下，這些科技的明確目的就是要剝奪這些格格不入的人那些格格不入者的機(jī)會；而有時，這雖然可能并不是他們的目的，卻也是可以預(yù)料到的結(jié)果。當(dāng)我們給算法貼上顱相學(xué)的標(biāo)簽來否定其價值時，我們到底是在指出什么問題呢？我們是在強(qiáng)調(diào)這些方法在科學(xué)上存在缺陷而無法產(chǎn)生效果呢？還是在強(qiáng)調(diào)不論如何，使用這些方法本身就有悖道德呢？

關(guān)于顱相學(xué)的研究

把“顱相學(xué)”用作對人的尖酸侮辱背后有著一段悠久而錯綜復(fù)雜的歷史。盡管哲學(xué)和科學(xué)的立場不斷發(fā)生著改變，但兩者對這一實(shí)踐的批判聲始終交織在一起。在19世紀(jì)，顱相學(xué)試圖將不同的精神功能定位到大腦中的不同位置，遭到批評者們反對——這一舉動被視為異端，因?yàn)檫@讓人們對基督教關(guān)于靈魂統(tǒng)一的觀點(diǎn)產(chǎn)生了質(zhì)疑。但有趣的是，那時候人們并不認(rèn)為嘗試根據(jù)頭部的大小和形狀來判斷一個人的性格和才智是一個嚴(yán)重的道德問題。而現(xiàn)在的情況恰恰相反，將精神功能（在大腦中）定位的想法毫無爭議。科學(xué)家們可能不再認(rèn)為攻擊性位于右耳上方，但認(rèn)知功能可以對應(yīng)到特定大腦回路是當(dāng)下主流神經(jīng)科學(xué)的常規(guī)假設(shè)。

03

顱相學(xué)在19世紀(jì)也受到了經(jīng)驗(yàn)主義的批評。人們就哪些功能位于何處以及測量顱骨來確定大腦活動是否可靠進(jìn)行了激烈的討論。不過，對舊顱相學(xué)最具影響力的經(jīng)驗(yàn)主義批評來自法國醫(yī)生讓·皮埃爾·弗洛倫斯(Jean Pierre Flourens)的研究。弗洛倫絲通過破壞兔子和鴿子大腦的實(shí)驗(yàn)，得出精神功能分布而不是集中在大腦區(qū)域的結(jié)論(他的研究成果在后來被推翻。)。過去人們質(zhì)疑顱相學(xué)的理由在今天不再被大多數(shù)當(dāng)代觀察者認(rèn)可，這就讓今天的人們更難弄清當(dāng)我們用“顱相學(xué)”來侮辱人時，到底是誰受到了侮辱。

“新顱相學(xué)”和“舊顱相學(xué)”都因其毫無嚴(yán)謹(jǐn)性可言的方法而受到批評。在最近的一項(xiàng)關(guān)于犯罪行為的人工智能研究中，數(shù)據(jù)取自兩種完全不同的來源：一種是罪犯的面部照片，另一種是工作網(wǎng)站上非罪犯上的照片。光這一點(diǎn)就能解釋該算法為什么能檢測出組間的差異。在這篇論文的新序言中，研究人員還承認(rèn)，將法庭定罪等同于犯罪行為是一種“嚴(yán)重的疏忽”。然而，將定罪與犯罪行為等同似乎主要被作者認(rèn)為是操作上的缺陷：使用定罪罪犯的面部照片，而不是使用逃犯的面部照片，（僅僅）造成了統(tǒng)計上的偏差。他們說，對于一份“純學(xué)術(shù)討論”論文，公眾的憤怒讓他們感到“深深的困惑”。

From Wu and Zhang (2016)|圖片來自原文

值得注意的是，研究人員沒有對“定罪本身取決于警察、法官和陪審團(tuán)對嫌疑人的印象”這一事實(shí)發(fā)表評論，這使得一個人的“犯罪”長相成為一個令人困惑的變量。他們也沒有提到，特定群體受到的嚴(yán)格監(jiān)管以及在獲取法律代表方面的不平等會如何扭曲數(shù)據(jù)集。在對批評的回應(yīng)中，作者們并沒有放棄“成為一名罪犯需要一系列不正常的(離群的)個人特質(zhì)”的假設(shè)。事實(shí)上，他們的理論框架表明犯罪是一種先天特征，而不是對貧窮或虐待等社會條件的反應(yīng)。從實(shí)際經(jīng)驗(yàn)來說，這些數(shù)據(jù)令人質(zhì)疑的部分原因在于這個把特定的人劃定為“罪犯”的過程本身就很難是價值中立的。

04

用面部識別來探查犯罪行為最大的道德異議之一在于，當(dāng)今社會人們已經(jīng)備受監(jiān)管，而這項(xiàng)技術(shù)讓人們又備受侮辱。盡管作者聲明了這項(xiàng)工具不會應(yīng)用于執(zhí)法中，但他們只用了統(tǒng)計數(shù)據(jù)來佐證這一點(diǎn)。他們只是指出了，其誤報率（50%）會很高，但他們并沒有意識到，這個數(shù)字在人類的語言里，意味著什么。每一次誤報都表示有一個普通人因?yàn)楹妥锓搁L相相似而被錯誤識別。鑒于刑事司法體系中常見的種族及其它偏見，這種算法最終會過估邊緣社群中的犯罪行為。

最受爭議的問題似乎在于，為了“純粹的學(xué)術(shù)討論”，將面相學(xué)重新帶回大眾視野是不是一件好事。人們可以站在實(shí)證的立場來反駁這一觀點(diǎn)：像高爾頓（Galton）和龍勃羅梭（Lombroso）這些過去的優(yōu)生學(xué)家，最終也沒有找到能使人傾向犯罪的面部特征。

這是因?yàn)檫@兩者之間并不能找到聯(lián)系。同樣，如西里爾·伯特（Cyril Burt）和菲利普·魯什頓（Philippe Rushton）一樣研究智力遺傳可能性的心理學(xué)家不得不玩弄數(shù)據(jù)，捏造了頭骨大小、種族和智商之間的相關(guān)性。如果這些因素之間的確有聯(lián)系，那么這些多年來勤勉研究的學(xué)者們就不會毫無收獲了。

美國聯(lián)邦政府在研究面部識別與種族歧視間的關(guān)系

重啟面相學(xué)的問題并不僅僅在于它過去沒有成功。在科學(xué)共識已經(jīng)形成后，仍堅(jiān)持追尋冷核聚變的科學(xué)家也面臨“追逐獨(dú)角獸”的指責(zé)——但對冷核聚變的不贊成遠(yuǎn)沒到指責(zé)的地步。在最壞的情況下，人們只認(rèn)為冷核聚變在浪費(fèi)科學(xué)家的時間。冷核聚變和面相學(xué)的不同在于，前者潛在的危害要小很多。相比之下，一些評論家認(rèn)為面部識別應(yīng)該像钚一樣被嚴(yán)格管控，因?yàn)樗鼛缀鯖]有無害的用途。當(dāng)人們?yōu)榱酥维F(xiàn)有的殖民和階級結(jié)構(gòu)去重啟一個已經(jīng)沒什么前途的項(xiàng)目時，當(dāng)這個項(xiàng)目唯一能測量的是這些結(jié)構(gòu)中的種族主義時，我們很難去證明這又一次因好奇心而起的嘗試是合理的。

然而，僅將面部識別研究稱為“顱相學(xué)”卻不解釋其中的風(fēng)險，可能并不是傳達(dá)不滿之情最有效的策略。為了讓科學(xué)家認(rèn)真履行他們的道德責(zé)任，他們需要意識到自己的研究可能會帶來的傷害。更清楚地指出這門“顱相學(xué)”研究的錯誤之處，希望能比只簡單地拋出這個術(shù)語作為一種侮辱產(chǎn)生更大的影響。

- END -

譯者：小師婦、Rye、子恒

編輯/校對：盛芩、竹子、灣灣

排版：竹子

原文鏈接：https://aeon.co/ideas/algorithms-associating-appearance-and-criminality-have-a-dark-past

吃書妄想

這里是灣灣和她的朋友們思考尋找的地方

B站 ：吃書妄想

微信：xiangwanqiao111