歡迎來到數字富士康：一條用人命和創傷喂養AI的全球產業鏈

追問快讀：在人工智能飛速發展的今天，我們的社交媒體動態似乎被精心凈化，然而在這光鮮背后，一支隱形的全球勞動力正默默承受著難以言喻的創傷。

模糊的屏幕倏然閃現，伴隨著一條看似無害的“敏感內容”提示信息，以及一個被劃掉的眼睛表情符號。警告中溫和的設計與俏皮的圖標，掩飾了其背后沉重而嚴肅的內容。我們只需輕輕一劃，便將其略過，刷新后的社交媒體動態再次充滿了貓咪視頻和度假照片。然而，在這數字烏托邦的陰影下，一個截然不同的現實正在悄然上演。

在世界各地狹小、光線昏暗的倉庫里，一支“隱形軍隊”弓著腰，凝視著閃爍的屏幕。他們的眼睛疲憊不堪，手指懸停在鍵盤上，直面人性最陰暗的沖動——那些甚至比他們最恐怖的噩夢更為黑暗的內容。他們無法移開視線，也無法滑動手指跳過。對這些工人而言，沒有任何觸發警告的庇護。

科技巨頭們大肆宣揚人工智能在內容審核中的強大能力，描繪出全知算法守護我們數字空間安全的美好畫卷。他們提出了一種烏托邦式的愿景：機器不知疲倦地篩選數字垃圾，保護我們免受網絡世界最陰暗角落的侵害。

然而，這不過是一個令人安心的謊言。

現實要更加人性化，也更加令人不安。這種敘事目的多重：它撫慰了用戶對在線安全的擔憂，為這些公司賺取的巨額利潤提供了正當性，同時巧妙地轉移了責任——畢竟，你怎么能責怪一個冷冰冰的算法呢？

然而，現有的人工智能系統遠遠無法理解人類交流的復雜微妙，更別說對內容做出復雜的倫理判斷了。即便是最先進的算法，諷刺、文化背景以及隱晦的仇恨言論，往往也會被忽略。

而且，盡管自動化內容審核在主流語言中或許可以部分實現，但對于資源稀缺語言的內容審核，通常需要從說這些語言的國家招聘審核員[1]，以充分利用他們的語言能力和文化理解。

在幾乎每一個人工智能決策的背后，實際上都有一個人負責做出最終判斷，并承擔由此帶來的負擔——這與宣傳中的基于硅芯片的“救世主”形象截然不同。人工智能往往僅僅是一個粗糙的初步過濾器。例如，亞馬遜所謂的自動化商店就是一個典型案例。據The Information報道，亞馬遜并非依賴先進的人工智能系統，而是雇傭了大約1000名工人（主要在印度）手動追蹤顧客并記錄他們的購買行為。

亞馬遜對美聯社（AP）等機構表示，他們確實雇用了工人觀看視頻以驗證顧客購物行為，但否認雇傭了1000人或工人實時監控顧客的說法。同樣，Facebook的“人工智能驅動”M助手也更多依賴人力而非軟件。因此，這種“人工智能能力”的假象，往往是以隱藏的人類勞動為代價維持的。

“我們是互聯網的清潔工。” 兩年前合同終止的前內容審核員、現居肯尼亞內羅畢的南非人博特洛夸·蘭塔（Botlhokwa Ranta）沉重地說道。在家中接受采訪時，她繼續說道：“我們清理了那些爛攤子，只為讓他人享受一個凈化過的網絡世界。”

于是，當我們安睡時，他們默默工作；當我們分享內容時，他們守護邊界；當我們享受在線連接時，他們卻直面我們精心打造的在線體驗與未經過濾的人性本質之間的巨大鴻溝。

科技產業光鮮的表象下，掩蓋了一種遍布全球的赤裸裸的人類現實。從內羅畢的邊緣地帶到馬尼拉擁擠的公寓，從黎巴嫩的敘利亞難民社區到德國的移民聚居地，再到卡薩布蘭卡的呼叫中心，一張龐大的“隱形工人”網絡支撐著我們的數字世界。這些工人的故事交織著創傷、剝削與堅韌，流露出我們在人工智能驅動未來背后所付出的真實代價。

或許我們會驚嘆于薩姆·奧特曼（Sam Altman）等人所推崇的聊天機器人和自動化系統，但這掩蓋了更深層的緊迫問題：我們的“神一般”的人工智能系統，是否只是一塊煙幕，用來遮掩令人不寒而栗的人類現實？

在我們不懈追求技術進步的過程中，必須問自己：我們愿意為數字便利付出怎樣的代價？在這場奔向自動化未來的競賽中，我們是否正在將人性拋在身后？

阿布拉的故事

2021年2月，阿布拉（Abrha）的世界在提格雷戰爭中崩塌，這場現代最致命的沖突，被美國“新路線研究所”報告（U.S.-based New Lines Institute）正式定性為種族滅絕。當時，他的家鄉提格雷遭到埃塞俄比亞和厄立特里亞國防軍的炮火襲擊。

阿布拉當時26歲，帶著一個小背包和能拿到的少量現金，逃往肯尼亞內羅畢，留下了一個蒸蒸日上的生意、家人和無法逃離的朋友。在埃塞俄比亞政府對提格雷地區實施長達兩年多的互聯網封鎖期間，他經歷了數月的煎熬，對家人的命運一無所知。

然而，命運的諷刺讓阿布拉被舊金山總部的Sama公司肯尼亞分部招募。這家自稱“道德AI訓練數據提供商”的公司，急需精通提格里尼亞語和阿姆哈拉語的人才，而這正是他剛剛逃離的沖突所用的語言。他的任務，是審核源自那場戰爭的內容。

每周五天，每天八小時，阿布拉坐在內羅畢的Sama倉庫里，審核那些來自他剛逃離的戰火中的信息——有時甚至包括家鄉的轟炸畫面。每天涌入的內容充滿了針對提格雷人的仇恨言論，而阿布拉心中卻惴惴不安，擔憂下一具尸體會是他的父親，下一個遭受性暴力的受害者會是他的妹妹。

更讓他痛苦的是一個道德困境：在這場他和族人都是受害者的沖突中，他如何保持中立？他如何將同胞發布的報復性內容標記為仇恨言論？這種內心的壓力，逐漸變得難以承受。

盡管阿布拉曾經厭惡吸煙，但如今他卻成為一個煙癮極大的煙民，手中常握一支煙，穿行于這片充滿創傷的數字雷區——每一口都是試圖緩解己國人民苦難之痛的徒勞嘗試。

有一天，工作的恐怖達到了頂點：在審核內容時，他看到了自己堂兄的尸體。這一幕成為對這場沖突個人代價的殘酷提醒，而他每天都被迫通過電腦屏幕目睹這樣的悲劇。

在他和其他內容審核員的合同被Sama終止后，阿布拉的處境更加艱難。內羅畢的就業市場對他而言無比狹窄，他只能獨自面對內心的創傷，卻沒有任何他急需的支持或資源。作為內容審核員的經歷，加上逃離沖突帶來的后遺癥，嚴重打擊了他的心理健康和經濟狀況。

盡管戰爭后的提格雷局勢依然動蕩，但阿布拉感到別無選擇，只能幾個月前踏上艱難的歸鄉之路。他希望能從沖突和剝削的廢墟中重建自己的生活。他的故事無疑是內容審核工作的長期影響，以及那些往往遠離家鄉和支持系統的審核員脆弱性的鮮明寫照。

金斯的噩夢

金斯（Kings）成長于基貝拉，這是世界上最大的貧民窟之一。他今年34歲，自幼，金斯便懷揣著為年幼的家人創造更好生活的夢想。然而，像許多在內羅畢貧民窟長大的青年一樣，他長期失業，生活艱難。

當Sama公司來招募時，金斯看到了進入科技行業的機會。他從數據標注員做起，負責對數據進行標記和分類，以訓練AI系統，盡管薪水微薄，他仍感到興奮。當公司提出以微薄的加薪將他晉升為內容審核員時，他毫不猶豫地接受了這個機會，卻未曾料到這一決定會帶來如此深遠的影響。

很快，金斯發現自己所接觸的內容令他夜夜難眠，尤其是那些被稱為CSAM（兒童性虐待材料）的內容。每天，他都在篩選描述兒童被侵犯的文字、圖片和視頻。他回憶道：“我看到孩子因虐待而撕裂的陰道。” 他的聲音顯得空洞，“每次我在家閉上眼睛，看到的全是這些畫面。”

這種創傷侵蝕了金斯生活的每一個角落。到了32歲，他發現自己難以與妻子親密接觸，腦海中滿是受虐兒童的影像。他坦言，公司提供的心理健康支持遠遠不足，心理咨詢師也無法幫助他走出深重的心理陰影。

最終，這種壓力變得難以承受。金斯的妻子無法忍受他的性拒絕以及行為的變化，最終離開了他。等到金斯離開Sama時，他已經變成了一個精神和經濟上破碎的人——那個他曾以為能帶來救贖的工作，反而徹底摧毀了他對美好生活的夢想。

失去對人性的信任

蘭塔（Ranta）的故事始于南非的小鎮德普克魯夫，那里的生活平靜而有序。21歲時，她成為母親；接受我們采訪時，她已27歲。她反思了她社區中許多年輕女性所面對的嚴酷現實：10個女孩中有6個會在21歲之前生孩子，進入一個就業機會本已稀缺的世界，而單親母親的身份讓這些機會更難得。

當Sama公司前來招募，并承諾為蘭塔和她的孩子帶來更好的生活時，蘭塔將此視為通往光明未來的門票。她申請了這份工作，很快便發現自己身處內羅畢，遠離一切熟悉的環境。然而，這些承諾在她抵達后迅速破滅。離開南非時，她留下了孩子，公司曾承諾幫助她們團聚，但這種支持從未兌現。

當她詢問此事時，公司代表告訴她，他們無法如最初承諾的那樣全額承擔費用，只能提供部分支持，并且會從她的工資中扣除。蘭塔嘗試通過正式渠道向公司反映問題，卻未能如愿。非正式消息稱，這與公司當時正面臨的法律訴訟有關。

當蘭塔的姐姐去世時，她的上司允許她請幾天假。但在她返回崗位后，卻拒絕讓她調到創傷性較輕的內容審核崗位——盡管當時還有空缺。這種做法仿佛默認她和其他員工是機器，能夠隨意“關閉一個程序，然后啟動另一個”。

事情在她懷孕期間達到了頂點。盡管她的醫生要求她臥床休息，但公司并未允許她這樣做。更糟糕的是，在她生下第二個女兒僅四個月后，女兒就被送進了醫院。

她隨后發現，公司在她入職后不久就停止為員工繳納醫療保險，但依然從她的工資中扣除相關費用。這使她背負了難以支付的醫療賬單。

蘭塔的工作內容包括審核與女性性虐待、仇外情緒、仇恨言論、種族主義和家庭暴力相關的內容，主要來自她的祖國南非和尼日利亞。盡管她理解這份工作的意義，但對于公司缺乏足夠的心理咨詢、培訓和支持，她感到深深的遺憾。

隨著時間的推移，蘭塔發現自己逐漸失去了對人性的信任。“我看到了許多我從未想過會存在的事情。”她告訴我，“人類有何資格自稱為智慧物種？”

Sama的首席執行官曾表示，對與Meta簽訂內容審核合同感到遺憾。Meta的一位發言人則回應，他們要求所有合作伙伴公司提供“全天候現場支持，由經過培訓的專業人員提供服務，同時提供隨叫隨到的咨詢服務。并從入職第一天起就為員工提供私人醫療服務。”

這位代表還提到，他們提供了“技術解決方案，盡可能減少接觸血腥內容”。然而，像阿布拉、金斯和蘭塔這樣的員工卻講述了截然不同的經歷，表明Meta的聲明與內容審核員的實際工作經歷之間存在顯著差距。

全球視角：跨國界的相似斗爭

阿布拉、金斯和蘭塔的經歷并非孤立事件。在肯尼亞，我采訪了20多名員工，他們訴說著相似的故事。在德國、委內瑞拉、哥倫比亞、敘利亞和黎巴嫩等國家，通過“數據工人調查”（Data Workers Inquiry project）項目[2]，我們同樣聽到了諸多相似的挑戰。

在德國，盡管國家設有諸多幫助新移民的項目，但那些身份尚未確定的移民最終還是不得不從事像阿布拉這樣的工作，審核來自他們祖國的內容。他們不穩定的簽證狀況使他們更易受傷害。許多人向我們坦言，即便面臨剝削，他們也不敢公開發聲，因為就業與簽證緊密相連，失業或被驅逐的風險始終籠罩在他們頭上。

在委內瑞拉和哥倫比亞，經濟的不穩定迫使許多人投身于數據行業。雖然他們不總是直接參與內容審核，但許多數據標注員需處理充滿挑戰的數據集，這對他們的心理健康造成了沉重打擊。

現實往往與廣告宣傳的內容不符。即使敘利亞的工人和黎巴嫩的敘利亞難民，并非直接從事內容審核工作，他們的工作也經常與數字化沖突的殘余部分交織在一起，為本已要求苛刻的工作增加了情感壓力。

保密協議（NDA）的廣泛應用，正是這種不平等權力結構的另一體現。這些協議成為勞動合同的一部分，迫使工人保持沉默，將他們的掙扎隱藏在公眾視野之外。

這種保密協議的威脅往往超越了雇傭期，甚至在員工離職后，仍對他們的生活產生長久影響。許多接受采訪的工人因擔心法律后果，堅持匿名發聲。

這些工人分布在波哥大、柏林、加拉加斯和大馬士革等地，他們表示自己被那些依靠他們勞動獲利的公司拋棄了。據員工們透露，Sama所謂的“健康計劃”往往無法有效應對他們所經歷的深層創傷。

這些故事清楚地揭示了：在我們光鮮的數字世界背后，隱藏著一支承受巨大情感負擔的勞動大軍——他們承受這些，我們卻無需分擔。正是他們的經歷，引發了對數據工作倫理及維持數字基礎設施的人類代價的緊迫質疑。這一問題的全球性本質，揭示了一個令人不安的真相：數據工人的剝削并非行業的“偶然漏洞”，而是其系統性特征。

這是一張由科技巨頭編織、通過陷于其中者的沉默來維系的全球性斗爭之網。正如Mophat Okinyi和Richard Mathenge所記錄的那樣，這兩位曾經的內容審核員、現為“數據工人調查”項目的共同研究者，見證了這些模式在多個國家和不同公司中反復出現。他們既是工人，也是倡導者，其經歷凸顯了這種剝削的全球性。

屏幕背后的創傷

在我前往肯尼亞之前，我以為通過與一些數據工人的線上對話，我已經理解了他們所面臨的挑戰。然而，當我抵達后，我被那些關于個人和制度性墮落的故事所震撼，這些故事讓我經歷了次生創傷，并連續幾周都被噩夢困擾。對于數據工人來說，他們的創傷主要以兩種形式表現出來：一是工作本身帶來的直接創傷，二是加劇創傷的系統性問題。

直接創傷：面對人性最黑暗的一面

每天，內容審核員都被迫直面人類最黑暗的一面。他們在充斥著暴力、仇恨言論、性虐待和血腥圖像的有毒泥沼中掙扎。

持續接觸令人不安的內容，極大地損害了審核員的心理健康。正如金斯告訴我的那樣：“這超出了人類所能承受的范疇。它就像每天被迫喝毒藥，你知道它正在殺死你，但你無法停止，因為這是你的工作。”這些影像和視頻在工作結束后仍然揮之不去，侵入夢境，滲透到個人生活中。

許多審核員報告了創傷后應激障礙（PTSD）和替代性創傷的癥狀[3]：夢魘、閃回和嚴重焦慮都很常見。一些人因長期接觸人類的殘酷行為而對周圍世界失去基本信任，內心被永久改變。一位工人告訴我：“我帶著對人性的信念開始了這份工作。現在，我不確定我還相信什么。如果人類能做出這些事情，還有什么值得相信？”

當班次結束后，創傷并不會隨之消散，而是一路跟隨這些工人回到家中。對金斯和奧金伊來說，就像許多其他人一樣，這種壓力如同無形的重擔，壓得他們的關系在能夠目睹卻無法傾訴的痛苦下逐漸破裂。孩子在情感疏離的父母身邊長大，伴侶逐漸疏遠，而工人則被孤立在自己的痛苦中。

許多審核員報告說，他們的世界觀發生了根本性的變化。他們變得過于警覺，仿佛處處潛藏著威脅。奧金伊提到，他的一位前同事因為對可能出現的暴力爆發產生偏執，不得不從城市搬到人煙稀少的鄉村。在為“數據工人調查”項目制作的關于Sama女性內容審核員的小冊子中，蘭塔采訪的一名女性提到，這份工作讓她不斷質疑自己的價值，懷疑自己是否有能力撫養孩子。

系統性問題：加劇創傷的結構性弊端

除了內容本身帶來的直接創傷，審核員還面臨一系列系統性問題，這些問題進一步加劇了他們的痛苦：

（1）工作不穩定

許多審核員，尤其是那些生活在不穩定環境中的人（例如難民或經濟移民），常常生活在失去工作的恐懼中。這種恐懼通常使他們不敢公開談論工作條件或尋求幫助。公司往往利用了他們的這種脆弱。

（2）缺乏心理健康支持

盡管公司宣稱提供“健康計劃”但現實卻遠非如此。正如金斯的經歷所示，提供的心理咨詢往往無法滿足內容審核工作的獨特需求。治療師通常缺乏處理這種特殊創傷的經驗，咨詢時間也很短，無法深入解決更深層次的心理創傷問題。

（3）不現實的績效指標

審核員通常每小時需要審查數百條內容。這種無情的節奏讓他們沒有時間去消化令人不安的內容，迫使他們壓抑情緒。審核工作對數量而非質量的過度關注不僅影響了審核的準確性，也加劇了這項工作的心理壓力。正如阿布拉所說：“想象一下，你被要求觀看一個人被殺的視頻，然后立刻轉到下一條帖子。沒有時間喘息，更別提處理我們所看到的東西了。”

（4）持續監控

如果說內容本身已經足夠令人壓力山大，那么審核員還要面對無處不在的監控。他們的每一個決定，每一秒的工作時間，都被嚴格審查，給本已沉重的負擔再添一層壓力。這種監控甚至延伸到上廁所的時間、任務間的空閑時間，甚至審核內容時的面部表情。

主管通過電腦監控軟件、攝像頭，甚至親自觀察，密切關注工人的一舉一動。他們通常會注意審核員的面部表情，以評估其反應是否符合要求，并確保審核員在處理令人不安的內容時保持某種“專業性”或“情感疏離”。因此，工人告訴我，他們甚至覺得無法對令人不安的內容做出自然反應。

每天，審核員只能獲得一小時的休息時間，用于進食、伸展、上廁所等所有額外需求——任何額外時間用于這些或其他非工作活動，都會受到審查，并可能被要求補回加班時間。阿布拉還提到，工人不得不將手機存放在儲物柜中，這進一步使他們與外界隔絕，并在工作期間限制了與外界的溝通能力。

這種影響不僅局限于家庭：朋友逐漸疏遠，因為他們無法理解審核員因工作而形成的更灰暗的人生觀；社交互動變得緊張，因為審核員在每天沉浸于人類最黑暗行為之后，難以參與“正常”的對話。

從本質上說，內容審核的創傷重塑了整個家庭動態和社交網絡，形成了一個遠超個人范圍的孤立與痛苦的循環。

用人類的創傷制造“智能”系統

或許最殘酷的諷刺在于，我們正在通過傷害人類來創造機器智能的幻象。人類審核員所造成的創傷被未來無需人類干預的AI系統的承諾合理化。然而，這些系統的開發需要更多的人類勞動，并且往往以犧牲工人的心理健康為代價。

此外，AI發展的重點往往分散了對改善人類工人條件的關注。企業在機器學習算法上投入數十億，卻對人類審核員最基本的心理健康需求視而不見，缺乏應有的關懷。

AI的幻象讓用戶與內容審核的現實保持距離，，猶如工廠化養殖讓人們淡忘了蛋雞所遭受的待遇。這種集體的有意忽視，使得剝削得以持續而不受約束。AI的敘事就像一層煙幕，掩蓋了一種深刻不道德的勞動實踐。這種實踐以犧牲人類福祉為代價，換取技術進步的表象。

數字工人聯合起來！

面對剝削和創傷，數據工人并未被動接受。在全球范圍內，工人們嘗試組織工會，但他們的努力常常受到各種阻礙。在肯尼亞，工人們組建了“非洲內容審核員工會”，試圖將來自不同非洲國家的工人聯合起來。

工會領導成員之一的馬森吉（Mathenge）告訴我，他相信自己會因參與工會活動而被解雇。這種報復行為向其他考慮組織起來的工人發出了寒蟬效應。

最近，爭取工人權利的斗爭在法律上取得了重大進展。今年9月20日，肯尼亞法院裁定，Meta可能因其承包商Sama解雇數十名內容審核員的行為而被起訴。法院維持了此前的裁定，即Meta可以因這些解雇行為和涉嫌惡劣的工作條件在肯尼亞受審。

這一最新裁決可能對這家科技巨頭與全球內容審核員的合作方式產生深遠影響，也標志著爭取公平待遇和承認數據工人權利的斗爭邁出了重要一步。

然而，阻礙遠不限于公司層面。企業通常采取破壞工會的策略，例如解雇那些推動工會化的工人。馬森吉提到，在肯尼亞數字勞動領域，與工人、記者和民間社會官員的對話中，甚至有傳言稱高級政府官員要求賄賂以正式注冊工會，這使得工會化過程增加了另一層復雜性。

更為荒謬的是，據一家青年主導的民間組織“Siasa Place”的官員稱，當肯尼亞的工人試圖成立自己的工會時，他們卻被要求加入郵政和電信工會。這一建議完全忽視了這些行業之間的巨大差異，以及當今數據工人所面臨的獨特挑戰。

盡管面臨這些挫折，工人們仍在不斷尋找創新的方法來組織和倡導自己的權利。奧金伊、馬森吉和金斯共同成立了非洲科技工人社區（Techworker Community Africa），一個致力于反對勞動剝削等有害科技實踐的非政府組織。

其他組織也在幫助這些工人。例如，Siasa Place和數字權利律師Mercy Mutemi已向肯尼亞議會提交請愿書，要求調查AI公司中的工作條件。

盡管斗爭充滿挑戰，數據工人的聲音正日益高漲，他們的努力正在推動行業變革，爭取一個更公平的未來。

邁向倫理AI和公平勞動實踐的道路

行業范圍的心理健康協議

我們需要一種全面的、行業范圍內的心理健康支持方法。根據我的研究和與工人的對話，目前現有的支持系統往往無法滿足數據工人的實際需求，因此，我提出了一種多層面的解決方案。

許多公司的“健康計劃”僅停留在表面，無法觸及數據工人所經歷的深層創傷。這些計劃可能包括偶爾的團體會議或普通心理咨詢服務，但通常流于形式，不具備針對性。

我建議的方案應包括以下幾個方面：強制性、定期與專門處理數據工作相關創傷的治療師進行咨詢；定期進行心理健康檢查；提供全天候的危機支持；提供長期心理治療服務，這是目前大多數現有計劃中所缺乏的。

更重要的是，這些服務必須具備文化敏感性，能夠認可并適應全球范圍內數據工人的多樣化背景。這與當前千篇一律的“一刀切”方法有很大不同，因為后者往往忽視了像內羅畢、馬尼拉或波哥大等地工人的文化語境。新的系統應以工人母語提供支持，并對與心理健康相關的文化差異保持敏感——這些方面在當前的許多計劃中嚴重缺失。

此外，與目前的心理健康支持系統通常在員工離職后終止不同，這種新方法將延續到工作結束之后，承認這項工作帶來的長期影響。這種全面的、長期的、具有文化敏感性的心理健康支持方法，代表了與當前形式化且通常無效的支持體系的根本性轉變。

“創傷上限”機制的實施

正如我們為核工業工人設定輻射暴露限值一樣，我們也需要為數據工人設定“創傷暴露上限”。這種“創傷上限”將嚴格限制工人在特定時間內可以接觸的令人不安的內容的數量和類型。

實施方式可能包括以下幾種：在高沖擊性內容與低沖擊性內容之間輪換工人； 在接觸特別創傷性材料后強制休息；限制連續幾天處理令人不安內容的工作時間； 分配年度“創傷假期”，用于心理健康恢復。

我們需要一種不僅僅追蹤審核數量的系統，還需要能夠評估內容的情感沖擊力。例如，一段極端暴力的視頻應比一條垃圾帖子的審核更接近工人的“創傷上限”。

這種機制將為數據工人建立一個更安全的工作環境，防止過度暴露于令人不安的內容，同時為他們的心理健康提供至關重要的保障。

獨立監管機構

依靠科技公司自我監管已被證明是行不通的；這無異于“讓豺狼守雞舍”。我們需要一個獨立的機構，擁有審核、執行標準以及在必要時實施處罰的權力。

這個監管機構應由倫理學家、前數據工人、心理健康專業人士和人權專家組成。它的職責和權限應包括對數據工作場所進行突擊檢查，確保工作條件符合標準；制定并執行行業范圍內的工作條件和心理健康支持標準；提供一個安全的渠道，讓工人在不用擔心報復的情況下報告違規行為。

至關重要的是這樣的監管機構必須包括現任和前任數據工人的聲音。因為只有他們真正了解這份工作的挑戰和需求。這樣的獨立機構不僅能夠確保公平和透明，還能推動整個行業向更加人道和可持續的方向發展。

消費者與公眾在推動變革中的角色

雖然行業改革和監管監督至關重要，但公眾壓力的力量同樣不容忽視。作為數字內容的消費者和在線空間的參與者，我們每個人都有責任推動更具倫理的實踐。這需要我們進行知情消費，主動了解內容審核背后的人力成本。

在分享內容之前，尤其是可能令人不安的材料之前，我們應考慮到審核員可能需要審查這些內容的現實。這種意識可能會影響我們發布或分享內容的決定。我們還必須要求科技公司對其內容審核實踐保持透明。

我們可以利用公司自己的平臺，來讓這些公司承擔責任，公開提問工人的工作條件和心理健康支持是否到位。支持那些優先考慮道德勞動實踐的公司，抵制那些忽視工人權益的企業，也是公眾可以采取的實際行動。

隨著AI工具在數字領域的普及，我們也必須教育自己，了解這些看似“神奇”的技術背后隱藏的成本。像ChatGPT和DALL-E這樣的工具，其開發過程依賴于巨大的人力勞動和道德妥協的產物。

這些AI系統是建立在無數看不見的個體基礎之上的：接觸創傷性內容的內容審核員、長時間工作卻薪酬微薄的數據標注員，以及他們的創意作品被未經同意或補償就利用的藝術家。除了驚人的人力成本外，這些技術的環境代價也令人擔憂，而且常常被忽視。

從數據中心的巨大能源消耗到生成的大量電子垃圾，人工智能的生態足跡是一個亟需我們關注和行動的關鍵問題。通過了解這些現實，我們可以對所使用的AI工具做出更明智的選擇，并倡導對促成這些技術的人類勞動給予公平的報酬和應有的認可。

政治行動同樣重要。我們需要倡導制定保護數據工人的立法，敦促我們的政治代表對科技行業進行監管，并支持那些優先考慮數字倫理和公平勞動實踐的政治候選人。

利用我們的平臺傳播關于數據工作現實的認知至關重要，這樣我們才能讓更多人了解像阿布拉、金斯和蘭塔這樣的工人的故事，進而激發對數字消費道德影響的討論。

我們可以關注并支持像非洲內容審核員工會這樣的組織，以及那些專注于數字勞動權利的非政府組織（NGO），同時放大那些勇敢發聲的數據工人的聲音，推動有意義的變革。

大多數人并不了解他們每日使用的經過“凈化”的社交媒體內容和AI工具背后發生了什么。如果他們知曉，我相信他們會要求改變。公眾的支持對于確保數據工人的聲音被聽到至關重要。

通過實施這些解決方案并利用公眾需求的力量，我們可以共同努力實現一個未來——一個我們享受的數字世界不再以犧牲人類尊嚴和心理健康為代價的未來。這條路充滿挑戰，但如果我們希望創造一個真正倫理的數字生態系統，這是我們必須走的路。

追問后記

1900（追問作者）：用人類的創傷換來的“智能”系統，真的能稱得上是“智能”嗎？這些所謂的“智能”系統，不過是在反復向“平均水平的標注員”提問罷了。我們應當關心這些數據工人的心理健康，畢竟，長久目睹世間的黑暗，必然會動搖對人性的信任。真正的智能，難道不應建立在不以人類為代價的基礎之上？

*原文鏈接：https://www.noemamag.com/the-human-cost-of-our-ai-driven-future/本文基于對來自肯尼亞、敘利亞、黎巴嫩、德國、哥倫比亞、委內瑞拉和巴西的數據工人的采訪。這些采訪是“數據工人調查”（Data Workers Inquiry）項目的一部分，該項目是由分布式人工智能研究所（Distributed Artificial Intelligence Research Institute）與魏岑鮑姆研究所（Weizenbaum Institute）合作開展的社區行動研究項目。

[1] https://tsjournal.org/index.php/jots/article/view/150/58

[2] https://data-workers.org/ https://doi.org/10.1186/s12916-022-02414-0.

[3] https://crowd.cs.vt.edu/wp-content/uploads/2021/02/CHI21_final__The_Psychological_Well_Being_of_Content_Moderators-2.pdf

關于追問nextquestion

天橋腦科學研究院旗下科學媒體，旨在以科學追問為紐帶，深入探究人工智能與人類智能相互融合與促進，不斷探索科學的邊界。如果您有進一步想要討論的內容，歡迎評論區留言，或添加小助手微信questionlab，加入社群與我們互動。

關于天橋腦科學研究院

天橋腦科學研究院（Tianqiao and Chrissy Chen Institute）是由陳天橋、雒芊芊夫婦出資10億美元創建的世界最大私人腦科學研究機構之一，圍繞全球化、跨學科和青年科學家三大重點，支持腦科學研究，造福人類。

Chen Institute與華山醫院、上海市精神衛生中心設立了應用神經技術前沿實驗室、人工智能與精神健康前沿實驗室；與加州理工學院合作成立了加州理工天橋神經科學研究院。

Chen Institute建成了支持腦科學和人工智能領域研究的生態系統，項目遍布歐美、亞洲和大洋洲，包括、、、科研型臨床醫生獎勵計劃、、中文媒體追問等。