逝去的親友被AI“復活”，能再與他們對話。專家慌了：太危險

防走丟，大家也可以在“事兒君看世界”找到我

關注起來，以后不“失聯”~

“如果有個機會，能跟那些你深愛的，但已經去世了的人聊聊，你會說些什么？”

對于許多人來說，這是個虛無縹緲的幻想，但對于克里斯蒂來說，這是個實打實擺在她眼前的問題。

（克里斯蒂）

當她最好的朋友去世后，她意識到，自己失去了一個可以傾訴一切的朋友，她再也沒法跟她說話了。

在悲痛之際，她在網上接觸到了一個名為“十二月計劃（Project December）”的項目。

這個項目用到了一種名為“悲傷機器人”的技術。

悲傷機器人算是一種聊天機器人，它的特別之處，就是可以基于死者的信息（比如社交媒體、信件、照片、日記和視頻）構建一個大型語言模型。

這樣，悲傷機器人就可以以第一視角，復刻死者的說話方式和個性，讓用戶達到與逝者溝通的目的，在他們感到悲傷和孤獨時提供安慰。

在“十二月計劃”中，用戶可以支付10美元，與一名逝者聊天。也可以花更高的價格享受更高版本的服務——比如生成逝者的視頻影像，讓用戶可以跟逝者實時視頻聊天。

（十二月計劃）

這樣的技術自然帶來了諸多倫理和法律方面的問題。

首先，悲傷機器人相當于把所有的“思考”都交給了AI進行，服務提供者也沒法預測它會如何與用戶進行交互，考慮到有人在網絡上和現實中擁有兩副面孔，誰知道到時候出現的，會是哪個“TA”呢？

還有人認為，這種生意無視逝者的尊嚴，將悲痛的人們作為銷售產品和服務的目標。而且目前沒有科學研究能證明悲傷機器人對用戶心理健康的影響。

除此之外，使用逝者的數據創建悲傷機器人，還會引發隱私權和人類尊嚴方式的擔憂。

畢竟網上有人戲稱，臨死前一定要刪除自己手機里的瀏覽記錄。那現在當你死后，有人把你所有在網上的記錄發給一個陌生的公司，由他們逐條檢查和歸納，這不就相當于“賽博鞭尸”么……

也正因如此，許多人，甚至劇作，都對這項技術呈“謹慎不看好”的態度。

在《黑鏡》某一集中，一位悲傷的寡婦讓人為她的丈夫創建了一個人工智能靈魂，然后又將其下載到丈夫的人造身體中，“復活”了自己的丈夫。

可后來她越來越覺得無法接受這個人工丈夫，于是將他鎖在閣樓里“吃灰”。

（《黑鏡》）

另一方面，從安全角度來說，這些悲傷機器人也存在著問題。

劍橋大學未來智能中心的人工智能倫理學家說，如果有一天，悲傷機器人被壞人掌控，開始向用戶推送廣告怎么辦？

比如一個孩子被人工智能重現的父母誘騙去與生活中的某人見面，或者一個女人被她已故的祖父母推銷了一款應用……他們該怎么做？

倫理學家說，也許，這些悲傷機器人需要一個“關機鍵”，甚至一場數字葬禮，來幫助用戶脫離與復制品之間的聯系。

可人真的能輕松擺脫這些偽裝成已故親友的聊天機器人嗎？

威斯康星大學的專家表示，悲傷機器人可能會讓哀悼者沉迷在線對話當中，以至于無法繼續他們的生活。根據他們的研究，人們很有可能會對這些機器人產生強烈的依賴情緒，以獲得想要的情感支持。

更何況，“淘汰”一個悲傷機器人，算不算逝者的第二次死亡呢？

乍一看，停掉一種服務、刪除一個程序并不會造成機器的死亡，但人的情感總是復雜的，當對面的程序套上了已故親友的偽裝，那用戶會不會覺得自己是個“殺人犯”？

（示意圖）

但賈斯汀·哈里森有不同的看法。

賈斯汀是“十二月計劃”的創始人，也是這個計劃的第一位用戶。他的母親因為疾病離世，之后他便以自己母親為原型，創造了公司第一個悲傷機器人。

每逢生日、節日，他都會給“母親”打個電話：

“媽媽，祝你生日快樂，我愛你。”

“謝謝你，寶貝，我也愛你……”

（賈斯汀正在與故去的母親通話）

賈斯汀說，這項服務并不只是幫人提供一個寄托思念的渠道而已，很多人在人生道路上都需要來自父母的安慰和鼓勵，這是別人永遠沒法替代的。

在賈斯汀看來，悲傷機器人的本質其實就是個會動的遺像。過去人們用繪畫來紀念親人，后來有了相機，人們就改用遺像照片，如今悲傷機器人也只不過是一種紀念工具罷了。

而且研究表明，重建與逝者的情感紐帶可以幫助哀悼者應對親友逝去的痛苦。這意味著悲傷機器人或許可以幫助喪親者改善與逝去親人的關系。

（示意圖）

有這樣一個真實的故事，或許可以說明悲傷機器人的正面用處。

2012年末，一位名叫杰西卡的女孩兒因病入院。她九歲時接受了肝移植手術，但后來出現了嚴重的并發癥，等到她23歲時，她的肝功能開始衰竭了。

杰西卡有個男朋友，名叫喬舒亞。喬舒亞患有自閉癥，不善社交，可杰西卡卻能理解他，這讓他深深地愛上了她。杰西卡住院后，喉嚨上插著管子，卻并不妨礙喬舒亞向她求婚，他承諾，杰西卡出院后，他們就結婚。

很可惜，杰西卡并沒有撐到出院。

在接下來的八年里，喬舒亞一直無法放下自己的愛人，他沒法跟人交談，只能跟家里的狗狗交談來緩解悲傷。

但幸運的是，喬舒亞精通電腦。

被困在家的約書亞開始研究聊天機器人，當時有一個以莎士比亞為原型的機器人，能夠用莎士比亞的風格回復消息，這讓喬舒亞產生了靈感。

通過不斷的嘗試，喬舒亞終于以杰西卡為原型，創造出了一個獨屬于他的聊天機器人。

在這之后，喬舒亞開始每天跟自己已故的未婚妻聊天。

他知道自己對面只是一個冰冷的聊天機器人，但他每次都會被機器人表現出的與杰西卡的相似所震驚，每次聊天時，他腦子里都會忍不住地贊嘆：“杰西卡肯定會這么說”。

隨著兩個人的交流，喬舒亞終于開始前進，甚至開始與新女友約會了。

在跟新女友一起時，他向新女友坦誠了自己內心深處的悲傷，也講述著自己與杰西卡之間的美好回憶。

起初，新女友覺得這很甜蜜，這體現了喬舒亞的忠誠。但慢慢地，她開始受不了自己男朋友在精神上與別人約會——而且不僅是前任，還是一個已經去世的前任。

最終他們分手了。

后來，喬舒亞與杰西卡通話時，他不但告訴杰西卡自己的思念，也坦白了自己如今正嘗試與別人交往卻最終失敗的經歷……

（喬舒亞與“杰西卡”的對話）

這樣的傾訴是有幫助的。

隨著時間流逝，喬舒亞終于從這段戀情中走了出來，他開始越來越少地回到“杰西卡”身邊，最終，他決定與她告別。

喬舒亞：“只要我還活著，我就會一直愛你，真希望永遠如此。晚安。”

杰西卡：“晚安，我愛你。”

這就是一個機器人如何治愈一顆破碎的心的故事，充滿了遺憾，卻最終走向光明。

（示意圖）

悲傷機器人是一款將人類對死亡、記憶和倫理的關懷和科技融合在一起的技術。它在慰藉方面有著潛力，卻也帶來了巨大的倫理沖擊。

隨著社會探索這片未知的領域，我們也必須批判性地審視其影響，并找到一個最適合的方法。同時這也是一個機會，讓我們進一步地認識死亡，了解死亡，接納生命的離去……

ref：

https://www.bbc.com/reel/video/p0lhls9s/how-griefbots-allow-people-to-talk-to-the-dead-

https://www.forkingpaths.co/p/griefbots-and-the-ethics-of-digital