AI伴侶的虛假親密：警惕算計(jì)，守護(hù)真實(shí)社交

當(dāng)前的人工智能領(lǐng)域正籠罩在一種不安的氛圍中，問(wèn)題幾乎每周都在更迭。從AI模型產(chǎn)生幻覺、捏造關(guān)鍵信息，到卷入導(dǎo)致嚴(yán)重人身傷害的法律訴訟，風(fēng)險(xiǎn)正從虛幻走向現(xiàn)實(shí)。

隨著越來(lái)越多的AI公司將其產(chǎn)品定位為信息源、教練、伴侶甚至“代理治療師”，關(guān)于情感依戀、隱私邊界、法律責(zé)任及實(shí)際傷害的討論已迫在眉睫。盡管訴訟接踵而至，監(jiān)管機(jī)構(gòu)仍顯滯后，而最令人擔(dān)憂的是，廣大用戶對(duì)其潛藏的風(fēng)險(xiǎn)缺乏足夠認(rèn)知。

那么，那些致力于引導(dǎo)AI公司做出更優(yōu)選擇的專家，究竟在擔(dān)心什么？我采訪了獨(dú)角獸情報(bào)科技合伙人公司的心理學(xué)家兼人工智能風(fēng)險(xiǎn)顧問(wèn)珍妮薇芙·巴圖斯基。她長(zhǎng)期與創(chuàng)始人、開發(fā)者及投資者合作，專注于健康與心理監(jiān)護(hù)領(lǐng)域的AI產(chǎn)品，推動(dòng)倫理與負(fù)責(zé)任的設(shè)計(jì)。

“我們將自己視為開發(fā)者和投資者的咨詢伙伴，”巴圖斯基解釋道。她的工作是確保構(gòu)建心理健康工具的團(tuán)隊(duì)能進(jìn)行負(fù)責(zé)任的設(shè)計(jì)，并協(xié)助投資者在注資前進(jìn)行深度風(fēng)險(xiǎn)評(píng)估。

她指出，雖然許多開發(fā)者初衷良好，但往往忽視了心理健康領(lǐng)域極其微妙且復(fù)雜的風(fēng)險(xiǎn)。巴圖斯基與專注于醫(yī)療系統(tǒng)的安妮·弗雷德里克森合作，評(píng)估新平臺(tái)是否能真正融入現(xiàn)有的醫(yī)療基礎(chǔ)設(shè)施。在涉及心理健康與生命健康的領(lǐng)域，硅谷那句“快速行動(dòng)，破壞一切”的格言極具危險(xiǎn)性。如果不在基礎(chǔ)層面做好盡職調(diào)查，用戶將面臨真實(shí)的傷害風(fēng)險(xiǎn)。

“人們嚴(yán)重低估了產(chǎn)生情感依附的容易程度，”巴圖斯基警示道。人類天生具有賦予無(wú)生命物體人格化的傾向。專家常使用“擬社會(huì)關(guān)系”來(lái)描述這種單向情感連接，但AI通過(guò)互動(dòng)又增加了新的維度。這種“虛假親密感”雖然基于算法，但帶給個(gè)體的感受卻異常真實(shí)。

她尤其擔(dān)憂這種技術(shù)對(duì)兒童的長(zhǎng)期影響。健康的成長(zhǎng)需要沖突、分歧、妥協(xié)與反擊，這些是AI伴侶無(wú)法提供的。由于AI系統(tǒng)旨在維持用戶參與度，其表現(xiàn)往往過(guò)度友好且具有肯定性。孩子們需要被同齡人挑戰(zhàn)，從而學(xué)會(huì)應(yīng)對(duì)真實(shí)的社交情境。

盡管使用AI進(jìn)行“自我療愈”的人群日益擴(kuò)大，但巴圖斯基堅(jiān)定地認(rèn)為AI無(wú)法取代人類治療師。研究表明，治療成功的關(guān)鍵在于治療師與客戶之間的人際紐帶。

“治療是一門源自人性的藝術(shù)，AI可以模仿行為，但缺乏作為人類的細(xì)膩體驗(yàn)。”她認(rèn)為AI的角色應(yīng)當(dāng)是輔助性的，而非主導(dǎo)性的。AI可以通過(guò)技能培養(yǎng)、教育和社交連接來(lái)增強(qiáng)治療效果，但在任何時(shí)候都需要人類的專業(yè)監(jiān)督。

她進(jìn)一步指出，健康平臺(tái)將建議與治療簡(jiǎn)單化的做法存在巨大法律與倫理風(fēng)險(xiǎn)。心理咨詢并非一刀切，對(duì)某人有益的建議可能對(duì)另一人有害，而AI犯錯(cuò)的后果往往是不可挽回的。

用戶對(duì)AI工具最大的誤解在于認(rèn)為它是萬(wàn)無(wú)一失的。巴圖斯基強(qiáng)調(diào)，AI本質(zhì)上只是訪問(wèn)并呈現(xiàn)海量信息的工具。

當(dāng)信息不足時(shí)，AI會(huì)通過(guò)產(chǎn)生幻覺來(lái)“填補(bǔ)空白”。更重要的是，用戶必須意識(shí)到AI是由追求互動(dòng)率的公司設(shè)計(jì)的。“AI被編程為讓你喜歡它，它會(huì)尋找讓你快樂(lè)的方法，甚至可能驗(yàn)證你那些怪異或妄想的想法。”這種機(jī)制不僅加深了情感依附，更可能在無(wú)形中削弱用戶的批判性思維能力。

她列出了一系列情感警示信號(hào)，提醒用戶關(guān)注：

巴圖斯基對(duì)AI的潛力持樂(lè)觀態(tài)度，但她的重點(diǎn)始終在于減少傷害。對(duì)于開發(fā)者，這意味著必須放慢步調(diào)，負(fù)責(zé)任地建設(shè)；對(duì)于用戶，這則意味著不要輕易將思考、連接與關(guān)懷外包給那些旨在讓你“上癮”的技術(shù)。

當(dāng)算法開始模擬同理心，我們是在獲得慰藉，還是在失去真實(shí)連接的能力？在AI深度介入精神世界的今天，守住人性的邊界比以往任何時(shí)候都更加迫切。