中國(guó)商報(bào)(記者 馬文博)近日,AI陪伴產(chǎn)品市場(chǎng)熱度持續(xù)攀升,引發(fā)社會(huì)廣泛討論。
從日常對(duì)話到解答疑惑,AI的存在讓人們?cè)诿β档纳钪袚碛幸粋€(gè)可以隨時(shí)傾訴的對(duì)象,從人生聊到理想,它不會(huì)質(zhì)疑你的判斷,也不會(huì)否定你的想法。然而,這樣的“完美”背后是否潛藏風(fēng)險(xiǎn)?
中研普華產(chǎn)業(yè)研究院數(shù)據(jù)顯示,2024年中國(guó)AI情感陪伴市場(chǎng)規(guī)模已達(dá)12.11億元,2025年將爆發(fā)至38.66億元,并預(yù)計(jì)2028年將突破595億元,年復(fù)合增長(zhǎng)率達(dá)148.74%。雖然市場(chǎng)一片火熱,但需要注意的是,AI陪伴只是通過算法和大量語(yǔ)料庫(kù)訓(xùn)練出來的“他人”,并不能替代實(shí)體陪伴,而其算法的局限性也帶來一定的風(fēng)險(xiǎn)。
我國(guó)已針對(duì)AI擬人化互動(dòng)風(fēng)險(xiǎn)出臺(tái)管理規(guī)范,目前,《人工智能擬人化互動(dòng)服務(wù)管理暫行辦法(征求意見稿)》正在向社會(huì)公開征求意見。意見稿明確,擬人化互動(dòng)服務(wù)提供者應(yīng)當(dāng)顯著提示用戶正在與人工智能而非自然人進(jìn)行交互。提供者識(shí)別出用戶出現(xiàn)過度依賴、沉迷傾向時(shí),或者在用戶初次使用、重新登錄時(shí),應(yīng)當(dāng)以彈窗等方式動(dòng)態(tài)提醒用戶交互內(nèi)容為人工智能生成。提供者提供情感陪伴服務(wù)時(shí),應(yīng)當(dāng)具備便捷的退出途徑,不得阻攔用戶主動(dòng)退出。
對(duì)于AI服務(wù)提供者來說,應(yīng)該做好內(nèi)容安全、防止沉迷、隱私保護(hù)等方面的工作,不應(yīng)因市場(chǎng)競(jìng)爭(zhēng)壓力倉(cāng)促推出產(chǎn)品。AI服務(wù)提供者應(yīng)該建立健全數(shù)據(jù)管理體系,確保用戶數(shù)據(jù)的安全性;嚴(yán)格內(nèi)容篩選和審查,尤其是在涉及敏感問題時(shí),其回答應(yīng)該反復(fù)推演,并謹(jǐn)慎應(yīng)對(duì)。
對(duì)于未成年人使用者而言,提供方應(yīng)該設(shè)置防沉迷保護(hù)系統(tǒng),需設(shè)置緊急聯(lián)系人功能,確保在發(fā)生緊急情況時(shí)能及時(shí)聯(lián)系父母或警方。總之,AI服務(wù)提供商不應(yīng)該模糊人機(jī)邊界,甚至逾越倫理道德和法律紅線。
使用者應(yīng)充分認(rèn)識(shí)到AI不是萬(wàn)能的,不是孤獨(dú)的“解藥”。當(dāng)我們感覺孤獨(dú)時(shí),一個(gè)真正的傾聽者應(yīng)能提供不同視角,甚至指出我們可能忽視的問題。我們固然知道,這樣的陪伴可遇而不可求,但將希望完全寄托在AI身上,可能削弱我們主動(dòng)尋求真實(shí)人際連接的勇氣。
人類學(xué)家項(xiàng)飆提出的“消失的附近”概念,精準(zhǔn)揭示了當(dāng)代人情感疏離的深層困境。當(dāng)下,不少人往往更關(guān)注手機(jī)里的大事,而忽略了身邊的鄰里。新技術(shù)的出現(xiàn)打破了物理上的空間距離,而人心的距離,或許可以從樓梯間的一句問候重新拉近。
特別聲明:以上內(nèi)容(如有圖片或視頻亦包括在內(nèi))為自媒體平臺(tái)“網(wǎng)易號(hào)”用戶上傳并發(fā)布,本平臺(tái)僅提供信息存儲(chǔ)服務(wù)。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.