人工智能心理產(chǎn)業(yè)倫理與安全研討會(huì)在橫琴圓滿舉行

2025年5月20日，由復(fù)旦大學(xué)無(wú)錫研究院人工智能心理學(xué)重點(diǎn)實(shí)驗(yàn)室、澳門(mén)城市大學(xué)大健康學(xué)院共同主辦，由科大訊飛、思圖幸福、西湖心辰、聆心智能、厚德明心、歸墟機(jī)器人六家頭部?jī)?yōu)秀企業(yè)共同協(xié)辦的"人工智能心理產(chǎn)品倫理與安全研討會(huì)暨橫琴倡議發(fā)布會(huì)"在橫琴深度合作區(qū)榛林國(guó)際度假園區(qū)舉行。會(huì)議通過(guò)了《人工智能心理產(chǎn)品倫理與安全橫琴倡議書(shū)》，并初步研討并確立了成立“人工智能心理產(chǎn)品產(chǎn)業(yè)聯(lián)盟”的計(jì)劃和發(fā)展規(guī)劃。會(huì)議邀請(qǐng)了清華大學(xué)、復(fù)旦大學(xué)、澳門(mén)城市大學(xué)、山東大學(xué)、科大訊飛、思圖幸福、西湖心辰、聆心智能、厚德明心、歸墟機(jī)器人等十余位學(xué)界專(zhuān)家學(xué)者及業(yè)界代表與會(huì)，圍繞人工智能心理產(chǎn)品的倫理規(guī)約、法律規(guī)章、安全防范、行業(yè)自律、未來(lái)發(fā)展等議題展開(kāi)深入探討。

《人工智能心理產(chǎn)品倫理與安全橫琴倡議書(shū)》提出了五項(xiàng)核心原則：一是注重人工智能心理產(chǎn)品開(kāi)發(fā)初期的安全與倫理設(shè)計(jì)；二是開(kāi)展充分的人工智能心理產(chǎn)品倫理與安全測(cè)試以驗(yàn)證產(chǎn)品可靠性；三是強(qiáng)化人工智能心理產(chǎn)品使用過(guò)程中的倫理與安全監(jiān)測(cè)與應(yīng)急能力；四是組織人工智能心理產(chǎn)品安全與倫理理論與技術(shù)的深入研究；五是推動(dòng)人工智能心理產(chǎn)品倫理與安全方面的規(guī)范和標(biāo)準(zhǔn)制定與發(fā)布；五是積極參與人工智能心理產(chǎn)品相關(guān)法律法規(guī)的制定和遵守；六是明確了行業(yè)自律、用戶保護(hù)、技術(shù)創(chuàng)新等多項(xiàng)原則；七是規(guī)劃了國(guó)內(nèi)乃至國(guó)際的人工智能心理產(chǎn)品產(chǎn)業(yè)聯(lián)盟成立事宜。

會(huì)議全程由澳門(mén)城市大學(xué)大健康學(xué)院孫沛教授主持。

清華大學(xué)心理與認(rèn)知科學(xué)系彭凱平教授在致辭中指出，人工智能正逐漸融入大眾生活，成為心理健康支持和情感關(guān)懷的重要補(bǔ)充。但在推動(dòng)技術(shù)創(chuàng)新的同時(shí)，必須堅(jiān)守倫理底線，確保用戶權(quán)益和數(shù)據(jù)安全。他認(rèn)為，當(dāng)前人工智能產(chǎn)品存在三大突出問(wèn)題：騷擾泛濫、誘導(dǎo)消費(fèi)陷阱及生物特征偽造。“當(dāng)AI實(shí)施欺騙行為時(shí)，責(zé)任主體難以界定——是開(kāi)發(fā)者、平臺(tái)還是用戶？”彭凱平強(qiáng)調(diào)，現(xiàn)有法律對(duì)AI行為的追責(zé)機(jī)制尚未明確，導(dǎo)致此類(lèi)問(wèn)題陷入監(jiān)管盲區(qū)。作為心理學(xué)家，彭凱平坦言，本次研討會(huì)發(fā)布的《橫琴倡議書(shū)》主要從安全與倫理角度出發(fā)，“我們呼吁產(chǎn)業(yè)關(guān)注人工智能倫理與安全問(wèn)題，但法律層面的責(zé)任劃分仍需立法機(jī)構(gòu)介入。”他解釋?zhuān)覀兊某h是安全與倫理倡議，而徹底解決問(wèn)題需依賴(lài)“明確的法律責(zé)任歸屬與懲戒規(guī)則”，這需要有識(shí)之士、法律人士、決策人士共同來(lái)解決。

研討環(huán)節(jié)，線下與線上與會(huì)嘉賓圍繞人工智能心理產(chǎn)品的倫理規(guī)范、數(shù)據(jù)安全、用戶隱私保護(hù)、產(chǎn)品創(chuàng)新等議題展開(kāi)了熱烈討論。

澳門(mén)城市大學(xué)大健康學(xué)院孫沛教授發(fā)言提出，青少年與老年人作為“脆弱群體”，需在人工智能心理產(chǎn)品設(shè)計(jì)中獲得特殊保護(hù)。孫教授表示，當(dāng)前行業(yè)內(nèi)部分產(chǎn)品開(kāi)發(fā)存在盲目套用模型的現(xiàn)象，忽視了對(duì)用戶隱私與行為依賴(lài)的潛在風(fēng)險(xiǎn)。如何比較認(rèn)真細(xì)致的考慮人工智能倫理規(guī)范問(wèn)題，也是這次會(huì)議的主要目的。孫沛教授表示：“今天只是一個(gè)倡議，后期的話就要產(chǎn)業(yè)聯(lián)盟，比如說(shuō)幾十家甚至上百家的企業(yè)，共同往一個(gè)方向去努力，這是未來(lái)的一個(gè)形態(tài)，雖然目前僅六家企業(yè)參與聯(lián)合發(fā)布倡議，但行業(yè)對(duì)此類(lèi)規(guī)范存在普遍需求”。

科大訊飛智慧心育研究院院長(zhǎng)常雪亮博士就AI陪伴產(chǎn)品面臨的倫理與安全隱患與制約問(wèn)題；西湖星辰的陳燕玲老師就AI心理產(chǎn)品的數(shù)據(jù)安全、倫理等問(wèn)題；清華大學(xué)社會(huì)心理研究中心管委會(huì)副主任、厚德銘心的倪子君老師就AI心理產(chǎn)品與真人的不同點(diǎn)、AI咨詢與人類(lèi)咨詢受場(chǎng)所的影響、心理智能體的邊界界定以及情感和承載人類(lèi)無(wú)法承載的情感壓力、危機(jī)進(jìn)行溝通、法律責(zé)任界定等方面；清華大學(xué)積極心理學(xué)研究中心、思圖幸福CTO汪明浩老師就學(xué)生AI游戲類(lèi)產(chǎn)品上癮與AI心理產(chǎn)品上癮的異同、產(chǎn)品不上癮與上癮的邊界劃分等問(wèn)題；智普大模型的肖錫堯老師就LLM部署在云端的數(shù)據(jù)安全、AI陪伴、人類(lèi)對(duì)AI陪伴產(chǎn)品上癮后依賴(lài)更強(qiáng)、人類(lèi)對(duì)心理大模型過(guò)度信任導(dǎo)致過(guò)度依賴(lài)甚至成癮以及利用心理模型交互數(shù)據(jù)操控人類(lèi)情感問(wèn)題；歸墟機(jī)器人劉雪楠老師就具身智能時(shí)代的心理學(xué)方面的可能危險(xiǎn)、復(fù)刻和模仿時(shí)代如何被規(guī)范、工作流的規(guī)范制定、未來(lái)機(jī)器人陪伴人類(lèi)的情感等問(wèn)題；

浙江傳媒大學(xué)、思圖幸福余思博士就AI心理產(chǎn)品的數(shù)據(jù)拒絕銷(xiāo)售、安全與倫理、建立聯(lián)盟、自由是創(chuàng)作基礎(chǔ)但也要有約束等問(wèn)題均踴躍展開(kāi)了積極的發(fā)言和討論。

山東大學(xué)計(jì)算心理學(xué)研究院院長(zhǎng)、復(fù)旦大學(xué)無(wú)錫研究院人工智能心理學(xué)重點(diǎn)實(shí)驗(yàn)室主任姜斌祥教授在閉幕總結(jié)中提出“行業(yè)發(fā)展離不開(kāi)‘政府引導(dǎo)+法律法規(guī)+行業(yè)自律+社會(huì)監(jiān)督’的多重保障，學(xué)界與業(yè)界要緊密結(jié)合，構(gòu)建產(chǎn)業(yè)聯(lián)盟，以開(kāi)放心態(tài)推動(dòng)技術(shù)標(biāo)準(zhǔn)化與倫理體系建設(shè)，打造‘安全可信、有溫度’的人工智能心理產(chǎn)業(yè)生態(tài)”。姜斌祥教授呼吁：“人工智能心理是全球性問(wèn)題，不止是中國(guó)面對(duì)，國(guó)際上也要一起面對(duì)，因此，我們除在國(guó)內(nèi)研究和倡議以外，還要積極與國(guó)際同行進(jìn)行聯(lián)結(jié)，構(gòu)建國(guó)際性聯(lián)盟，并建立聯(lián)盟的科學(xué)研究機(jī)構(gòu)，大家一起發(fā)力，迎戰(zhàn)人工智能心理產(chǎn)業(yè)所面臨的挑戰(zhàn)，造福于全人類(lèi)。”

會(huì)議提出，人工智能心理產(chǎn)業(yè)聯(lián)盟計(jì)劃于今年9月正式成立，屆時(shí)將進(jìn)一步推動(dòng)行業(yè)規(guī)范與協(xié)同創(chuàng)新，為用戶帶來(lái)更優(yōu)質(zhì)、更安全的人工智能產(chǎn)品心理體驗(yàn)。未來(lái)將通過(guò)產(chǎn)業(yè)聯(lián)盟的方式，聯(lián)合國(guó)內(nèi)外學(xué)界與業(yè)界共同推動(dòng)倡議書(shū)的落地實(shí)施。