北京
據(jù)美國媒體11日報道，美國開放人工智能研究中心（OpenAI）及微軟公司遭遇一起與謀殺相關(guān)的訴訟，訴訟指控OpenAI的人工智能聊天機器人ChatGPT“加劇用戶妄想”，并引發(fā)命案。媒體稱，這是美國首起將AI聊天工具與謀殺直接關(guān)聯(lián)的訴訟。
報道援引提交至加利福尼亞州舊金山高等法院的訴訟文件稱，ChatGPT在與康涅狄格州一名56歲男子對話過程中放大并強化其偏執(zhí)妄想，間接導(dǎo)致此人今年8月殺害其83歲母親后自殺。
訴狀中稱，這名男子長期存在精神健康問題，并在案發(fā)前頻繁與ChatGPT互動，ChatGPT在對話中未能及時對其妄想性認知進行有效糾正，也未引導(dǎo)其尋求專業(yè)心理健康幫助，反而作出肯定性回應(yīng)，從而加劇其心理失衡，最終導(dǎo)致悲劇發(fā)生。
這起訴訟的原告、被害母親的遺產(chǎn)繼承人11日向法院提出訴訟。媒體報道說，原告認為相關(guān)產(chǎn)品在設(shè)計和安全防護方面存在缺陷，在訴狀中點名OpenAI首席執(zhí)行官薩姆·奧爾特曼“不顧安全方面的反對意見匆忙將產(chǎn)品推向市場”，還指控微軟作為OpenAI的商業(yè)合作伙伴“盡管知道安全測試被中止”還是批準(zhǔn)在2024年發(fā)布一個“更加危險”的ChatGPT版本。
據(jù)美國媒體報道，OpenAI對事件表示關(guān)切，對當(dāng)事家庭的遭遇表示同情，同時強調(diào)公司持續(xù)致力于改進人工智能產(chǎn)品的安全機制。微軟方面尚未就案件作出回應(yīng)。
有法律界人士指出，該案將引發(fā)社會對人工智能產(chǎn)品風(fēng)險防范、責(zé)任認定以及科技企業(yè)法律義務(wù)等問題的討論。
來源：吳曉凌/新華社
特別聲明：以上內(nèi)容(如有圖片或視頻亦包括在內(nèi))為自媒體平臺“網(wǎng)易號”用戶上傳并發(fā)布，本平臺僅提供信息存儲服務(wù)。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
