據(jù)美國媒體11日報道,美國開放人工智能研究中心(OpenAI)及微軟公司遭遇一起與謀殺相關的訴訟,訴訟指控OpenAI的人工智能聊天機器人ChatGPT“加劇用戶妄想”,并引發(fā)命案。媒體稱,這是美國首起將AI聊天工具與謀殺直接關聯(lián)的訴訟。
報道援引提交至加利福尼亞州舊金山高等法院的訴訟文件稱,ChatGPT在與康涅狄格州一名56歲男子對話過程中放大并強化其偏執(zhí)妄想,間接導致此人今年8月殺害其83歲母親后自殺。
訴狀中稱,這名男子長期存在精神健康問題,并在案發(fā)前頻繁與ChatGPT互動,ChatGPT在對話中未能及時對其妄想性認知進行有效糾正,也未引導其尋求專業(yè)心理健康幫助,反而作出肯定性回應,從而加劇其心理失衡,最終導致悲劇發(fā)生。
這起訴訟的原告、被害母親的遺產(chǎn)繼承人11日向法院提出訴訟。媒體報道說,原告認為相關產(chǎn)品在設計和安全防護方面存在缺陷,在訴狀中點名OpenAI首席執(zhí)行官薩姆·奧爾特曼“不顧安全方面的反對意見匆忙將產(chǎn)品推向市場”,還指控微軟作為OpenAI的商業(yè)合作伙伴“盡管知道安全測試被中止”還是批準在2024年發(fā)布一個“更加危險”的ChatGPT版本。
據(jù)美國媒體報道,OpenAI對事件表示關切,對當事家庭的遭遇表示同情,同時強調公司持續(xù)致力于改進人工智能產(chǎn)品的安全機制。微軟方面尚未就案件作出回應。
有法律界人士指出,該案將引發(fā)社會對人工智能產(chǎn)品風險防范、責任認定以及科技企業(yè)法律義務等問題的討論。
來源:吳曉凌/新華社
特別聲明:以上內(nèi)容(如有圖片或視頻亦包括在內(nèi))為自媒體平臺“網(wǎng)易號”用戶上傳并發(fā)布,本平臺僅提供信息存儲服務。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.