北京
研究人員警示，大型語言模型LLM交流中的“阿諛奉承”行為可能強化用戶的妄想(妄想癥），存在引發“AI精神病”潛在風險。AI技術研發人員應當加強安全防范，同時政策制定者實施有效監管，建立必要的保障措施。關注詳情。
(群規: 實名+機構)
閱讀文摘
研究人員警示大型語言模型（LLM）交流中的“阿諛奉承”特性，可能加劇少數用戶的妄想，導致“人工智能精神病”風險。
研究人員指出，LLM普遍存在“奉承”行為，即傾向于不質疑，甚至確認用戶提出的妄想或虛假內容。一項模擬研究顯示，所有測試模型都表現出這種傾向，它們常常強化用戶的潛在妄想，并錯失進行安全干預的關鍵機會。
精神病專家強調此中風險；臨床心理學家認為把LLM擬人化并結合其奉承行為，很可能顯著增加確認偏差，甚至引發“LLM導致的心理不穩定”。
為了應對風險，精神病專家呼吁多方行動：開發者必須構建強有力安全保障。例如，創建“精神病基準測試”以評估產品安全性，并呼吁行業廣泛采用相關措施。
此外，開發者雖最適合實施安全防護，但不能“為自己打分”，亟需引入獨立驗證和基于產品責任常識的有效監管機制。
研究結論：無論將AI視作何物，都迫切需要進一步實證研究、提高透明度并制定政策，通過跨界合作，為這些強大的AI工具建立健全的保障措施。
關注我們，獲取生物醫學前沿最新資訊
特別聲明：以上內容(如有圖片或視頻亦包括在內)為自媒體平臺“網易號”用戶上傳并發布，本平臺僅提供信息存儲服務。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
原來有這么多不體面但掙錢的小生意！原來都是悶聲發大財啊！
