上海
團隊組建背景
2020年5月，Deep Ganguli因OpenAI GPT-3論文警醒，加入由前OpenAI員工創辦的Anthropic公司，組建9人“社會影響團隊”。該團隊隸屬員工超2000人的Anthropic，致力于研究AI從經濟影響到選舉風險等廣泛議題，確保AI“與人類積極互動”。
核心使命與工具創新
團隊目標是揭示AI“不便真相”，如通過Clio系統追蹤Claude聊天機器人使用情況，發現用戶生成露骨色情內容或SEO垃圾信息。該系統類似Google Trends，幫助Anthropic優化安全監測，并公開發布研究以惠及其他公司。
內部協作與挑戰
團隊每周五天辦公室共事，與安全、對齊和政策團隊緊密合作，研究包括經濟指數和選舉風險評估。盡管領導層支持，團隊面臨資源有限、協調成本增加等難題，無法完全追蹤AI輸出在現實世界的實際影響。
未來研究方向
團隊計劃擴展規模，優先探索AI情感智能（EQ）影響，如用戶尋求職業指導或政治建議，可能引發“AI精神病”等現象。成員強調使命優先于金錢，致力于從內部指導安全AI發展。該報道由The Verge高級AI記者Hayden Field于2025年12月2日3:11 PM UTC發布。
參考鏈接:
https://www.theverge.com/ai-artificial-intelligence/836335/anthropic-societal-impacts-team-ai-claude-effects
特別聲明：以上內容(如有圖片或視頻亦包括在內)為自媒體平臺“網易號”用戶上傳并發布，本平臺僅提供信息存儲服務。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
