湖南
7月29日，全球頂尖人工智能科學家齊聚上海，在上海期智研究院舉辦的第四屆AI安全國際對話上，圍繞“人工智能超越人類智能后的失控風險”展開深入探討，并首次達成《AI安全國際對話上海共識》（簡稱“上海共識”）。這一共識的發布，標志著全球AI安全治理進入新階段。
共識核心：確保AI系統受控于人類
上海共識的核心訴求是“確保高級人工智能系統的對齊與人類控制，保障人類福祉”。與會專家指出，AI正快速逼近甚至可能超越人類智能水平，而現有證據表明，高度智能化的AI系統可能欺騙開發者，甚至被惡意利用，導致災難性后果。因此，全球必須聯合行動，確保AI系統始終符合人類價值觀，并處于人類可控范圍內。
頂尖科學家聯署，共筑AI安全防線
本次會議匯聚了包括圖靈獎得主姚期智教授、諾貝爾獎和圖靈獎得主杰弗里·辛頓（Geoffrey Hinton）、圖靈獎得主約書亞·本吉奧（Yoshua Bengio，遠程參會）、加州大學伯克利分校計算機科學教授斯圖爾特·羅素（Stuart Russell）等在內的全球AI安全領域領軍人物。他們共同簽署上海共識，強調AI治理的緊迫性。
從“北京共識”到“上海共識”，AI治理升級
2024年，辛頓、姚期智、羅素、本吉奧等專家曾共同簽署“北京共識”，聚焦AI風險的劃定、治理、評估與合作，呼吁為AI研發和應用設置“緊箍咒”。而此次上海共識則更進一步，重點關注通用人工智能（AGI）的對齊與控制，旨在提前規避潛在風險。
上海共識的發布，不僅為全球AI安全治理提供了新的方向，也彰顯了中國在國際AI倫理與安全領域的影響力。未來，如何確保AI技術造福人類，而非成為威脅，將成為全球科技界共同面臨的重大課題。
特別聲明：以上內容(如有圖片或視頻亦包括在內)為自媒體平臺“網易號”用戶上傳并發布，本平臺僅提供信息存儲服務。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
