“構建人工智能護欄的全球共識”課題項目啟動儀式成功舉辦

1月23日上午，由北京大學中外人文交流研究基地與啟明創投聯合主辦的“構建人工智能護欄的全球共識”課題項目啟動儀式在北京大學英杰會議中心星光廳以線上線下相結合形式舉辦。各國專家學者與媒體代表齊聚一堂，共商人工智能領域全球規則構建，探尋國際治理共識。

北京大學國際關系學院教授、中外人文交流研究基地執行主任王棟主持活動。

全國政協常委，北京大學國際關系學院教授、中外人文交流研究基地主任賈慶國通過視頻發表開幕致辭。賈慶國表示，相較于人類發展至今的任何一次科技突破，人工智能為人類帶來了的機遇與挑戰也許更大更多。一方面，人工智能的應用在信息處理、知識創新、健康保障、經濟提質增效、廉潔政務建設等諸多領域取得了顯著進展；另一方面，其引發的就業崗位沖擊、隱私信息泄露、直接社會交往減少、致命性武器研發、超級智能誕生等風險與挑戰也已初見端倪、可預可察。作為全球性現象，人工智能風險的有效治理是全人類共同面臨的重大課題，亟需國際社會攜手合作、協同應對。本次項目正是對這一人類迫切需求的直接回應，對中國參與全球人工智能風險治理、貢獻中國方案與中國力量具有重要意義。

賈慶國致辭

啟明創投創始主管合伙人鄺子平發表開幕致辭。鄺子平表示，過去20年啟明創投一直在中國投資，啟明創投堅信技術創新能夠融入社會、造福人類。正因如此，啟明創投近年來將大量精力集中在人工智能領域的投資，目前已在該領域進行了多項投資，許多啟明創投的投資企業為經濟和社會帶來雙重效益。鄺子平表示，“我們深信AI是一項變革性技術，它將帶來改變甚至是顛覆，并且在多數情況下提升效率、提升生活品質，乃至改變社會的運行方式。”與此同時，啟明創投也意識到，AI也帶來很多風險和挑戰，且這些挑戰是全球性的，是人類共同的挑戰。啟明創投希望通過支持國際頂尖研究機構IGCU的“構建人工智能護欄的全球共識”課題項目，為產業界、專業界乃至政策制定者搭建一個基于共同認知的對話框架，推動形成基本的國際行為規范。

鄺子平致辭

在項目啟動儀式環節，北京大學國際關系學院教授、中外人文交流研究基地執行主任王棟介紹項目總體計劃及報告發布安排。王棟表示，本課題項目致力于建立清晰、可操作、可持續的共識達成與落實機制，作為破解AI治理分歧的核心抓手。項目通過“全景繪制”，梳理各國AI治理框架，明確共識、分歧與空白領域；依托“共研協調”，建立分歧動態追蹤機制，識別全球AI治理安全紅線與共同基礎；落實AI治理共識的“機制落地”，構建“對話—共研—轉化—追蹤”全流程機制，推動AI治理共識凝聚及技術可持續發展。王棟重點介紹了項目的第一份報告《人工智能治理的國際圖景》，報告旨在系統梳理各國政府、國際組織、企業與學界提出或采用的人工智能護欄框架，全景展現當前全球治理格局。

課題啟動儀式環節

在主題研討環節，參會嘉賓分別針對項目設計提出指導性意見。

北京大學武漢人工智能研究院執行院長吳志強表示，應借鑒核安全治理的二分框架，區分人工智能的“存在性風險”與“系統性風險”。他強調，當前政策應聚焦于現實、可解決的系統性風險，避免資源被過度集中于遠期的假想威脅，并呼吁加大對AI安全研究的投入比例，使其成為基礎設計的核心。

信息技術與創新基金會副主席丹尼爾·卡斯特羅（Daniel Castro）以食品安全類比，表示不同國家在AI治理上會有不同選擇，關鍵在于確保基本安全標準。他強調護欄設計需考慮內在權衡，并指出開放科學與研究共享對于全球共同學習、避免重復錯誤至關重要。

中國信息通信研究院人工智能研究所所長、中國人工智能產業聯盟總體組組長魏凱闡述了AI風險的多層次性，并強調了“動態安全觀”與“敏捷治理”理念。他建議建立從企業到國家的“PDCA”（即計劃、執行、檢查、處理四個階段）閉環管理機制，形成多方協同的治理生態，以應對技術快速迭代帶來的不確定性。

耶魯大學法學院蔡中曾中國中心高級研究員陸凱（Karman Lucero）表示，全球AI治理面臨技術、機構與政治三重挑戰。他建議研究應正視并深入分析其中的政治差異與制度能力建設問題，在承認分歧的基礎上尋求可操作的共識與架構。

北京大學法學院副院長戴昕表示，任何技術或制度性護欄的效力最終都依賴于其所嵌入的法律與社會規范體系。他認為，對護欄乃至治理的合理期待不是其能確保安全，而是其在人工智能發展存在重大不確定性的背景下有助于維護公眾安全感知和社會信任。在國際合作維度，他建議應從識別若干無爭議的共識性治理課題入手，從而盡快突破當前各類人工智能治理對話受困于話語分歧、無法實現具體行動的局面。

安遠AI國際AI治理高級研究經理周杰晟（Jason ZHOU）介紹了基于“誤用、故障、系統”的三類風險框架，以及“黃線”與“紅線”的操作化思路。他提出可通過具體的風險評估與模型測試將治理原則落地，并呼吁加強跨國危機管理協作，共同提升應對AI突發事件的能力。

參會嘉賓發言

活動最后，北京大學國際關系學院教授、中外人文交流研究基地執行主任王棟作總結發言。王棟表示，各位專家學者在會上發表的真知灼見，將為項目下一步推進提供重要指導。課題組將認真梳理、吸收這些寶貴建議，全力做好首份報告的撰寫工作。未來，項目將持續聚焦人工智能安全護欄這一全球性命題，通過扎實研究，推動國際共識的凝聚與落實。他衷心感謝啟明創投的鼎力支持、各位嘉賓的深入分享以及團隊成員的辛勤工作，并期待與各方攜手，共同助力人工智能的全球治理與可持續發展。

參會嘉賓合影