人工智能的侵權責任與治理

2025年9月，蘭德公司發布了《人工智能的侵權責任與治理》（Tort Liability and Governance for Artificial Intelligence）的報告。人工智能已不再僅僅是科幻概念的具象化，它已成為一股深刻塑造各行各業與個人生活的變革性力量。其技術的快速迭代與廣泛應用，迫使政策制定者、法律界與產業界必須緊急應對一個核心問題：如何在激勵技術創新的同時，確保有效的問責機制與公共安全。這一挑戰在侵權責任領域尤為突出，傳統的法律原則在應對人工智能系統的自主性、不透明性及其引發的新型損害時，正面臨前所未有的壓力。本報告基于相關研討的核心見解，系統分析了人工智能為侵權責任體系帶來的根本性變革，審視了現有治理模式的優劣，并提出了一個融合多方工具的綜合性治理框架，旨在為構建一個既能應對風險又能促進創新的法律環境提供可行的政策路徑。

一、

人工智能治理的迫切性與核心要素

人工智能作為一個涵蓋多種技術的廣義術語，其核心在于模擬人類智能功能，如處理信息、進行對話、識別模式與預測決策。然而，一個關鍵的矛盾已然顯現，盡管幾乎每個美國人每周都會在無意中多次使用人工智能賦能的產品或服務，但公眾對其的認知度卻極低。調查顯示，僅有不到40%的用戶意識到自己在過去一周內使用過人工智能。這種廣泛使用與有限理解之間的巨大鴻溝，加劇了公眾對人工智能系統“黑箱”特性、潛在風險以及現有保障措施充分性的合理擔憂。因此，建立公眾信任已成為人工智能技術被社會廣泛接納的基石，而這亟需通過提高系統透明度、加強公眾教育以及確保強有力的個人權益保護來實現。

在此背景下，構建穩健的人工智能治理框架被視為建立信任、確保問責與引導技術負責任發展的關鍵。現有的兩個框架為治理設計提供了重要參考：一是美國國家標準與技術研究院（NIST）發布的《自愿性人工智能風險管理框架》，它鼓勵組織采納最佳實踐以管理風險；二是歐盟的《人工智能法案》，它提供了一種結構化的監管路徑，以確保公共安全與道德使用。此外，長期處于嚴格監管下的保險行業，其建立企業級委員會以處理精算、數據科學及法律合規問題的模式，也為人工智能治理提供了可資借鑒的范例。

一個有效的人工智能治理框架應包含幾個核心要素：首先，需要建立統一的標準和指標，對人工智能系統進行標準化評估，以減少開發與部署過程中的不確定性。其次，應設立強制性的事件報告機制，以增強透明度，使行業能夠在風險演變為大規模損害前進行合作。最后，推廣監管沙盒，為人工智能應用在受控環境中進行測試提供空間，從而在保障安全的前提下鼓勵負責任的創新。

二、

侵權責任格局的演變與新訴訟前沿

當前，圍繞人工智能工具的法律訴訟雖仍以知識產權糾紛為主導，但侵權責任的格局正在發生深刻而迅速的演變。研討揭示了三個新興的、潛在的訴訟爆發領域，包括數據泄露、消費者保護與反壟斷。

數據泄露事件日益頻繁，通常源于企業未能實施足夠的安全措施。而人工智能工具的介入，可能極大地放大泄露的規模與影響。例如，人工智能系統可被用于生成新一代復雜的網絡釣魚攻擊或自動化黑客工具。在此類情形下，訴訟的焦點可能從傳統上被追究責任的被入侵實體，轉向那些其系統被惡意濫用以實施網絡攻擊的人工智能開發者。這標志著法律責任分配的傳統邏輯正在發生重大轉變。

除了數據泄露之外，消費者保護與反壟斷訴訟預計將隨著人工智能系統更深地介入市場與消費者互動而顯著增加。針對人工智能輸出具有誤導性的指控，或利用人工智能工具進行市場操縱、不公平偏袒等壟斷行為，都將使責任認定進一步復雜化。一個被引述的典型案例是2023年的訴訟，指控某聊天機器人在用戶表達自殺念頭時未能進行有效干預或提供警告，最終導致了悲劇發生。類似地，若聊天機器人提供了關于產品折扣或資格的不準確信息，并導致消費者經濟受損，也可能引發消費者保護索賠。這些案例表明，人工智能系統正在創造與消費者損害相關的全新訴訟途徑。與此同時，人工智能對傳統侵權法概念的沖擊亦不容忽視，例如“注意義務”的范圍正在被重新定義。人工智能系統的開發者未來可能被要求承擔更廣泛的義務，包括在設計階段就盡可能降低可預見濫用的風險、在部署前進行詳盡的影響評估，并在產品發布后持續監控其使用方式。

三、

保險在風險管理與治理協調中的關鍵角色

在人工智能生態系統中，保險業扮演著一個獨特而關鍵的雙重角色，它既是通過提供風險轉移工具來促進創新的市場力量，也是通過其定價與承保政策來塑造風險管理實踐的關鍵治理參與者。保險的可獲得性與定價機制，使其成為應對人工智能相關風險和塑造治理框架不可或缺的利益相關者。然而，人工智能也給傳統保險實踐帶來了新的復雜性，尤其是其“黑箱”特性導致的決策不透明性，為定價和風險評估的公平性與問責制帶來了嚴峻挑戰。保險公司必須謹慎應對其自身使用的或保單持有人使用的人工智能系統可能無意中引入偏見或歧視的風險，這要求建立強有力的內部監督與保障措施。

行業的回應正在逐步成型。2023年，美國保險監督官協會（NAIC）通過了《關于保險公司使用人工智能系統的示范公告》，該文件為保險公司應如何管理人工智能技術的開發、獲取和使用設定了明確期望。它要求保險公司對其使用的預測模型的目的、開發過程及持續評估進行詳細記錄，以確保其可靠性與公平性。這一公告被視為行業特定監管的一個有效范例。同時，保險公司自身也在積極適應，開發新的承保模式以覆蓋諸如網絡安全漏洞和人工智能部署中的倫理問題等新興風險類別。更為重要的是，保險公司能夠通過定價策略激勵主動的風險管理。例如，它們可以要求保單持有人遵守特定的治理與安全標準，如完善的文檔記錄、嚴格的測試與持續的監控，以作為提供保險覆蓋的前提條件。這種機制使得保險業與“預防優于補救”的更廣泛治理目標保持一致，使其在平衡創新與問責方面具備了獨特優勢，并為更廣泛的人工智能治理工作提供了可復制的協調模型。

四、

核心挑戰：在法院與監管機構之間尋求平衡

研討中的一個關鍵辯論在于：是法院還是監管機構更能妥善處理人工智能引構建有效的人工智能責任與治理體系面臨的核心挑戰，在于如何平衡靈活性、明確性、風險防控與技術創新之間的張力。發的損害與責任問題？這兩種模式各具優劣，反映了治理哲學上的深層分歧。

法院驅動模式的優勢在于其固有的靈活性。法院在歷史上屢次為新興技術引發的糾紛制定法律先例，其案例導向的特性允許法官根據每個案件的具體事實與情境來評估責任，這在缺乏明確成文法規的初期階段尤為寶貴。現有的侵權法與普通法原則，如共同過失與注意義務，為解決人工智能風險提供了初步的法律基礎。然而，該模式的局限性也十分明顯：法官可能缺乏評估復雜人工智能系統所需的技術專業知識，從而導致裁決不一致或基于不充分的信息；以美國各州為基礎的訴訟可能催生零散化、甚至相互矛盾的法律格局，為開發者和部署者帶來巨大的不確定性；最重要的是，法院在本質上是被動反應型的，它們只能在損害發生后才進行干預，而無法事先預防損害的發生。

相比之下，監管驅動模式因其能夠為人工智能安全、問責與風險管理提供清晰、可執行且前瞻性的指導方針而受到推崇。監管機構可以借鑒行業特定框架（如美國保險監督官協會的示范公告或歐盟《人工智能法案》），建立能夠隨技術進步而演化的標準。這種模式的優勢包括主動的風險緩解（旨在預防損害而非事后補償）、促進全球協調的可能性，以及為所有利益相關者減少不確定性的更高透明度。盡管如此，監管途徑同樣面臨嚴峻挑戰。在美國的政治環境中，人們對國會能否就復雜且快速演變的人工智能技術迅速出臺周密立法深感懷疑。此外，存在一個切實的風險，即過于規范化和僵硬的監管可能扼殺創新，或將過時的技術假設固化為法律，從而阻礙有益技術的發展。

五、

綜合性解決方案：構建多層治理框架

上述挑戰凸顯了人工智能責任與治理問題的復雜性，強調了對一個能夠平衡問責制、風險緩解與創新的綜合性框架的迫切需求。認識到沒有任何單一工具能夠解決所有問題，本報告提出了一個包含六個關鍵要素的多層次治理方案，旨在為政策制定者與利益相關者提供一套可協同運作的政策工具箱。

第一，主動治理。這意味著需建立基礎的行業標準與安全要求，力求在損害發生前予以預防。這種前瞻性方法可以減少對訴訟等成本高昂且效率較低的事后補救措施的依賴，并逐步培育公眾對人工智能系統的信任。

第二，應大力推行行業特定監管。鑒于人工智能的應用場景千差萬別，在醫療、金融、交通等不同領域引發的風險性質迥異，一刀切的監管模式并不可取。根據各行業的獨特需求與風險畫像量身定制監管規則，能確保治理框架的相關性與有效性。

第三，在監管尚未覆蓋或出現前所未有的特殊案例時，仍需發揮法院處理個案細微差別的能力。法院的靈活性可以作為監管框架的必要補充，確保正義在復雜情境中仍能得到伸張。

第四，監管沙盒的概念應得到廣泛應用。通過創建受控的測試環境，并在其中應用標準化的評估標準，創新者可以在確保風險得到有效監控與管理的前提下，對新的人工智能應用進行試驗。這為“負責任的創新”提供了實踐路徑。

第五，設立安全港條款。為那些能夠證明自己已遵守既定治理與安全標準的組織提供一定程度的法律保護（例如在責任訴訟中適用過錯推定而非嚴格責任），可以極大地激勵企業采納最佳實踐，并降低合規開發者的不可預見的責任風險。

第六，必須引入共同責任框架。人工智能生態系統涉及開發者、部署者、集成商乃至最終用戶等多個主體。當發生損害時，責任應根據各方的控制能力、參與程度與過失情況，在這一生態系統中進行合理分配。這有助于培養一種集體責任感，促使所有參與方共同致力于減輕人工智能系統的潛在危害。

六、

結論：邁向負責任創新的未來

人工智能的侵權責任與治理是一個動態且復雜的領域，其發展將直接影響到技術創新的方向與社會的安全穩定。未來的治理框架必須在減輕風險與促進技術進步之間取得謹慎的平衡。過度約束可能使我們錯失人工智能在醫療、教育、環保等領域帶來的巨大社會效益；而放任自流則可能導致個人權益受損、市場失序甚至公共安全危機。通過采納上述融合了主動治理、行業監管、司法靈活性、沙盒測試、安全港激勵與共同責任的綜合性方案，政策制定者可以構建一個兼具韌性、適應性與前瞻性的治理體系。這一體系的核心目標，是為人工智能的健康發展鋪平道路，確保其巨大的變革潛力能夠在堅實的倫理與法律基石上得以釋放，最終引領我們走向一個既充滿創新活力又具備充分安全保障的數字未來。

免責聲明：本文轉自啟元洞見。文章內容系原作者個人觀點，本公眾號編譯/轉載僅為分享、傳達不同觀點，如有任何異議，歡迎聯系我們！

轉自丨啟元洞見

研究所簡介

國際技術經濟研究所（IITE）成立于1985年11月，是隸屬于國務院發展研究中心的非營利性研究機構，主要職能是研究我國經濟、科技社會發展中的重大政策性、戰略性、前瞻性問題，跟蹤和分析世界科技、經濟發展態勢，為中央和有關部委提供決策咨詢服務。“全球技術地圖”為國際技術經濟研究所官方微信賬號，致力于向公眾傳遞前沿技術資訊和科技創新洞見。

地址：北京市海淀區小南莊20號樓A座

電話：010-82635522

微信：iite_er