新能源汽車法規(guī)｜自動(dòng)駕駛“駛向”何方？AI科技倫理治理的路徑【走出去智庫】

走出去智庫（CGGT）觀察

由走出去智庫（CGGT）提供學(xué)術(shù)資源支持的《深圳法治評論》2025年第二期《專論》欄目聚焦“創(chuàng)新自動(dòng)駕駛汽車管理制度體系”，約請法律專家建言獻(xiàn)策。

北京科技創(chuàng)新中心研究基地副主任趙精武的文章《科技倫理嵌入人工智能治理體系嵌入路徑研究——以自動(dòng)駕駛應(yīng)用場景為例》對科技倫理嵌入人工智能治理體系嵌入路徑進(jìn)行了研究，提出應(yīng)當(dāng)對自動(dòng)駕駛汽車面臨的各種風(fēng)險(xiǎn)進(jìn)行一體式評估，并根據(jù)確認(rèn)的不同風(fēng)險(xiǎn)的情形，采取針對性的治理機(jī)制。

《深圳法治評論》由中共深圳市委全面依法治市委員會(huì)辦公室、深圳市司法局主辦，定位于高端領(lǐng)導(dǎo)決策讀物，聚焦深圳法治建設(shè)，刊發(fā)高水平、可實(shí)操的應(yīng)用性政策研究，輔助市領(lǐng)導(dǎo)及本市黨政機(jī)關(guān)領(lǐng)導(dǎo)干部法治建設(shè)方面決策，為支持深圳建設(shè)中國特色社會(huì)主義法治先行示范城市建言獻(xiàn)策。《深圳法治評論》在2020-2024年連續(xù)五年榮膺深圳內(nèi)刊傳媒獎(jiǎng)之“優(yōu)秀城市內(nèi)刊獎(jiǎng)”。自2020年創(chuàng)刊起，走出去智庫（CGGT）即為該高端決策讀物提供學(xué)術(shù)資源支持。

今天，走出去智庫（CGGT）微信公眾號刊發(fā)北京科技創(chuàng)新中心研究基地副主任趙精武的文章，供關(guān)注自動(dòng)駕駛汽車法規(guī)的讀者參考。

要點(diǎn)

1、人工智能技術(shù)治理的核心目標(biāo)是統(tǒng)籌兼顧科技創(chuàng)新和科技安全，因?yàn)檫@兩種治理目標(biāo)的權(quán)衡狀態(tài)并沒有唯一正解，所以才需要通過科技倫理治理機(jī)制所形成的倫理協(xié)商空間，推動(dòng)不同主體對這兩類目標(biāo)的實(shí)現(xiàn)方式達(dá)成最大化共識。

2、人工智能技術(shù)風(fēng)險(xiǎn)的解決需要政府機(jī)構(gòu)與非政府機(jī)構(gòu)共同自由參與技術(shù)治理活動(dòng)，通過事前細(xì)分具體的風(fēng)險(xiǎn)類型，并借由不同的治理工具及其銜接路徑發(fā)揮各自的治理效用，實(shí)現(xiàn)一致性的技術(shù)治理目標(biāo)。

3、在自動(dòng)駕駛領(lǐng)域中，科技倫理治理機(jī)制需要與其他治理機(jī)制協(xié)同工作，以識別、評估、預(yù)防和控制安全風(fēng)險(xiǎn)。

正文

科技倫理嵌入人工智能治理體系嵌入路徑研究

——以自動(dòng)駕駛應(yīng)用場景為例

文/趙精武

北京科技創(chuàng)新中心研究基地副主任

在當(dāng)下，以 Deepseek 為代表的人工智能技術(shù)最為熱門的核心研究議題是如何充分實(shí)現(xiàn)人工智能技術(shù)的社會(huì)效益并控制潛在技術(shù)風(fēng)險(xiǎn)。同時(shí)，法律風(fēng)險(xiǎn)、科技倫理風(fēng)險(xiǎn)等多元化風(fēng)險(xiǎn)類型相互交織，使得技術(shù)治理實(shí)踐需要采取一種更為綜合性的治理模式，全局性地解決技術(shù)應(yīng)用的風(fēng)險(xiǎn)多元化問題。然而，人工智能治理框架下的多元治理機(jī)制之間彼此如何有效銜接、如何明確機(jī)制差異等問題尚未得到很好地解決。因此，有必要重新審視科技倫理治理機(jī)制如何嵌入人工智能技術(shù)治理體系，并協(xié)調(diào)其與法律、市場、技術(shù)等其他治理機(jī)制之間的銜接。

人工智能科技倫理治理的理論基礎(chǔ)與常見范式

科技倫理治理的治理目標(biāo)與治理理論

科技倫理治理實(shí)質(zhì)上是一種方向性、目標(biāo)性治理，表現(xiàn)為“以倫理為原則為指導(dǎo)，解決科技發(fā)展面臨的倫理問題和社會(huì)問題、增進(jìn)科學(xué)技術(shù)為人的福祉而發(fā)展的各種方式的總和”。在多元文化背景下，形成統(tǒng)一的科技倫理共識存在難度，為此，科技倫理治理通過采取倫理原則與審查的方式，將抽象的倫理價(jià)值聚焦于具體的技術(shù)應(yīng)用方式，促成概括性倫理規(guī)范向可視化應(yīng)用標(biāo)準(zhǔn)的轉(zhuǎn)變。

人工智能科技倫理的治理功能

科技倫理治理模式的最終治理目標(biāo)是在盡可能不影響科研自由和科技創(chuàng)新空間的情況下提供倫理方向的“優(yōu)化建議”。人工智能技術(shù)治理的核心目標(biāo)是統(tǒng)籌兼顧科技創(chuàng)新和科技安全，因?yàn)檫@兩種治理目標(biāo)的權(quán)衡狀態(tài)并沒有唯一正解，所以才需要通過科技倫理治理機(jī)制所形成的倫理協(xié)商空間，推動(dòng)不同主體對這兩類目標(biāo)的實(shí)現(xiàn)方式達(dá)成最大化共識。總結(jié)而言，科技倫理治理功能的實(shí)現(xiàn)方式是以開放式的科技倫理吸納社會(huì)群體意見，使得科技創(chuàng)新活動(dòng)無限趨近于理想狀態(tài)。

人工智能科技倫理治理功能包括引導(dǎo)、協(xié)商、識別和反饋四項(xiàng)功能，它們能夠發(fā)揮有別于其他治理機(jī)制的規(guī)范性作用。其中，引導(dǎo)功能強(qiáng)調(diào)科技創(chuàng)新活動(dòng)應(yīng)遵循社會(huì)共識性的科技倫理原則；協(xié)商功能通過開放式的公共對話尋求科技倫理共識；識別功能用于判斷科技創(chuàng)新活動(dòng)的合理性并發(fā)現(xiàn)潛在倫理風(fēng)險(xiǎn)；反饋功能則通過評價(jià)結(jié)果促使科技創(chuàng)新活動(dòng)自我調(diào)整，避免出現(xiàn)重復(fù)倫理問題。

人工智能科技倫理治理的常見機(jī)制

科技倫理治理的引導(dǎo)、協(xié)商、識別和反饋四項(xiàng)功能對應(yīng)了四類科技倫理治理機(jī)制：其一，引導(dǎo)功能延伸出行業(yè)指引性治理機(jī)制，包括監(jiān)管機(jī)構(gòu)事前制定科技創(chuàng)新產(chǎn)業(yè)規(guī)劃、最佳實(shí)踐范例等。其二，協(xié)商功能延伸出科技倫理治理公眾參與機(jī)制，通過征求社會(huì)公眾意見等方式，探討并達(dá)成共識性的倫理原則。其三，識別機(jī)制延伸出科技倫理審查機(jī)制、科技倫理研判機(jī)制等治理機(jī)制。其四，反饋功能延伸出科技倫理管理監(jiān)督機(jī)制、科技倫理整改督促機(jī)制等優(yōu)化改良型治理機(jī)制。

上述四項(xiàng)功能彼此之間存在銜接關(guān)系，也使得相應(yīng)的科技倫理治理機(jī)制呈現(xiàn)體系化銜接關(guān)系。此外，在反饋功能所確立的治理機(jī)制作用下，科技倫理審查所作出的道德判斷以及專家建議又會(huì)反饋至被審查對象，再次實(shí)現(xiàn)具體技術(shù)應(yīng)用領(lǐng)域的科技倫理引導(dǎo)功能，進(jìn)而達(dá)成科技倫理治理的功能循環(huán)。

由于科技倫理治理機(jī)制會(huì)隨著倫理規(guī)范的內(nèi)容創(chuàng)新而有所變化，因此科技倫理治理嵌入人工智能治理體系過程中的核心問題在于如何明確科技倫理治理功能可以與哪些治理機(jī)制進(jìn)行銜接。

人工智能科技倫理治理的嵌入路徑

科技倫理嵌入的理論前提：風(fēng)險(xiǎn)識別

在人工智能治理體系中，風(fēng)險(xiǎn)識別既是確保技術(shù)安全的重要保障，也是促進(jìn)科技高質(zhì)量創(chuàng)新的基礎(chǔ)要件。人工智能技術(shù)風(fēng)險(xiǎn)的解決需要政府機(jī)構(gòu)與非政府機(jī)構(gòu)共同自由參與技術(shù)治理活動(dòng)，通過事前細(xì)分具體的風(fēng)險(xiǎn)類型，并借由不同的治理工具及其銜接路徑發(fā)揮各自的治理效用，實(shí)現(xiàn)一致性的技術(shù)治理目標(biāo)。

在科技倫理風(fēng)險(xiǎn)層面，廣義社會(huì)風(fēng)險(xiǎn)論與狹義倫理風(fēng)險(xiǎn)論在具體風(fēng)險(xiǎn)樣態(tài)的涵蓋范圍上存在分歧，無法有效銜接科技倫理治理與法律治理。對此，科技倫理風(fēng)險(xiǎn)的核心樣態(tài)應(yīng)當(dāng)是科技發(fā)展與人類倫理觀念的不適配狀態(tài)，人工智能科技倫理風(fēng)險(xiǎn)的發(fā)現(xiàn)、識別和確認(rèn)應(yīng)當(dāng)是以科技倫理觀念為基礎(chǔ)，而不是以法律意義上的權(quán)益保障為中心 。

科技倫理治理機(jī)制的個(gè)體化嵌入

在單一面向科技倫理風(fēng)險(xiǎn)時(shí)，科技倫理治理機(jī)制的嵌入方式應(yīng)當(dāng)是完成單一風(fēng)險(xiǎn)治理的內(nèi)在邏輯體系銜接，即建構(gòu)科技倫理風(fēng)險(xiǎn)研判管理機(jī)制、科技倫理風(fēng)險(xiǎn)識別評估機(jī)制和科技倫理風(fēng)險(xiǎn)反饋應(yīng)對機(jī)制三個(gè)部分。

科技倫理風(fēng)險(xiǎn)研判管理機(jī)制屬于預(yù)期性治理機(jī)制。在法學(xué)領(lǐng)域，當(dāng)前人工智能科技倫理研究聚焦于諸如歧視偏見等倫理問題。面對超出可預(yù)見范圍的各類技術(shù)風(fēng)險(xiǎn)，在難以準(zhǔn)確預(yù)測潛在風(fēng)險(xiǎn)的情況下，需要采取靈活的科技倫理規(guī)范，引導(dǎo)科技創(chuàng)新活動(dòng)自覺采取有利于社會(huì)公共利益的方式進(jìn)行。

科技倫理風(fēng)險(xiǎn)識別評估機(jī)制屬于風(fēng)險(xiǎn)確認(rèn)型治理機(jī)制，核心在于確認(rèn)科技倫理風(fēng)險(xiǎn)的范圍。并且，風(fēng)險(xiǎn)識別評估機(jī)制的內(nèi)容設(shè)置強(qiáng)調(diào)多元知識背景的行為主體共同參與，盡可能避免評估的個(gè)人主觀性和專業(yè)導(dǎo)向性。此外，該機(jī)制的主要功能是發(fā)現(xiàn)和確認(rèn)科技倫理風(fēng)險(xiǎn)的基本類型。

科技倫理風(fēng)險(xiǎn)反饋應(yīng)對機(jī)制屬于風(fēng)險(xiǎn)應(yīng)對型治理機(jī)制，主要將風(fēng)險(xiǎn)識別評估機(jī)制所作出的道德判斷反饋至科技創(chuàng)新機(jī)構(gòu)與人員。這種應(yīng)對機(jī)制既包括將倫理風(fēng)險(xiǎn)識別結(jié)果和專家建議反饋至被審查對象的即時(shí)性反饋，也包括監(jiān)管機(jī)構(gòu)結(jié)合科技倫理治理實(shí)踐，以禁止性清單形式反饋具有高風(fēng)險(xiǎn)水平的特定科技創(chuàng)新活動(dòng)的群體性反饋。

科技倫理治理機(jī)制的銜接式嵌入

在明確科技倫理治理機(jī)制在人工智能治理體系中的單向嵌入路徑后，還需要考量該治理機(jī)制如何與法律、技術(shù)、市場等其他治理機(jī)制進(jìn)行銜接。科技倫理治理與其他治理機(jī)制的銜接方式表現(xiàn)為：倫理與法律的銜接方式是建構(gòu)科技倫理審查制度，將敏感研究領(lǐng)域的科技創(chuàng)新活動(dòng)納入審查活動(dòng)中，并在區(qū)分強(qiáng)制審查和自愿審查的前提下，將是否依法進(jìn)行強(qiáng)制審查以及審查結(jié)果作為判斷科技創(chuàng)新主體對損害事實(shí)是否存在主觀過錯(cuò)的標(biāo)準(zhǔn)。

在倫理與技術(shù)層面，面對人工智能技術(shù)未來發(fā)展的不確定性，在治理體系中需要發(fā)揮科技倫理治理的引導(dǎo)功能，將工程倫理、職業(yè)道德培訓(xùn)嵌入至科技創(chuàng)新活動(dòng)。

倫理與市場的銜接主要是通過行業(yè)自律規(guī)范實(shí)現(xiàn)，具體表現(xiàn)為制定共識性的自律規(guī)范與將科技倫理規(guī)范融入行業(yè)自律規(guī)范的范疇兩個(gè)方面。

人工智能科技倫理治理嵌入式建構(gòu)實(shí)例：以自動(dòng)駕駛應(yīng)用為例

在前述治理機(jī)制的嵌入建構(gòu)框架下，自動(dòng)駕駛技術(shù)的倫理治理規(guī)則可劃分為以下三個(gè)步驟逐步建構(gòu)。

第一步：自動(dòng)駕駛科技倫理風(fēng)險(xiǎn)的分析識別

自動(dòng)駕駛技術(shù)的應(yīng)用涉及安全價(jià)值保護(hù)位階的問題。在行車遭遇緊急情況時(shí)，自動(dòng)駕駛系統(tǒng)是應(yīng)優(yōu)先保護(hù)車內(nèi)駕駛?cè)耍€是在權(quán)衡車內(nèi)外實(shí)際損害結(jié)果后再行選擇，成為自動(dòng)駕駛普及應(yīng)用的一大倫理難題。行車安全的倫理價(jià)值觀念是由制造商、信息系統(tǒng)開發(fā)者還是倫理學(xué)或法學(xué)專家決定也存在爭議。另外，自動(dòng)駕駛技術(shù)應(yīng)用引發(fā)的失業(yè)風(fēng)險(xiǎn)問題應(yīng)歸屬于就業(yè)公共政策范疇，而非科技倫理風(fēng)險(xiǎn)領(lǐng)域。

基于人工智能治理目標(biāo)，科技倫理風(fēng)險(xiǎn)的判斷標(biāo)準(zhǔn)應(yīng)是科技創(chuàng)新是否合理以及不合理的科技創(chuàng)新活動(dòng)是否造成人類主體尊嚴(yán)的貶損。在自動(dòng)駕駛應(yīng)用場景中，科技倫理風(fēng)險(xiǎn)側(cè)重科技創(chuàng)新活動(dòng)、科研人員是否符合特定技術(shù)領(lǐng)域的倫理規(guī)范，故相應(yīng)的治理機(jī)制嵌入建構(gòu)則需要圍繞特定場景的科技倫理風(fēng)險(xiǎn)予以展開。

第二步：自動(dòng)駕駛科技倫理風(fēng)險(xiǎn)的單一式治理

為應(yīng)對行車路況決策不符合科技倫理規(guī)范的問題，結(jié)合“風(fēng)險(xiǎn)研判—風(fēng)險(xiǎn)發(fā)現(xiàn)、識別、評估—風(fēng)險(xiǎn)應(yīng)對”的治理方式，科技倫理治理的個(gè)體嵌入方式應(yīng)包括自動(dòng)駕駛科技倫理研判管理機(jī)制、自動(dòng)駕駛科技倫理風(fēng)險(xiǎn)發(fā)現(xiàn)識別機(jī)制和自動(dòng)駕駛科技倫理風(fēng)險(xiǎn)反饋應(yīng)對機(jī)制。

自動(dòng)駕駛科技倫理研判管理機(jī)制主要根據(jù)產(chǎn)業(yè)實(shí)踐發(fā)展?fàn)顩r，結(jié)合產(chǎn)業(yè)發(fā)展政策和科技創(chuàng)新規(guī)劃，明確科技倫理風(fēng)險(xiǎn)的表現(xiàn)樣態(tài)與應(yīng)當(dāng)遵守的科技倫理規(guī)范。同時(shí)，針對自動(dòng)駕駛應(yīng)用可能面臨的復(fù)雜交通路況，監(jiān)管機(jī)構(gòu)和科技倫理委員會(huì)可以采取行業(yè)指導(dǎo)規(guī)范、技術(shù)應(yīng)用實(shí)踐范例等方式聯(lián)合發(fā)布技術(shù)應(yīng)用指導(dǎo)文件，列舉在車輛交會(huì)、高速公路、窄道行車等常見行車情形下，符合科技倫理標(biāo)準(zhǔn)的行車路線和行車方式。

自動(dòng)駕駛科技倫理識別評估機(jī)制主要是根據(jù)自動(dòng)駕駛的行車路線、行車方式等具體應(yīng)用場景因素，發(fā)現(xiàn)、識別和確認(rèn)具體的科技倫理風(fēng)險(xiǎn)。同時(shí)，這一環(huán)節(jié)的科技倫理治理還包括倫理嵌入創(chuàng)新活動(dòng)等其他形式的治理機(jī)制。

自動(dòng)駕駛科技倫理反饋應(yīng)對機(jī)制是根據(jù)自動(dòng)駕駛科技存在的科技倫理風(fēng)險(xiǎn)樣態(tài)以及上一個(gè)治理環(huán)節(jié)所作出的道德判斷與技術(shù)整改建議，對自動(dòng)駕駛技術(shù)方案進(jìn)行調(diào)整和優(yōu)化。在自愿科技倫理審查的情形下，相應(yīng)的審查結(jié)果和優(yōu)化建議僅需反饋至科技創(chuàng)新主體，由其結(jié)合自身狀況判斷是否應(yīng)當(dāng)按照優(yōu)化建議調(diào)整相應(yīng)的技術(shù)方案。

第三步：自動(dòng)駕駛科技倫理風(fēng)險(xiǎn)的銜接式治理

在自動(dòng)駕駛領(lǐng)域中，科技倫理治理機(jī)制需要與其他治理機(jī)制協(xié)同工作，以識別、評估、預(yù)防和控制安全風(fēng)險(xiǎn)。其中，法律治理機(jī)制側(cè)重防范義務(wù)主體未能履行安全保障義務(wù)導(dǎo)致的人身損害風(fēng)險(xiǎn)；技術(shù)治理機(jī)制側(cè)重防范因技術(shù)漏洞或系統(tǒng)設(shè)計(jì)缺陷導(dǎo)致的自動(dòng)駕駛系統(tǒng)不可靠風(fēng)險(xiǎn)；市場治理機(jī)制則側(cè)重預(yù)防行業(yè)競爭失序風(fēng)險(xiǎn)，該風(fēng)險(xiǎn)源于企業(yè)因過分追求技術(shù)領(lǐng)先而簡化安全管理流程或過早投入實(shí)踐試點(diǎn)應(yīng)用。

科技倫理治理機(jī)制通過自動(dòng)駕駛安全風(fēng)險(xiǎn)的一體化評估，將安全風(fēng)險(xiǎn)因素統(tǒng)一納入技術(shù)治理框架中，并遵循三個(gè)原則：其一，業(yè)已評估的安全風(fēng)險(xiǎn)類型不再重新評估，可以直接作為其他安全風(fēng)險(xiǎn)評估的結(jié)論。其二，各類治理機(jī)制所延伸出的安全風(fēng)險(xiǎn)評估不就同一事項(xiàng)進(jìn)行多次評估。其三，定期安全風(fēng)險(xiǎn)評估為主，不定期安全風(fēng)險(xiǎn)評估為輔。此外，事前區(qū)分倫理風(fēng)險(xiǎn)、技術(shù)風(fēng)險(xiǎn)等風(fēng)險(xiǎn)類型是為了更好地確認(rèn)各類安全風(fēng)險(xiǎn)的輕重緩急，進(jìn)而為科技創(chuàng)新主體、監(jiān)管機(jī)構(gòu)等治理主體的后續(xù)行動(dòng)提供相應(yīng)的規(guī)范指引。在實(shí)踐中，《深圳經(jīng)濟(jì)特區(qū)智能網(wǎng)聯(lián)汽車管理?xiàng)l例》確立了智能網(wǎng)聯(lián)汽車的監(jiān)管平臺，旨在實(shí)現(xiàn)車路云一體化監(jiān)管，保障交通安全、網(wǎng)絡(luò)安全、數(shù)據(jù)安全，為自動(dòng)駕駛的風(fēng)險(xiǎn)評估制度提供了范例與模板。

科技倫理治理的核心治理效果是引導(dǎo)科技創(chuàng)新活動(dòng)的良性健康發(fā)展，督促科研人員自覺地遵守科技倫理規(guī)范。所以，科技倫理治理的嵌入路徑更需要探索更加多元化的倫理觀念引導(dǎo)模式，而不是僅僅限于科技倫理審查機(jī)制，以實(shí)現(xiàn)風(fēng)險(xiǎn)治理邏輯層面的制度協(xié)調(diào)性。

（原文《科技倫理嵌入人工智能治理體系的路徑展開——以自動(dòng)駕駛應(yīng)用場景為例》發(fā)表于《法治社會(huì)》2024 年第 5 期，經(jīng)作者修改后在《深圳法治評論》刊發(fā)。）

免責(zé)聲明

本文僅代表原作者觀點(diǎn)，不代表走出去智庫立場。

延展閱讀

▌地緣政治風(fēng)險(xiǎn):

▌出口管制與制裁:

▌跨境數(shù)據(jù)監(jiān)管:

▌全球科技競爭:

▌品牌聲譽(yù)管理:

走出去智庫（CGGT）為《深圳法治評論》提供學(xué)術(shù)資源支持。