數(shù)字法治︱馬長山：如何防范算法“強(qiáng)制”？

網(wǎng)絡(luò)化、數(shù)字化、智能化的融合發(fā)展深刻地改變了人類的生活狀態(tài)和生存方式，全世界都在面臨著前所未有的、具有顛覆意義的數(shù)字化轉(zhuǎn)型，這也使得中國式現(xiàn)代化的建設(shè)任務(wù)變得日益艱巨和復(fù)雜。在既有法治國家建設(shè)不斷加速的同時(shí)，數(shù)字法治又被納入了國家治理體系和治理能力現(xiàn)代化的進(jìn)程，為“中國式”數(shù)字法治建設(shè)奠定了堅(jiān)實(shí)基礎(chǔ)。

然而，由于各種因素的作用和影響，數(shù)字社會(huì)也出現(xiàn)了對(duì)價(jià)值觀的數(shù)字塑造、對(duì)主體自由的威脅、算法決策的“強(qiáng)制”效應(yīng)等法治風(fēng)險(xiǎn)。事實(shí)上，無論是現(xiàn)代法治還是數(shù)字法治，核心都在于限制權(quán)力、保護(hù)權(quán)利、遵守規(guī)則和程序。因此，如何防范和抑制數(shù)字治理的法治風(fēng)險(xiǎn)，確立符合時(shí)代要求的數(shù)字法治理念，構(gòu)建有效的數(shù)字治理法治化機(jī)制，就變得重要而緊迫。

確立“人本主義”的法治價(jià)值

當(dāng)今網(wǎng)絡(luò)化、數(shù)字化、智能化技術(shù)的飛速發(fā)展，為人類創(chuàng)造了空前便捷、舒適、智慧的高品質(zhì)生活，于是，技術(shù)主義、數(shù)據(jù)主義和技術(shù)中立獲得了更多認(rèn)同，甚至出現(xiàn)了“經(jīng)濟(jì)奇點(diǎn)”“技術(shù)奇點(diǎn)”“法律奇點(diǎn)”等樂觀預(yù)期，鼓勵(lì)創(chuàng)新、審慎包容也成為政府監(jiān)管的主基調(diào)。然而，這些新興技術(shù)的負(fù)面影響也日漸浮現(xiàn)出來。一方面是新興技術(shù)開發(fā)應(yīng)用中的偏差，如大數(shù)據(jù)殺熟、數(shù)據(jù)鴻溝、信息繭房、算法黑箱、算法歧視等，導(dǎo)致了嚴(yán)重的數(shù)字不公和數(shù)字人權(quán)問題；另一方面是技術(shù)理性對(duì)人文精神的侵蝕，即如果將人類的所有活動(dòng)都納入大數(shù)據(jù)分析框架，那無疑就會(huì)變成一種冷冰冰的、功利主義的計(jì)算。而“一旦權(quán)力從人類手中交給算法，人文主義的議題就可能慘遭淘汰”，而期待“奇點(diǎn)”到來以替代人類的“非人類中心主義”設(shè)想，則更是與人類的本性相沖突，將會(huì)引發(fā)技術(shù)異化和人類異化的重大風(fēng)險(xiǎn)。

對(duì)于信息革命而言，控制論大師維納早就意識(shí)到它是善惡兼具、機(jī)遇與風(fēng)險(xiǎn)同在的，因此，在當(dāng)代技術(shù)的加速變遷面前，人類必須做出的終極價(jià)值選擇是：“在創(chuàng)造使得世界不再是過往的世界、我們不復(fù)是從前的我們時(shí)，如何使人性依然可以框定技術(shù)前行的方向，而不是臣服于技術(shù)變遷的邏輯。”因此，我們需要防止數(shù)據(jù)、代碼和算法形成的價(jià)值觀念和決策機(jī)制對(duì)人類的主體價(jià)值和人文精神產(chǎn)生巨大的沖擊。這就需要在數(shù)據(jù)、代碼和算法中嵌入人文價(jià)值和道德判斷，加強(qiáng)人機(jī)價(jià)值對(duì)齊的法治機(jī)制，以保持其正當(dāng)性與合理性，實(shí)現(xiàn)“人本主義”法治價(jià)值的規(guī)約指引，這無疑是一項(xiàng)緊迫的時(shí)代任務(wù)。

那么，“如何在算法時(shí)代保持人性？”為克服上述風(fēng)險(xiǎn)和問題，框定技術(shù)發(fā)展的價(jià)值方向，塑造數(shù)智人文價(jià)值，就成為數(shù)字時(shí)代必須解決的重大問題。2021年9月25日，國家新一代人工智能治理專業(yè)委員會(huì)發(fā)布的《新一代人工智能倫理規(guī)范》即開宗明義：“本規(guī)范旨在將倫理道德融入人工智能全生命周期，促進(jìn)公平、公正、和諧、安全，避免偏見、歧視、隱私和信息泄露等問題”，同時(shí)，還要求正確行權(quán)用權(quán)，提倡善意使用，避免誤用濫用，禁止違規(guī)惡用。同年11月24日，聯(lián)合國教科文組織(UNESCO)則通過了關(guān)于人工智能倫理的首份全球協(xié)議《人工智能倫理問題建議書》，在價(jià)值觀、倫理原則和政策指導(dǎo)上提供了規(guī)范指南，并主張發(fā)展與治理并行、全流程協(xié)同共治。這些無疑都是塑造“人本主義”法治價(jià)值的重要努力和舉措。我們更需要?jiǎng)?chuàng)新法學(xué)理論，進(jìn)行價(jià)值重塑和確立必要的價(jià)值框架，進(jìn)而找回人類的“意義世界”和“價(jià)值空間”，實(shí)現(xiàn)人與技術(shù)的“和解”。

回應(yīng)《全球數(shù)字契約》倡議

當(dāng)今信息社會(huì)呈現(xiàn)的既是數(shù)字經(jīng)濟(jì)，也是分享經(jīng)濟(jì)。“勞動(dòng)者—平臺(tái)—顧客”的共享模式逐漸成為主流。與此同時(shí)，“贏者通吃”和“無用”大眾的發(fā)展態(tài)勢(shì)也隨之而來，數(shù)字鴻溝、信息繭房、算法歧視、算法控制、張力結(jié)構(gòu)等傾向也日益凸顯，這些共享經(jīng)濟(jì)中的“非共享”狀況便成為必須予以正視的問題。為此，2024年9月22日，聯(lián)合國未來峰會(huì)通過了《全球數(shù)字契約》，它旨在建立一個(gè)包容性的全球框架，這對(duì)于多方利益攸關(guān)方采取必要行動(dòng)克服數(shù)字、數(shù)據(jù)和創(chuàng)新鴻溝至關(guān)重要。

在我國，黨的十九大就確定了“共建共治共享”的發(fā)展戰(zhàn)略，黨的二十大進(jìn)一步提出“中國式現(xiàn)代化”的宏偉藍(lán)圖，黨的二十屆三中全會(huì)又通過了《中共中央關(guān)于進(jìn)一步全面深化改革、推進(jìn)中國式現(xiàn)代化的決定》，要求“推動(dòng)人的全面發(fā)展、全體人民共同富裕取得更為明顯的實(shí)質(zhì)性進(jìn)展”“做到改革為了人民、改革依靠人民、改革成果由人民共享”。這就需要把共享發(fā)展理念融入信息社會(huì)的法律理念中來，加快發(fā)展新質(zhì)生產(chǎn)力，并通過合理的制度設(shè)計(jì)將共享經(jīng)濟(jì)和新質(zhì)生產(chǎn)力的發(fā)展成果轉(zhuǎn)化為社會(huì)成員的共享機(jī)會(huì)和公平權(quán)利。

基于此，我們就應(yīng)立足《中國關(guān)于全球數(shù)字治理有關(guān)問題的立場(chǎng)(就制定“全球數(shù)字契約”向聯(lián)合國提交的意見)》，積極回應(yīng)《全球數(shù)字契約》的各項(xiàng)倡議。具言之，一方面，貫徹“以人為本”“共建共治共享”治理原則，抑制數(shù)字鴻溝、信息繭房、算法歧視、數(shù)字控制等不良傾向，通過建立監(jiān)督控制和包容共治的數(shù)字民主機(jī)制，抑制對(duì)價(jià)值觀的數(shù)字塑造、對(duì)主體自由的雙重威脅、算法決策的“強(qiáng)制”效應(yīng)等數(shù)字治理風(fēng)險(xiǎn)，確保科技向善、數(shù)字正義和保護(hù)數(shù)字人權(quán)。另一方面，針對(duì)公私混合、主體多元化、規(guī)則多元化、自由與控制同步增長的治理演進(jìn)方向，積極探索“眾創(chuàng)立法”、軟硬共治、多元混合的治理機(jī)制；努力創(chuàng)新司法、行政和平臺(tái)治理的多元糾紛解決機(jī)制，化解各類數(shù)字治理風(fēng)險(xiǎn)，保障數(shù)字權(quán)利和數(shù)字人權(quán)，從而構(gòu)建“共建共治共享”的數(shù)字治理秩序，推進(jìn)數(shù)字法治建設(shè)。

構(gòu)建人工智能的倫理約束機(jī)制

數(shù)字時(shí)代的顯著特征是數(shù)據(jù)說話、算法主導(dǎo)，它帶來的是一個(gè)便捷舒適的智能社會(huì)。然而，算法并不會(huì)自生道德觀，也不會(huì)進(jìn)行理性的自我約束。它是為達(dá)到特定目的而人為編寫的代碼，因此，必然會(huì)帶有某種局限和風(fēng)險(xiǎn)，而價(jià)值偏好則是“算法所固有的”。為此，就需要將其納入法治軌道。然而，法律規(guī)制畢竟是一個(gè)底線的保障，而且，快速迭代的技術(shù)發(fā)展和應(yīng)用，必然會(huì)帶有明顯的遲滯性，因此，只能采取包容審慎、保留適度“彈性”的立法策略。這樣，適時(shí)打造人工智能應(yīng)用的倫理框架，則能填補(bǔ)規(guī)制空間，發(fā)揮全方位、及時(shí)性的規(guī)制效果，從而抑制算法歧視、算法控制、算法誤用和算法濫用，促進(jìn)科技向善和友好人工智能，這也是當(dāng)下的一種時(shí)代要求和全球趨勢(shì)。2021年11月聯(lián)合國教科文組織在第41屆大會(huì)上通過了全球首份《人工智能倫理問題建議書》。與此同時(shí)，各國相關(guān)立法也不斷加速。我國也先后頒布了《新一代人工智能倫理規(guī)范》(2021)、《關(guān)于加強(qiáng)科技倫理治理的意見》(2022)、《個(gè)人信息保護(hù)法》(2021)、《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》(2021)、《生成式人工智能服務(wù)管理暫行辦法》(2023)等政策文件、法律和規(guī)章，從此開啟了規(guī)范發(fā)展、價(jià)值指引的人工智能治理新時(shí)期。此時(shí)，亟須構(gòu)建與人工智能法律規(guī)制相配套的系統(tǒng)倫理框架，它不再僅僅體現(xiàn)工商社會(huì)的分配性正義，而是更多表達(dá)新時(shí)代的共享性正義，從而為人工智能治理確立倫理約束機(jī)制和數(shù)字正義尺度。

作者：馬長山（華東政法大學(xué)數(shù)字法治研究院院長、教授）

來源：北京日?qǐng)?bào)

《數(shù)字法治》專題由上海市法學(xué)會(huì)數(shù)字法學(xué)研究會(huì)特約供稿，專題統(tǒng)籌：秦前松。