健全人工智能前瞻型治理體系

　“十五五”規(guī)劃建議提出，加強人工智能治理，完善相關法律法規(guī)、政策制度、應用規(guī)范、倫理準則。

　　與以往信息技術不同，人工智能并非單純意義上的工具性技術，而是一種具備自學習、自演化和廣泛外溢效應的通用技術形態(tài)。其運行過程在數(shù)據(jù)、算法和算力的共同作用下不斷生成新的行為模式和影響路徑，不僅釋放出顯著效率紅利，也在更深層次上重塑了風險生成機制和治理運行結構。在這一背景下，人工智能治理主要是對人工智能技術和應用本身的治理，其核心在于能否實現(xiàn)治理方式的現(xiàn)代化，能否形成與技術發(fā)展階段相適應、具有前瞻性和系統(tǒng)性的治理體系，這已成為關系人工智能健康發(fā)展和國家治理體系有效運轉的關鍵問題。

　　治理成效與短板并存

　　近年來，我國圍繞算法推薦、深度合成、生成式人工智能等重點領域持續(xù)完善人工智能治理規(guī)則供給，通過出臺規(guī)范性文件和配套制度，對研發(fā)、應用和傳播等關鍵環(huán)節(jié)進行引導和約束，人工智能治理邊界不斷清晰。從防范無序擴張到強化規(guī)范引導，從單點處置到體系建設，人工智能治理的制度基礎正在逐步夯實，為技術健康發(fā)展劃定了必要邊界。

　　與此同時，各地在數(shù)字政府、公共服務和城市運行等場景中加快探索人工智能應用，推動審批服務、監(jiān)管執(zhí)法和城市治理等環(huán)節(jié)提質增效。人工智能以賦能治理的技術手段進入治理體系，在提升治理效率的同時，也倒逼治理主體更加重視對人工智能技術和應用本身的規(guī)范管理，包括數(shù)據(jù)治理、算法規(guī)則和應用邊界的制度化約束。這些探索為人工智能治理積累了實踐經(jīng)驗，也為推進治理現(xiàn)代化提供了現(xiàn)實樣本。

　　但從治理現(xiàn)代化的要求看，現(xiàn)階段人工智能治理仍存在不容忽視的短板。總體而言，當前治理仍以事后規(guī)范和問題應對為主，呈現(xiàn)出較為明顯的跟隨式特征。這種治理形態(tài)在人工智能發(fā)展初期具有現(xiàn)實合理性，有助于在不確定性較高的情況下保持治理彈性，但隨著人工智能技術現(xiàn)代性不斷增強，其結構性局限逐步顯現(xiàn)。

　　一是治理介入節(jié)奏偏后，難以適應技術快速演化。現(xiàn)有治理多在技術應用擴散或風險顯現(xiàn)后介入，規(guī)則制定往往滯后于技術發(fā)展。當人工智能系統(tǒng)已經(jīng)深度嵌入生產(chǎn)生活場景后，再進行規(guī)則補充和強監(jiān)管，治理成本明顯上升，調(diào)整空間隨之收縮。更為關鍵的是，一旦技術路徑和應用模式在早期階段形成并固化，后續(xù)治理往往只能在既定框架內(nèi)修修補補，難以對技術發(fā)展方向和運行邏輯進行實質性塑造。

　　二是治理方式偏重靜態(tài)規(guī)范，難以約束動態(tài)系統(tǒng)。當前治理工具主要依賴政策文件和制度文本，對具有自學習、自優(yōu)化特征的算法系統(tǒng)，缺乏持續(xù)監(jiān)測、動態(tài)校準和可驗證約束能力。單純依靠事后抽查和糾偏，容易出現(xiàn)規(guī)則在場但運行過程難以掌控的情況，治理效果更多依賴執(zhí)行強度而非制度內(nèi)生約束，影響治理的穩(wěn)定性和可持續(xù)性。

　　三是治理目標側重風險防控，對發(fā)展方向引導不足?，F(xiàn)有治理在合規(guī)、安全和風險防范方面著力較多，但對技術應當往何處發(fā)展、優(yōu)先服務哪些公共目標的制度化引導仍顯不足。在缺乏清晰方向指引的情況下，人工智能技術擴散往往更多受商業(yè)邏輯和短期效率驅動，公共利益導向和治理價值目標難以在制度層面得到穩(wěn)定體現(xiàn)，治理的導航功能有待進一步強化。

　　治理需走向“前瞻塑造”

　　推進人工智能治理現(xiàn)代化，關鍵在于前瞻性，要把理念要求轉化為可執(zhí)行的制度安排，通過在治理節(jié)奏、治理工具和治理結構上的系統(tǒng)前移，形成與人工智能高度現(xiàn)代性相適配的治理能力。圍繞技術生成、風險演化和應用擴散等關鍵環(huán)節(jié)，可從以下四方面重點推進。

　　一是前移治理介入，把治理要求嵌入技術全生命周期。要改變治理主要集中在事后監(jiān)管的狀況，必須將治理要求前移至人工智能技術生成和應用決策的前端環(huán)節(jié)。在算法設計、模型訓練、系統(tǒng)部署和迭代更新等關鍵節(jié)點，同步嵌入合規(guī)、安全與責任要求，推動形成覆蓋研發(fā)、上線、運行和調(diào)整全過程的治理機制，使治理不再只是對既成問題的回應，而成為技術生成過程中的內(nèi)在約束。

　　二是健全風險評估機制，把風險識別從事后處置轉向前瞻預判。面對人工智能風險前置、影響擴散快的特征，應加快完善以風險預判為導向的治理工具體系。通過建立分級分類評估制度，將安全風險、倫理風險和社會影響納入統(tǒng)一評估框架，在規(guī)?；瘧们巴瓿杀匾u估，并在運行過程中開展動態(tài)復評，推動治理從問題暴露后介入向風險趨勢中干預轉變。

　　三是預設運行邊界和規(guī)則，增強系統(tǒng)約束與可控性。推進治理現(xiàn)代化，還需減少對外部規(guī)則事后糾偏的過度依賴，把治理要求轉化為系統(tǒng)運行前的邊界條件和約束規(guī)則。通過模型審計、算法審計和技術標準等制度工具，明確數(shù)據(jù)使用邊界、模型輸出限制以及關鍵決策環(huán)節(jié)的人工干預和責任審核要求，使人工智能系統(tǒng)在啟動之初即處于可約束、可追溯狀態(tài)，增強治理的穩(wěn)定性和可執(zhí)行性。

　　四是強化先導性安排，引導人工智能發(fā)展方向。人工智能治理不僅要防范風險，也要在技術發(fā)展方向上發(fā)揮引導作用。應通過應用指引、負面清單和試點示范等方式，加強人工智能同產(chǎn)業(yè)發(fā)展、文化建設、民生保障、社會治理相結合，更加明確人工智能的重點方向，引導技術向增進公共利益和提升治理效能的領域集聚。通過前置性安排和方向性引導，為人工智能發(fā)展提供清晰預期，使治理從單純防風險，進一步拓展為對技術路徑和價值取向的主動塑造。

　　人工智能越具現(xiàn)代性，治理越需要現(xiàn)代化。前瞻型治理之所以成為必然選擇，正在于它通過前移治理介入、強化風險預判、預設運行邊界和先導發(fā)展方向，使治理方式在節(jié)奏、結構和功能上與人工智能高度動態(tài)、持續(xù)演化的技術形態(tài)相適配，本身即體現(xiàn)治理現(xiàn)代化要求。同時，人工智能治理走向現(xiàn)代化，也意味著治理方式本身需要更加智能化、技術化，實現(xiàn)以技術支撐治理、以技術約束技術，推動治理能力與技術復雜性相匹配。

來源：科技日報