小信網(wǎng)評(píng) ▍人民銳評(píng)推出“AI治理”系列評(píng)論

“AI治理”系列評(píng)論①

人民銳評(píng)：技術(shù)快跑，也要系上“安全帶”

“建議禁止AI無差別讀取手機(jī)電腦屏幕”

“要把安全能力嵌入AI應(yīng)用的全生命周期”

“嚴(yán)格貫徹AI手機(jī)‘非授權(quán)不訪問’的雙重授權(quán)原則”

全國兩會(huì)期間，“AI”再次成為熱點(diǎn)。從優(yōu)化應(yīng)用發(fā)展環(huán)境到加強(qiáng)人才隊(duì)伍建設(shè)，從加強(qiáng)數(shù)據(jù)供給創(chuàng)新到促進(jìn)開源生態(tài)繁榮，代表委員們圍繞進(jìn)一步深化拓展“人工智能+”行動(dòng)踴躍建言。值得關(guān)注的是，不少與會(huì)代表委員在鼓勵(lì)加快人工智能技術(shù)產(chǎn)業(yè)發(fā)展的同時(shí)，也呼吁加強(qiáng)對(duì)隱私安全等AI治理的重視，更好統(tǒng)籌發(fā)展與安全。

截至2025年12月，我國生成式人工智能用戶規(guī)模達(dá)6.02億，普及率達(dá)42.8%。這意味著近半數(shù)國人已置身于AI構(gòu)建的生活場景中；2025年，我國人工智能核心產(chǎn)業(yè)規(guī)模預(yù)計(jì)突破1.2萬億元。

在產(chǎn)業(yè)高歌猛進(jìn)、技術(shù)加速迭代的“高速路”上，須警惕只要速度規(guī)模、不顧安全風(fēng)險(xiǎn)的行動(dòng)偏差，牢記安全是發(fā)展的前提，系好“安全帶”、握好“方向盤”。

2026年初，AI智能體Clawdbot（現(xiàn)更名OpenClaw）甫一問世，就爆發(fā)了“被黑客組織用于竊取API密鑰”的重大風(fēng)險(xiǎn)事件；2025年底，一款尚處內(nèi)測階段的“AI手機(jī)”，為用戶提供跨應(yīng)用的搜索、比價(jià)、下單等服務(wù)，引發(fā)了對(duì)隱私與財(cái)產(chǎn)安全風(fēng)險(xiǎn)的擔(dān)憂；近日，一車主因AI語音操作失靈，導(dǎo)致車輛在高速路上夜間行駛時(shí)撞上護(hù)欄……

當(dāng)人工智能技術(shù)以“日”為單位狂飆突進(jìn)，以隱私安全為代表的AI倫理問題，也逐步顯現(xiàn)。需要注意的是，企業(yè)不能將“用戶同意”作為免責(zé)擋箭牌，通過復(fù)雜授權(quán)協(xié)議或默認(rèn)勾選機(jī)制獲取過度權(quán)限。隱私安全不是附加選項(xiàng)，而是產(chǎn)業(yè)生存的前提條件。人工智能發(fā)展絕不能以透支公眾信任為代價(jià)。

重視隱私安全，需要將用戶授權(quán)建立于充分的信息對(duì)稱基礎(chǔ)之上。形式上的同意，并不等于真實(shí)的知情與自愿。當(dāng)AI系統(tǒng)通過無障礙權(quán)限、進(jìn)程注入等技術(shù)手段跨應(yīng)用操作時(shí)，本質(zhì)上已觸及操作系統(tǒng)底層控制權(quán)。這意味著，聊天記錄、支付信息、賬號(hào)密碼乃至行為軌跡，都可能在用戶不完全知情的情況下被讀取與處理。一旦被濫用或遭黑客利用，后果不僅是隱私泄露，還可能演變?yōu)樨?cái)產(chǎn)損失甚至社會(huì)安全問題。

重視隱私安全，需要將技術(shù)應(yīng)用建立在以人為本的原則之上。技術(shù)應(yīng)當(dāng)服務(wù)于人，而不是越俎代庖。用戶使用AI是為了提升工作效率、改善生活品質(zhì)，需要的是“參謀”，而不是“判官”。技術(shù)越深入生活，越需要清晰的邊界與可被信任的權(quán)限機(jī)制，不能為了“效率優(yōu)先”將用戶置于信息失控的風(fēng)險(xiǎn)之中。

重視隱私安全，需要技術(shù)突破與制度約束、價(jià)值引導(dǎo)同步推進(jìn)。人工智能的發(fā)展，從來不只是算力和算法競爭，更是價(jià)值競爭。技術(shù)可以突破邊界，但商業(yè)行為不能突破法律與倫理底線。只有在發(fā)展中守住安全底線，在創(chuàng)新中建立規(guī)則意識(shí)，才能真正實(shí)現(xiàn)技術(shù)普惠和成果共享。

當(dāng)前，人工智能產(chǎn)業(yè)方興未艾。唯有堅(jiān)守“創(chuàng)新不越界、便利不破安全”的原則，在創(chuàng)新與安全之間找到平衡，人工智能技術(shù)才能在快速發(fā)展中不斷實(shí)現(xiàn)其潛力，更好造福我們每一個(gè)人。

“AI治理”系列評(píng)論②

人民銳評(píng)： 智能普及，須守住“以人為本”

“讓通用人工智能安全發(fā)展、造福人類”“給人工智能發(fā)展系上‘安全帶’”“智能體完全取代人力并不現(xiàn)實(shí)，人機(jī)協(xié)作才是常態(tài)。”……2026年全國兩會(huì)期間，朱松純、周云杰、周鴻祎等代表委員聚焦人工智能發(fā)展與安全等議題積極建言獻(xiàn)策。

當(dāng)前，AI正從幕后走向經(jīng)濟(jì)社會(huì)與日常生活前臺(tái)，將深度參與并影響我們的各項(xiàng)決策。AI不再只是被動(dòng)響應(yīng)的工具，而是升級(jí)為參與決策、影響行為的協(xié)作者，人機(jī)關(guān)系正迎來深刻重塑。

正如歷次技術(shù)變革引發(fā)社會(huì)思潮對(duì)人的地位的探討，在這場技術(shù)引領(lǐng)的協(xié)同進(jìn)化中，一個(gè)根本性問題再次浮現(xiàn)：如何在智能浪潮中牢牢守住人的主體性？

當(dāng)AI的普及，隨之產(chǎn)生的過度索權(quán)、越權(quán)收集、擅采信息等亂象，正在引發(fā)廣泛擔(dān)憂。當(dāng)用戶無法對(duì)AI操作全程知情、質(zhì)疑、中止，數(shù)據(jù)被用于超出合理預(yù)期的商業(yè)目的，所謂“智能”便走向了人的對(duì)立面，成為對(duì)主體性的隱蔽侵蝕。一些業(yè)內(nèi)人士指出，以“算法沒有價(jià)值觀”為借口的行為，實(shí)則是責(zé)任感缺位；“讓工具凌駕于人之上”，實(shí)則是本末倒置。

堅(jiān)持以人為本，不僅是技術(shù)層面的挑戰(zhàn)，更是文明層面的命題。縱觀人類歷史上的每一次技術(shù)革命，都伴隨著主體性重構(gòu)。從蒸汽機(jī)、汽車的出現(xiàn)大幅提高了生產(chǎn)和出行的效率，到互聯(lián)網(wǎng)技術(shù)讓信息傳播無遠(yuǎn)弗屆，技術(shù)也一度走過將人異化為流水線上的廉價(jià)勞力、扭曲為招攬生意的流量，但最終還是要回歸“服務(wù)于人”的基本原則。在文明的視角，我們不難發(fā)現(xiàn)：任何忽視人的主體性的技術(shù)應(yīng)用，都是對(duì)創(chuàng)新初心的背離，也是對(duì)人機(jī)協(xié)作的文明的破壞。技術(shù)越強(qiáng)大，越需要強(qiáng)化人的主體地位，而不是削弱。

堅(jiān)持以人為本，要把保障人的安全與權(quán)利，放在更優(yōu)先位置。健康的人機(jī)共生生態(tài)，應(yīng)當(dāng)遵循分工清晰、協(xié)同高效、權(quán)責(zé)明晰、以人為本的基本原則。人工智能研發(fā)可以探索 “無界”，但其應(yīng)用必須 “有界”。這一邊界，是以人為中心的價(jià)值導(dǎo)向、數(shù)據(jù)安全的堅(jiān)實(shí)防線，更是不可逾越的法律倫理底線。我們要通過制度設(shè)計(jì)與倫理約束，在技術(shù)研發(fā)與應(yīng)用推廣的全過程明確劃定：哪些場景必須人工在場，哪些領(lǐng)域必須人類終審，哪些決策必須責(zé)任到人。

堅(jiān)持以人為本，不是為了替代人，而是為了增強(qiáng)人、成就人、解放人。因此，我們所奔赴的未來，應(yīng)當(dāng)是“人將更具人性”的未來——在技術(shù)賦能之下，人會(huì)更清醒地錨定方向，更自覺地承擔(dān)責(zé)任，更主動(dòng)地作出價(jià)值抉擇。企業(yè)尤須摒棄將用戶數(shù)據(jù)視為私產(chǎn)、將技術(shù)便利置于用戶權(quán)益之上的短視思維，牢固樹立“數(shù)據(jù)頭上有刃”的敬畏之心，扎緊安全籬笆。

正如列車與軌道，技術(shù)能夠抵達(dá)多遠(yuǎn)，取決于倫理的路基有多堅(jiān)實(shí)。人機(jī)共生的未來，不取決于機(jī)器多么極致，而取決于人類多么克制；不取決于算力多么強(qiáng)大，而取決于我們在制度設(shè)計(jì)與文化培育中對(duì)人的主體位置多么堅(jiān)定。守住這個(gè)根本，人工智能才能真正賦能社會(huì)，造福于人。

“AI治理”系列評(píng)論③

人民銳評(píng)：協(xié)同治理，讓AI走得更穩(wěn)

“建立AI生成內(nèi)容侵權(quán)快速處置綠色通道”“加快構(gòu)建AI治理體系，啟動(dòng)專項(xiàng)立法研究”“強(qiáng)化技術(shù)向善與安全可控，健全倫理審查體系”……在2026年全國兩會(huì)上，多位代表委員聚焦人工智能產(chǎn)業(yè)治理建言獻(xiàn)策。

當(dāng)前，人工智能正以前所未有的速度迭代演進(jìn)，“人工智能+”與各行業(yè)各領(lǐng)域融合不斷加深，深刻重塑生產(chǎn)方式與社會(huì)運(yùn)行邏輯。在此背景下，構(gòu)建契合科技倫理的協(xié)同治理體系，已不再是可有可無的附加項(xiàng)，而是決定AI能否實(shí)現(xiàn)規(guī)模化落地、行業(yè)能否行穩(wěn)致遠(yuǎn)的關(guān)鍵變量。

制度是根基，協(xié)同治理首在政府統(tǒng)籌、依法立規(guī)，為發(fā)展劃定“紅線”與“軌道”。“十五五”規(guī)劃建議提出“加強(qiáng)人工智能治理，完善相關(guān)法律法規(guī)、政策制度、應(yīng)用規(guī)范、倫理準(zhǔn)則”；國務(wù)院“人工智能+”行動(dòng)意見要求完善人工智能法律法規(guī)與倫理準(zhǔn)則，推進(jìn)相關(guān)立法，優(yōu)化安全評(píng)估和備案管理；多部門圍繞“人工智能+制造”強(qiáng)調(diào)落實(shí)倫理管理辦法，加強(qiáng)行業(yè)自律與企業(yè)倫理風(fēng)險(xiǎn)防范。

這些要求均來自產(chǎn)業(yè)實(shí)踐痛點(diǎn)，并非抽象原則。近段時(shí)間，某視頻生成模型頻頻陷入隱私和侵權(quán)爭議：僅憑一張面部圖像，就能夠模仿本人的聲音，僅用兩行提示詞，就能生成高水平視頻；某裝備制造企業(yè)曾因AI排產(chǎn)模型未進(jìn)行公平性測試，導(dǎo)致中小供應(yīng)商訂單被系統(tǒng)性壓縮，引發(fā)供應(yīng)鏈信任危機(jī)。

實(shí)踐中，信任機(jī)制缺失往往源于三個(gè)方面：透明度不足、責(zé)任邊界模糊、權(quán)限控制失衡，這些問題直接制約產(chǎn)業(yè)規(guī)模化應(yīng)用。因此，政府需發(fā)揮主導(dǎo)引領(lǐng)作用，通過完善法律法規(guī)與倫理準(zhǔn)則，為AI發(fā)展劃定清晰邊界。

自律是保障，協(xié)同治理需要企業(yè)主責(zé)、行業(yè)自律，將合規(guī)轉(zhuǎn)化為核心競爭力。 對(duì)企業(yè)而言，合規(guī)不應(yīng)被視為成本，而應(yīng)成為贏得市場信任的“通行證”。隱私數(shù)據(jù)安全，各平臺(tái)守土有責(zé)，必須形成“數(shù)據(jù)不能被隨意拉取，隱私不能被隨意窺探”的行規(guī)和共識(shí)。那些主動(dòng)構(gòu)建安全架構(gòu)、強(qiáng)化數(shù)據(jù)保護(hù)、提升透明度的企業(yè)，更容易贏得市場信任與政策支持。相反，那些名為“創(chuàng)新”實(shí)為繞過所有移動(dòng)互聯(lián)網(wǎng)生態(tài)的“黑灰產(chǎn)”，最終只會(huì)被行業(yè)和時(shí)代拋棄。

共識(shí)是土壤，協(xié)同治理必須織密全域公眾防護(hù)網(wǎng)，形成多元共治的良性生態(tài)。人工智能的治理不僅是監(jiān)管者與開發(fā)者的事，更需要全社會(huì)的共同參與。媒體要加強(qiáng)科普引導(dǎo)，提升公眾對(duì)深度偽造、算法陷阱、信息泄露的識(shí)別能力；科研機(jī)構(gòu)與倫理專家要前瞻研判風(fēng)險(xiǎn)，為治理提供專業(yè)支撐；用戶要謹(jǐn)慎開啟無障礙等權(quán)限功能，定期審查授權(quán)列表，避免在支付等高風(fēng)險(xiǎn)場景過度依賴AI代理，形成基本的數(shù)字安全素養(yǎng)。通過公眾安全意識(shí)的提升，形成強(qiáng)大的社會(huì)監(jiān)督力量，填補(bǔ)治理盲區(qū)。

人工智能時(shí)代的治理邏輯，從來不是限制創(chuàng)新，而是為創(chuàng)新保駕護(hù)航；協(xié)同治理的目標(biāo)，也不是在風(fēng)險(xiǎn)邊緣試探，而是讓技術(shù)在可控軌道上加速前行。AI治理是系統(tǒng)工程、長期工程，唯有久久為功，才能趨利避害、賦能未來。只有當(dāng)政府、企業(yè)、行業(yè)與用戶形成合力，將倫理合規(guī)內(nèi)化為發(fā)展的內(nèi)生動(dòng)力，人工智能才能真正實(shí)現(xiàn)向上向善，在協(xié)同治理的護(hù)航下行穩(wěn)致遠(yuǎn)。

來源：人民網(wǎng)觀點(diǎn)