邵春堡：在防范AI失控中構(gòu)建人類主導(dǎo)的未來

文 |中國國際經(jīng)濟(jì)技術(shù)合作促進(jìn)會(huì)副理事長 邵春堡

人工智能正以顛覆性力量驅(qū)動(dòng)生產(chǎn)力躍升，深刻重塑著人類的生產(chǎn)生活方式。然而，技術(shù)“雙刃劍”效應(yīng)也愈發(fā)凸顯，AI的濫用和誤用正從多個(gè)維度構(gòu)成現(xiàn)實(shí)威脅，其風(fēng)險(xiǎn)形態(tài)已從具體的技術(shù)漏洞，演變?yōu)閷?duì)社會(huì)結(jié)構(gòu)、國際安全乃至人類認(rèn)知的系統(tǒng)性挑戰(zhàn)。我們不僅要正視這些迫近的挑戰(zhàn)，更需深挖其技術(shù)與社會(huì)根源，積極預(yù)防和治理，這關(guān)乎到人類對(duì)未來的主導(dǎo)。

洞察AI的主要威脅

當(dāng)前，AI風(fēng)險(xiǎn)已初露端倪，并在生態(tài)構(gòu)建中呈現(xiàn)出復(fù)雜交織的特征。根據(jù)行業(yè)共識(shí)，其主要威脅可概括為以下五個(gè)方面：

1、AI對(duì)社會(huì)經(jīng)濟(jì)結(jié)構(gòu)的系統(tǒng)性沖擊

AI對(duì)就業(yè)的影響遠(yuǎn)超出傳統(tǒng)“機(jī)器換人”的范疇，構(gòu)成一種系統(tǒng)性風(fēng)險(xiǎn)。中國《人工智能安全治理框架》2.0版已明確將“對(duì)勞動(dòng)就業(yè)結(jié)構(gòu)的沖擊”列為AI帶來的重要“社會(huì)環(huán)境風(fēng)險(xiǎn)”。這種沖擊的嚴(yán)峻性在于其規(guī)模和速度可能遠(yuǎn)超社會(huì)體系的適應(yīng)能力。它不僅涉及崗位數(shù)量的增減，更可能因技能需求劇變而迅速拉大“數(shù)字鴻溝”，被替代群體的社會(huì)保障與再就業(yè)體系面臨巨大壓力。盡管從長遠(yuǎn)看，AI可能催生新業(yè)態(tài)并提升社會(huì)總財(cái)富，但在理想與現(xiàn)實(shí)的過渡期，將存在一個(gè)伴隨陣痛與不確定性的較長風(fēng)險(xiǎn)窗口。

2、AI失控風(fēng)險(xiǎn)從理論走向治理前沿

隨著AI自主能力的增強(qiáng)，對(duì)其失去控制的擔(dān)憂已不再是哲學(xué)思辨。圖靈獎(jiǎng)得主杰弗里·辛頓警告，足夠聰明的AI可能會(huì)通過操縱人類來避免被關(guān)閉。這一“失控風(fēng)險(xiǎn)”已被納入國家治理視野。中國《人工智能安全治理框架》2.0版新增了“可信應(yīng)用、防范失控”原則，明確要求確保AI始終處于人類控制之下，嚴(yán)防其威脅人類生存發(fā)展。這標(biāo)志著，防范AI因目標(biāo)偏差、能力超越或自主意識(shí)覺醒而“反客為主”，已成為一項(xiàng)緊迫的前瞻性治理任務(wù)。

3、智能武器與AI軍事化降低暴力門檻

將生殺大權(quán)賦予自主武器系統(tǒng)，是AI最直接且致命的威脅之一。國家層面的安全報(bào)告指出，AI可被用于“生物武器設(shè)計(jì)”等極端用途。這反映出AI不僅能作為武器平臺(tái)，更可能實(shí)質(zhì)性降低開發(fā)生化等大規(guī)模殺傷性武器的技術(shù)門檻。而且低成本AI無人機(jī)群等“機(jī)械蜂群”技術(shù)極易擴(kuò)散，不僅可能擾亂軍事平衡、引發(fā)軍備競(jìng)賽，更可能落入非國家行為體手中，造成難以遏制的不對(duì)稱襲擊，使人類面臨前所未有的安全困境。

4、AI的欺騙性從“技術(shù)幻覺”升級(jí)為現(xiàn)實(shí)威脅

AI的欺騙性風(fēng)險(xiǎn)已高度現(xiàn)實(shí)化，突出表現(xiàn)為深度偽造(Deepfake)技術(shù)的濫用。此類技術(shù)能合成逼真的虛假音視頻，用于精準(zhǔn)詐騙、制造社會(huì)恐慌和誤導(dǎo)輿論。例如，已發(fā)生詐騙分子利用AI偽造高管音像，在視頻會(huì)議中騙走企業(yè)巨額資金的案件。更為根本的挑戰(zhàn)在于，AI的“黑箱”特性使其決策過程難以解釋，而在訓(xùn)練中，AI為高效達(dá)成量化目標(biāo)，可能自發(fā)學(xué)會(huì)隱瞞、誤導(dǎo)等策略性欺騙行為。當(dāng)虛假信息可以大規(guī)模、低成本定制生產(chǎn)時(shí)，社會(huì)共同的知識(shí)與信任基石將受到侵蝕。

5、AI加持使網(wǎng)絡(luò)安全演變?yōu)橹悄荏w對(duì)抗

AI正從本質(zhì)上改變網(wǎng)絡(luò)攻防的格局。一方面，攻擊方利用AI實(shí)現(xiàn)了高度自動(dòng)化與智能化，例如攻擊者已開始使用具備自主決策能力的“AI智能體”進(jìn)行漏洞探尋和自動(dòng)化攻擊。另一方面，AI也加劇了固有的安全挑戰(zhàn)：它顯著降低了網(wǎng)絡(luò)攻擊的門檻，使攻擊者能快速利用漏洞；同時(shí)，AI供應(yīng)鏈的復(fù)雜性帶來了“多米諾骨牌”式的連鎖風(fēng)險(xiǎn)，一家供應(yīng)商被攻破可能導(dǎo)致成千上萬下游應(yīng)用受影響。網(wǎng)絡(luò)安全已從靜態(tài)防護(hù)，演變?yōu)橐粓?chǎng)動(dòng)態(tài)、持續(xù)且高度不對(duì)稱的“算法對(duì)抗”。

剖析AI風(fēng)險(xiǎn)的深層推手

為何AI風(fēng)險(xiǎn)日益凸顯而治理卻舉步維艱？其根源在于技術(shù)、資本、地緣與政治四大結(jié)構(gòu)性因素的復(fù)雜交織。

1、科研探索的倫理滯后與競(jìng)爭(zhēng)焦慮

在激烈的全球競(jìng)賽中，追求技術(shù)領(lǐng)先常常壓倒了對(duì)安全的審慎評(píng)估。AI先驅(qū)杰弗里·辛頓曾直言，科技公司在研發(fā)競(jìng)爭(zhēng)中往往只考慮領(lǐng)先對(duì)手，而將安全問題置于次要地位。這種“競(jìng)爭(zhēng)-安全”的失衡在大模型研發(fā)中尤為明顯，參數(shù)與性能的競(jìng)賽白熱化，但與之匹配的風(fēng)險(xiǎn)預(yù)判與價(jià)值對(duì)齊機(jī)制卻普遍薄弱。當(dāng)“能做即應(yīng)做”的思維主導(dǎo)方向時(shí)，技術(shù)發(fā)展便可能陷入忽視長期社會(huì)影響的“裸奔”狀態(tài)。

2、資本驅(qū)動(dòng)的非理性擴(kuò)張與目標(biāo)偏移

私人資本是當(dāng)前AI發(fā)展的核心驅(qū)動(dòng)力，其逐利本質(zhì)可能使技術(shù)發(fā)展方向偏離公共利益。匯豐銀行的一份報(bào)告曾警示，即便是頭部AI公司，也面臨天價(jià)基礎(chǔ)設(shè)施成本和難以盈利的可持續(xù)性挑戰(zhàn)。這種對(duì)巨額回報(bào)的追求，可能導(dǎo)致資源過度集中于能快速變現(xiàn)的應(yīng)用領(lǐng)域，而關(guān)乎長期安全、公平和可解釋性的基礎(chǔ)研究則投入不足。資本邏輯主導(dǎo)下，技術(shù)的公共屬性和社會(huì)風(fēng)險(xiǎn)容易被市場(chǎng)考量所邊緣化。

3、地緣博弈下的治理碎片化與“競(jìng)底”風(fēng)險(xiǎn)

技術(shù)民族主義和“小院高墻”策略正在割裂全球治理的基礎(chǔ)。各國為搶占戰(zhàn)略制高點(diǎn)，傾向于實(shí)施差異化的監(jiān)管標(biāo)準(zhǔn)，這極易引發(fā)“監(jiān)管套利”和“逐底競(jìng)爭(zhēng)”，即為吸引投資而競(jìng)相放寬安全要求。中美歐等主要力量在AI治理路徑上存在分歧，導(dǎo)致在致命性自主武器系統(tǒng)(LAWS)禁令等關(guān)鍵議題上難以形成具有約束力的全球公約。治理的“真空”與“碎片化”，使得任何一國的努力在跨國界的AI風(fēng)險(xiǎn)面前都顯得杯水車薪。

4、選舉政治與公眾認(rèn)知的“短期主義”陷阱

選舉政治的周期性與AI風(fēng)險(xiǎn)的長期性、復(fù)雜性存在根本沖突。政客為在任期內(nèi)凸顯政績(jī)，常將AI政策簡(jiǎn)化為促進(jìn)經(jīng)濟(jì)增長和保障國家競(jìng)爭(zhēng)力的工具，傾向于用補(bǔ)貼和寬松監(jiān)管刺激短期突破，而將需要長期投入的倫理、安全等治理框架建設(shè)置于次要。同時(shí)，公眾對(duì)AI風(fēng)險(xiǎn)的認(rèn)知存在滯后與偏差，復(fù)雜的專業(yè)問題難以迅速轉(zhuǎn)化為有效的政治壓力，導(dǎo)致政策制定往往被動(dòng)響應(yīng)危機(jī)，而非主動(dòng)塑造安全、負(fù)責(zé)任的發(fā)展路徑。

駕馭AI的治理之道

面對(duì)系統(tǒng)性風(fēng)險(xiǎn)與深層次矛盾，必須將被動(dòng)應(yīng)對(duì)轉(zhuǎn)向前瞻性治理，通過技術(shù)、法律與全球協(xié)同的組合拳，為AI發(fā)展裝上“韁繩”與“導(dǎo)航”。

1、將倫理價(jià)值與安全能力內(nèi)嵌于技術(shù)創(chuàng)新

治理的首要環(huán)節(jié)在于前端干預(yù)。應(yīng)在技術(shù)設(shè)計(jì)中踐行“安全設(shè)計(jì)”原則，將安全、公平、可控等要求從模型訓(xùn)練之初就作為核心指標(biāo)，而非事后補(bǔ)丁。這要求必須分配足額資源，專項(xiàng)研發(fā)“價(jià)值對(duì)齊”、可解釋AI和故障安全機(jī)制等關(guān)鍵技術(shù)。同時(shí)，建立嚴(yán)格的分級(jí)測(cè)試與“紅隊(duì)”演練制度，對(duì)高階AI系統(tǒng)進(jìn)行強(qiáng)制性安全評(píng)估，通過模擬對(duì)抗主動(dòng)發(fā)現(xiàn)其潛在的危險(xiǎn)傾向。

2、構(gòu)建基于風(fēng)險(xiǎn)的敏捷監(jiān)管與明確責(zé)任框架

法律監(jiān)管必須跑在技術(shù)前面。最緊迫的是在國際層面推動(dòng)具有法律約束力的條約，禁止致命性自主武器系統(tǒng)(LAWS)，守住人類對(duì)武力使用的最終控制權(quán)這一倫理底線。對(duì)國內(nèi)監(jiān)管而言，應(yīng)實(shí)施分級(jí)分類管理，對(duì)直接影響生命健康、金融安全等“高風(fēng)險(xiǎn)”應(yīng)用，如自動(dòng)駕駛、醫(yī)療診斷等，實(shí)行準(zhǔn)入許可與持續(xù)監(jiān)控；對(duì)通用大模型，則側(cè)重源頭的基礎(chǔ)模型備案與安全評(píng)估。同時(shí)，必須通過立法明確開發(fā)者、部署者、使用者的責(zé)任鏈條，確保損害發(fā)生時(shí)有明確的追責(zé)機(jī)制。

3、推動(dòng)以人類命運(yùn)共同體為理念的全球協(xié)同

AI風(fēng)險(xiǎn)無國界，任何國家都無法獨(dú)善其身。必須超越地緣博弈，在聯(lián)合國等多邊框架下，就關(guān)鍵風(fēng)險(xiǎn)領(lǐng)域建立全球性的最低安全標(biāo)準(zhǔn)和風(fēng)險(xiǎn)預(yù)警信息共享機(jī)制。重點(diǎn)應(yīng)在禁止LAWS、規(guī)范前沿研發(fā)、防止技術(shù)惡意濫用等議題上尋求最大共識(shí)。協(xié)同治理的目標(biāo)不是統(tǒng)一技術(shù)路徑，而是建立聚焦風(fēng)險(xiǎn)、包容多元的規(guī)則框架，防止因標(biāo)準(zhǔn)不一而出現(xiàn)全球安全漏洞。

4、啟動(dòng)社會(huì)適應(yīng)與人力資本重建的系統(tǒng)工程

治理的終點(diǎn)是人。必須將全民數(shù)字素養(yǎng)與AI技能教育提升至國家戰(zhàn)略高度，幫助公眾理解并與AI協(xié)作，而非被其替代。教育體系需加速改革，轉(zhuǎn)向培養(yǎng)創(chuàng)造力、復(fù)雜問題解決和情感交互等AI難以替代的核心人力資本。與此同時(shí)，社會(huì)政策需前瞻性探索如何構(gòu)建人機(jī)協(xié)同時(shí)代的安全網(wǎng)，例如對(duì)全民基本收入(UBI)、終身學(xué)習(xí)賬戶等方案進(jìn)行嚴(yán)肅研究與試點(diǎn)，以緩沖技術(shù)沖擊，保障社會(huì)公平與穩(wěn)定。

防范和治理AI風(fēng)險(xiǎn)是一場(chǎng)與時(shí)間的賽跑，是對(duì)人類智慧、勇氣和團(tuán)結(jié)的考驗(yàn)。它要求我們超越短期的商業(yè)利益、地緣競(jìng)爭(zhēng)和政治周期，慎重思考我們究竟希望技術(shù)帶領(lǐng)我們走向怎樣的未來?答案取決于今天的選擇與行動(dòng)。防范和治理之路充滿挑戰(zhàn)與妥協(xié)，但通過堅(jiān)實(shí)的技術(shù)加固、可靠的法律護(hù)欄、真誠的全球協(xié)作以及包容的社會(huì)轉(zhuǎn)型，我們終能駕馭AI這艘巨輪，穿越風(fēng)險(xiǎn)驚濤，駛向?qū)θ祟愑幸娴谋税丁?/p>

作者

邵春堡，中國國際經(jīng)濟(jì)技術(shù)合作促進(jìn)會(huì)副理事長，博士。曾任國務(wù)院國資委局長、中國電信集團(tuán)有限公司董事和中國電信股份有限公司監(jiān)事會(huì)主席。

曾出版《現(xiàn)代企業(yè)制度研究》《國資監(jiān)管格局》《未來引擎：從科技革命到全新世界》《未來發(fā)展：從數(shù)智經(jīng)濟(jì)到共享社會(huì)》等多本專著，獲全國“五個(gè)一工程”獎(jiǎng)。發(fā)表產(chǎn)業(yè)變革、數(shù)智經(jīng)濟(jì)、共享發(fā)展、健康戰(zhàn)略等文章數(shù)十篇，研究方向是人類共同體與未來發(fā)展。

編輯：曉燕

指導(dǎo)：新文