全國政協(xié)委員吳世忠：統(tǒng)籌人工智能發(fā)展與安全 保障高水平科技自立自強

黨的二十屆四中全會提出，“加快高水平科技自立自強，引領(lǐng)發(fā)展新質(zhì)生產(chǎn)力”，為“十五五”時期的科技工作確立了目標、指明了方向。當前，全球科技革命迭代加速，大國競爭博弈加劇，科技自立自強已成為國家發(fā)展的戰(zhàn)略支撐、在激烈國際競爭中贏得主動的關(guān)鍵變量。人類社會科技發(fā)展史表明，誰牽住了科技自立自強這個“牛鼻子”，下好了科技創(chuàng)新這步“先手棋”，誰就能占領(lǐng)先機、贏得優(yōu)勢。人工智能作為新一輪科技革命和產(chǎn)業(yè)變革的主要驅(qū)動力，既是新質(zhì)生產(chǎn)力的核心引擎，又是高水平科技自立自強的關(guān)鍵支撐。可以說，人工智能發(fā)展與安全，既關(guān)系新質(zhì)生產(chǎn)力的充分發(fā)展，也關(guān)系高水平科技自立自強的順利實現(xiàn)。統(tǒng)籌好人工智能發(fā)展與安全，是“十五五”時期科技工作必須答好的重要課題。

》》》一、攻關(guān)核心技術(shù)，夯實自立自強根基

習(xí)近平總書記指出，“關(guān)鍵核心技術(shù)是要不來、買不來、討不來的”，強調(diào)要“擁有強大的關(guān)鍵核心技術(shù)攻關(guān)能力，有力支撐高質(zhì)量發(fā)展和高水平安全”。當前，人工智能領(lǐng)域成為大國科技競爭主戰(zhàn)場，一些國家意圖“斷供”“脫鉤”，遏制我國人工智能技術(shù)發(fā)展。面對嚴峻形勢，唯有加快自主創(chuàng)新步伐，突破“卡脖子”技術(shù)瓶頸，構(gòu)建自主可控的人工智能技術(shù)體系，才能確保我國人工智能發(fā)展不受制于人，真正掌握科技競爭和未來發(fā)展的主動權(quán)。一方面，要聚焦基礎(chǔ)理論創(chuàng)新，突破現(xiàn)有深度學(xué)習(xí)范式的局限，在基礎(chǔ)研究上實現(xiàn)從“跟跑”到“并跑”再到“領(lǐng)跑”的跨越。另一方面，要突破人工智能關(guān)鍵核心技術(shù)瓶頸，發(fā)揮新型舉國體制優(yōu)勢，集中力量攻克高端芯片、核心算法、基礎(chǔ)軟件、高質(zhì)量數(shù)據(jù)等環(huán)節(jié)，解決“卡脖子”“拖后腿”等問題，為加快高水平科技自立自強奠定堅實的技術(shù)根基。

》》》二、推進“向善”應(yīng)用，厚植自立自強土壤

習(xí)近平總書記強調(diào)，“要把滿足人民對美好生活的向往作為科技創(chuàng)新的落腳點，把惠民、利民、富民、改善民生作為科技創(chuàng)新的重要方向。”人工智能安全應(yīng)用是連接技術(shù)創(chuàng)新與社會福祉的橋梁，是科技自立自強成果惠及人民的關(guān)鍵環(huán)節(jié)。要堅持“以人為本、智能向善”，將安全理念融入人工智能全生命周期。如，在醫(yī)療領(lǐng)域，確保人工智能輔助診斷系統(tǒng)的準確性與可解釋性，守護患者生命健康；交通領(lǐng)域，強化自動駕駛系統(tǒng)的安全冗余設(shè)計，保障公眾出行安全；教育領(lǐng)域，防止算法偏見影響公民平等受教育權(quán)，促進教育公平。同時，在養(yǎng)老、就業(yè)等重要民生場景中，同步嵌入隱私保護與倫理審查模塊，確保技術(shù)服務(wù)于人的尊嚴與權(quán)益，讓人民群眾享受技術(shù)便利的同時，切實感受科技自立自強帶來的獲得感、幸福感與安全感。

》》》三、加強安全研究，奠定自立自強基石

當前，人工智能技術(shù)快速迭代，算法黑箱、對抗攻擊、數(shù)據(jù)投毒等新型安全威脅相繼凸顯，傳統(tǒng)的安全防護手段已難以有效應(yīng)對智能時代安全問題。人工智能發(fā)展還面臨著技術(shù)失控、倫理失范、治理失效等風(fēng)險挑戰(zhàn)。唯有加強安全研究，全面提升人工智能安全防護能力，才能確保人工智能安全、可靠、可控，為高水平科技自立自強提供有力保障。一要聚焦人工智能內(nèi)生安全，突破對抗樣本防御、模型可解釋性增強等關(guān)鍵技術(shù)，提升人工智能系統(tǒng)的魯棒性與透明度，研發(fā)具有自我檢測、自我修復(fù)能力的智能系統(tǒng)，從源頭提升安全性。二要健全完善人工智能安全法律法規(guī)和標準規(guī)范，明確研發(fā)者安全主體責(zé)任、使用者合規(guī)義務(wù)，建立分級分類監(jiān)管機制，打造“法律規(guī)范、標準引導(dǎo)、行業(yè)自律”的安全治理格局。三要深入貫徹《人工智能全球治理倡議》，加強人工智能安全測試和風(fēng)險評估，建立覆蓋技術(shù)全生命周期的風(fēng)險防控體系，確保人工智能技術(shù)始終在安全可控的軌道上運行發(fā)展。

面對全球人工智能競爭與安全治理復(fù)雜形勢，必須統(tǒng)籌好發(fā)展與安全，以創(chuàng)新突破搶占科技制高點、以安全屏障守護發(fā)展成果，為加快高水平科技自立自強提供堅強保障。

（作者系全國政協(xié)委員，中國工程院院士，國家保密局科技委主任）

作者：吳世忠

文字編輯：楊智嘉

新媒體編輯：洪琳

審核：周佳佳