中國AI，最新趨勢來了！

新華深讀｜2026年中國AI發展趨勢前瞻

人工智能（AI）企業數量超過6000家，AI核心產業規模預計突破1.2萬億元，同比增長近30%；

國產開源大模型全球累計下載量突破100億次；

中國成為AI專利最大擁有國，在全球占比達60%；

這些數據勾勒出2025年中國AI發展的圖景。一邊是AI技術突破，走出一條不同于美國硅谷的“開源創新”之路，另一邊是AI與經濟社會的融合由淺入深。

1月以來，智譜、天數智芯、MiniMax等國內AI企業扎堆上市。本月由清華大學主辦的“AGI-Next”峰會上，行業專家形成共識：以對話為核心的“Chat”范式已告終結，AI競爭轉向“能辦事”的智能體時代。

2026年是“十五五”開局之年。根據“十五五”規劃建議，中國將加強人工智能同產業發展、文化建設、民生保障、社會治理相結合，全方位賦能千行百業。

新華社記者采訪相關部委負責人、行業專家、企業代表、創業者等，前瞻AI發展新趨勢。

技術范式：AI從“聊天”走向“做事”

1月，DeepSeek連發兩篇梁文鋒參與署名的論文，再次將這家AI企業推到聚光燈下。論文的核心貢獻，是試圖解決訓練大模型時遇到的內存瓶頸和穩定性難題。業界評價，新一代大模型模樣更清晰了。

DeepSeek的一舉一動備受關注。一年前，其發布的國產大模型DeepSeek-R1給全球AI行業帶來巨震。

“DeepSeek標志著中國AI技術路線分化突破的出現。”清華大學智能產業研究院創始院長張亞勤說，“中國轉向擁抱更輕的模型、更聰明的架構、更高的效率和更低的價格。”

眼下，AI發展正沿兩條主線并進：技術向上沖刺，尋求突破認知與協同的局限；應用向下扎根，解決真實痛點。

“向上沖刺”，就是尋求“更聰明”的算法和架構，不僅提升單一模型的性能，創新突破也更聚焦提升智能密度。

密度法則，是指用更少的計算和數據，更高效地得到更多智能。

國內AI公司面壁智能聯合清華大學團隊發表論文《大模型的密度法則》，對大模型的進化方向作出判斷：AI將在能力和成本兩個方向同時進化，提升效率同樣是主線。

從“拼規模”轉向“拼密度”，精煉高效成為大模型演進的核心邏輯之一。中國信息通信研究院副院長魏亮認為，行業已不再單純依靠提升參數規模實現性能突破，精細化機制、算法架構、訓練方法的優化成為主要提升方向。

中國信通院發布的《人工智能產業發展研究報告》指出，在算法架構方面，以DeepSeek的NSA、月之暗面的MoBA等為代表的稀疏注意力機制，成為提升模型推理效率的重要技術路徑之一。

通俗的解釋是，想象你坐在一個萬人大禮堂，注意力機制從傳統的“聽每一個人說話”提升為如今“聽關鍵人物發言”。

大模型本質上是通過海量數據歸納語言規律，訓練出特定的識別模式，掌握預測文字的能力。就像孩子雖沒有理解詩歌，卻能通過反復朗誦背出《靜夜思》。回顧本輪AI浪潮，算法架構和算力、數據一樣，是智能涌現的重要條件。

張亞勤說：“規模定律并未失效，我們仍需要算力和數據作為基座。”不過他也指出，堆算力的邊際效益趨于平緩。業內人士認為，算法架構革新將是AI未來發展的突破點。

當模型“智力密度”持續提升，讓前沿智能“向下扎根”、變得“更能干”，就成為行業要面對的命題。

“幾十年來，AI主要關注開發新的訓練方法和模型。”曾擔任OpenAI研究員、后出任騰訊總裁辦公室首席AI科學家的姚順雨認為，在AI競爭的下一個階段，為誰解決什么問題成為關鍵。

“騰訊已把自研大模型在內部超過900個場景和應用落地，核心思路是把AI深度融入場景，讓好用的AI成為普惠生產力。”騰訊相關負責人表示，全球具備大模型底座研發實力的廠商已逐步收攏，高質量的數據、廣泛的生態和場景，將成為拉開競爭差距的重要因素。

各大廠商不約而同加快AI真實場景落地的開發。百度新設立了基礎模型研發部、應用模型研發部。公司創始人李彥宏稱，未來AI領域只會剩下少數幾個基礎模型，但在應用層，將出現許多在不同方向上都取得成功的參與者，那里才是機會最多的地方。

中國信通院的報告顯示，基礎模型數量正持續收斂，在真實場景中的應用效果成為關注重點。以大模型“六小虎”為例，百川智能已深耕醫療，零一萬物則轉向為企業部署定制解決方案。

這些揭示一個趨勢：曾經硝煙彌漫的“百模大戰”落下帷幕，等待參與者的是一場圍繞真實場景滲透、產業生態構建與應用價值深挖的耐力賽。

自1956年達特茅斯會議以來，人工智能已走過70年歷程。如今，“技術進化”和“場景落地”的雙重變革，推動人工智能向更廣闊疆域拓展。

張亞勤認為，人工智能正向智能體AI加速演進。智能體AI能夠像人一樣設定任務、規劃實現路徑、試錯反饋，具有自主性、能舉一反三和長期記憶三個特征。

如果說聊天機器人是“會說話的字典”，智能體AI就是“能自主干活的管家”。中國科學院軟件研究所研究員黃進表示，未來AI不僅能聽懂指令，還能“看”懂畫面、“聽”懂語氣，成為具備綜合認知能力的“全能感知者”。

“智能體是在大模型基礎上的工程化增強，極大拓展AI能力邊界。”中國信通院人工智能研究所所長魏凱表示，不過智能體在可靠性、上下文記憶和長程任務等方面還需要提升，距離大規模應用仍有距離。

張亞勤等人還認為，AI的創新前沿將突破數字世界的邊界，未來的AI將是信息智能、物理智能和生物智能的融合。

AI發展下一站是進入物理世界。1月，中國一款具身智能模型在全球統一標準下獲得第一。業界有評價認為，這意味著中國團隊訓練出的機器人“大腦”，具備了在物理世界理解和執行任務的能力。

中外專家認為，AI正在與真實世界互動中構建理解和模擬物理規律的“世界模型”。物理智能將賦予AI在真實世界中感知和行動的能力，如機器人能自主完成復雜任務，智能駕駛從容應對復雜路況。

AI不僅是數字世界的“思考者”，也將逐漸成為物理世界的“行動者”，更遠的未來則會成為生命世界的“探索者”。

算力建設：系統升級加速協同

2025年，一家初創公司發布大模型新產品，市場反響超預期，導致預留服務器幾分鐘內被擠爆，系統幾近癱瘓。危急關頭，一家基礎設施服務商無問芯穹公司利用平臺技術服務，讓各地算力資源像“空中加油”一樣，為這家公司續上計算能力，確保了產品發布的關鍵窗口。

“我們希望未來算力就像自來水，打開能用、關上會停，不用關心它從哪里來。”公司聯合創始人夏立雪描述這樣的愿景。無問芯穹公司位于上海，公司成員平均年齡32歲。他們把不同廠商、不同架構的AI芯片高效融通起來，就像搭建“立交橋”，充分利用分散的算力資源。

算力，計算設備或系統處理數據、執行運算任務的速度與規模能力，通常分為基礎算力、智能算力、超算算力。AI依靠的是智算，它不只是芯片的堆砌，而是一個由硬件、軟件、能源與網絡精密協作的系統。

AI算力就像一支超級工程兵團：GPU等計算芯片是執行硬核任務的“重武器”，高速網絡是讓各兵種高效協同的“信息高速公路”，存儲系統是隨時調用的“戰略物資庫”，軟件框架與算法則是統籌全局的“調度指揮中心”。而一切運轉都離不開基礎保障：電站確保電力“彈藥”持續供應，供給液冷系統是戰士的“降溫服”。

AI時代，算力就是新石油，AI算力中心是提煉和輸送石油的超級工廠。

工信部數據顯示，我國已建成萬卡智算集群42個，智能算力規模超過1590 EFLOPS，位居全球前列。

業界認為，中國算力發展將繼續呈現“政府頂層設計+市場創新活力”雙輪驅動特征。

產業架構將從分散走向全國一體化，是未來算力發展的明顯特征。東數西算工程已形成覆蓋東中西部的8大樞紐節點、10個數據中心集群，其中8大樞紐節點已建成智算規模超過全國智算總量的80%。

“十五五”規劃建議提出推進“全國一體化算力網”，國務院《關于深入實施“人工智能+”行動的意見》強調“強化智能算力統籌”，指明未來算力發展將加強高效協同。

工信部賽迪院電子所副所長馬曉凱認為，算力網建設呈現集約化、一體化、協同化、價值化等特征，算力資源正在向樞紐節點集聚，跨地域調度平臺逐步完善，政府引導、市場運作的協同機制正在建立，算力與電力加快協同。

隨著需求激增，智算中心正經歷變革。中國信通院云計算與大數據研究所副所長李潔認為其將向算力高密化、集群規模化、綠色低碳化方向演進，算力中心單機架功率與算力密度將逐漸提升，算力中心間協同聯動能力強化，規模化算力集群將加快構建。

在業界，更大規模的萬卡乃至百萬卡級集群將成為支撐萬億參數模型訓練的基礎。比如，從2011年啟動研發昆侖芯的百度集團，去年11月發布新一代昆侖芯M系列及天池超節點，計劃將單一智算集群規模從3萬卡推向百萬卡級別。

硬件層面，不僅是芯片研發，還有通過專用集成電路、存算一體等新架構實現技術突破，構建軟硬件協同生態。頭部科技公司正打造能兼容多種國產芯片的異構計算平臺。

應用層面，算力加速從科技企業走向千行百業。今年，上海、珠海等地已宣布發放算力券，降低中小企業使用智能算力的門檻，引導算力資源流向工業制造等實體經濟領域。

電力，被業界稱為“算力的盡頭”。中國信通院報告顯示，2024年中國數據中心用電量占社會用電量比例1.68%，并提出未來高中低三種差異化發展場景，按照中速增長，預計到2030年底這一比例將達3%左右，全國數據中心用電量將突破4000億千瓦時；而按照高速增長趨勢，或將突破7000億千瓦時。

“算電協同”從趨勢上升為戰略必然。國家引導算力向西部可再生能源富集區布局，打造綠色算力基地。企業也積極探索綠電直供、分布式新能源等模式，騰訊的數據中心去年綠電占比已達80%。

一些企業傾向將實時結算、實時推理等對時延要求高的算力就近部署，對時延要求不高的冷數據存儲等業務部署在西部。東西部之間的網絡傳輸成本，以及因時延帶來的業務損耗，可能會抵消一部分電價優勢。

專家表示，通過網絡技術優化、業務智能調度，以及電力系統的靈活性互動，實現整體社會成本最優，將是算力基礎設施核心競爭力所在。

展望算力前景，李潔認為“我們不僅追求硬件性能的突破，也關注從硬件到軟件、從基礎設施到綠色能源的系統性創新”。

這場系統性升級，將決定中國如何把“新石油”轉化為驅動智能時代的澎湃動力。

數據挖掘：從規模導向轉為質量與專業化導向

在保定，工程師們標注自動駕駛車輛在雨雪中的交互軌跡，構建研究華北地區城郊復雜路況的交互數據集；在成都，醫學專業學生標記CT影像以構建肝癌療效預測數據庫；在海口，信息技術專業學生分析記錄水果生長的無人機影像，用于智能澆灌和采摘系統……

最近，在某招聘平臺，注明“重點大學本碩博優先”的AI數據標注員崗位，月薪最高接近2萬元。

因AI應運而生的數據標注行業，正從以往勞動密集轉向知識密集。10年前，數據標注公司常落戶于中西部地區，受教育不多的人們，會用鼠標就能完成“看圖貼標簽”。隨著生成式AI的突破和落地千行百業，越來越需要挖掘沉淀于行業企業的數據和專業人士的經驗，并將經驗轉化為AI可理解的“數據燃料”。

數據對AI有多重要？

在AI三要素中，算法像設計圖，定義AI學習的方法和邏輯；算力是引擎，提供計算的能力；數據則像人類學習所需要的書本和經驗。

當算法因規模擴張而邊際效益遞減、算力因技術開源而日益普及時，AI技術的競爭焦點正轉向更基礎也更難復制的要素——高質量數據。

魏凱說，訓練行業模型解決垂直行業里的深度問題，需要高質量的行業數據集。

“比如，放射科醫生看片子里有沒有結節，靠的是數十年的醫學經驗，AI看片子也需要醫生教它。現在的數據標注要往縱深發展，把行業的深度知識、專家經驗轉化為能夠被機器學習的樣本，需要標注加工。”

高質量數據從哪來？

簡而言之，數據標注通過提取特征、分類、注釋和標簽化等操作，將人類的知識與思維邏輯轉化為機器可識別的形式，這是構建高質量人工智能數據集的關鍵環節。經標注形成的高質量數據能提升垂類大模型在專業領域的性能。

中國數據生產總量占全球四分之一多。中國擁有全球最大的互聯網用戶群體，擁有全門類的工業體系，從原材料開采、中間品加工到終端產品制造的全要素、全過程、全環節數據成為寶貴資源。

但另一面，很多人有這樣的經歷：在A醫院做的檢查，其結果并不被B醫院接受，原因在于醫療數據標準不統一，且涉及極高的隱私風險，導致數據無法跨院流動。

工信部賽迪院信軟所所長韓健認為，數據價值密度不均、數據標準參差不齊、數據流通壁壘重重，導致大量數據“存而不用”，不同部門、不同企業的數據像一個個“孤島”，“不敢傳”（怕泄密）、“不愿傳”（怕喪失競爭優勢）、“不會傳”（缺乏技術標準）。

難題正在破解。隨著數據被明確為關鍵生產要素，國家數據局掛牌，《“數據要素×”三年行動計劃（2024—2026年）》等相繼出臺，旨在培育數據產業，打造高質量數據集。

國家數據局指導成都、合肥、沈陽等7城市建設數據標注基地，先行先試。截至2025年第三季度，形成醫療、工業、教育等行業的高質量數據集超過500個，帶動數據標注相關產值163億元。

數據集建設已從通用基礎數據集轉向行業高質量數據集。中國信通院對數據標注企業的調研結果顯示，78%的企業以行業數據集供給為主，重點是交通運輸、醫療健康、教育教學、工業制造等領域。

業內人士認為，圍繞數據的進化今年將進入更深層次。

從AI技術發展看，隨著模型訓練進入深水區，數據需求持續攀升，但單純堆量的方式已難以為繼，數據訓練密度和利用效率成為新焦點；數據集建設重點從追求規模轉向質量躍升，智能生成、專業細分、合規治理推動破解數據瓶頸。

從AI落地應用看，高質量、專業化的行業數據集將成為高價值資源，尤其是在工業、金融、醫療等領域。同時，合成數據技術將越來越普及——當現實數據難以獲取或涉及隱私時，需要借助AI技術生成符合物理規律和業務邏輯的訓練數據，從而突破數據瓶頸。

多位專家認為，AI應用到千行百業后，數據有望成為新的中國優勢，因為中國工業門類齊全、數字經濟發達，建成全球規模最大的5G網絡，新能源汽車等行業處于世界前列。

魏凱表示，未來的關鍵是充分挖掘利用我國在制造業和互聯網等優勢領域中積累的“數據金礦”，形成“業務產生數據、數據訓練AI、AI反哺業務”的良性循環。

中國人工智能學會會士、香港科技大學（廣州）協理副校長熊輝說，數據驅動AI優化，進而提升產業，產生更多數據，形成閉環。中國全門類的工業體系提供極其豐富的應用場景，這是形成數據飛輪的巨大優勢。

產業賦能：驅動中國制造加快轉型升級

一家有70多年歷史的電池廠應用AI，會發生什么？

研發環節采用AI配方大模型，高效開發多特性電池；生產通過AI實時聯動設備與工藝，實現預警，提升穩定性；檢測引入AI云系統，以算法替代人工，保障大批量生產下的質量一致性。

這家工廠的變化折射一個趨勢：AI并非高科技產業的專屬，它正成為傳統產業轉型升級的重要驅動力。

“美國聚焦閉源，而中國主導開源市場，這一格局直接推動中國企業快速切入AI+產業。”熊輝說。

國家數據局的數據顯示，2024年初中國日均Token消耗量1000億，而截至2025年6月底，中國日均Token消耗量突破30萬億。一年半時間增長300多倍，反映出AI應用落地的快速增長。

Token，中文叫“詞元”，是大語言模型處理信息的基本單位。模型輸出每一個答案都消耗Token。

來自頭部大模型企業的數據也印證這一趨勢。2025年12月，豆包大模型日均Token調用量突破50萬億，同比增長超10倍，累計使用量超萬億Token的企業客戶突破100家。業界人士預測，未來的Token消耗將呈現“二八格局”——約80%來自企業，20%來自個人用戶。

“大模型會率先在數字化基礎較好、數字化人才相對聚集的行業落地，比如互聯網服務、金融、政務等信息化技術好的領域；在物理資產較多、數字化相對滯后的傳統產業則會落地較緩。”魏凱分析說。

中國信通院的報告顯示，AI在不同工業領域呈現差異化滲透特征，其中電子信息、消費品、以汽車為代表的裝備制造等行業在應用中占重要份額，鋼鐵、石化、能源電力等行業形成較好應用態勢。

工信部賽迪院產業所所長王昊認為，AI將以小步快跑態勢在制造業落地，從完成簡單任務到實現高級功能。2026年AI大規模落地制造業方面，較看好汽車、機器人等先進制造企業，AI也將賦能提升裝備與消費產品的智能化水平。

聚焦制造業，會發現AI應用在三個維度展開：研發設計、生產制造、運營管理。

“目前，大模型應用超過40%聚集在客服等運營管理環節，30%至40%應用于研發環節，原本處于‘中間緩’的生產制造環節AI應用比例從2024年的19.9％提升到2025年的25.9%，未來還將提升。”魏凱說。

這種分布反映AI在制造業滲透的漸進性特征——從相對標準化的管理環節向核心的生產制造環節延伸。

張亞勤表示，相比第一、二次工業革命中國“零參與”、第三次以信息時代為標志的工業革命是“跟隨者”，在AI作為技術底層的第四次工業革命中，“中國完全有可能走在前列”。

這一判斷是業內共識。其背后，是基于中國的獨有優勢：全球最完整的工業體系、海量應用場景數據、強大的工程化能力和龐大的市場需求。這些要素共同構成中國制造業在AI時代實現跨越式發展的基礎。

國家部署為企業助力。去年，《關于深入實施“人工智能+”行動的意見》提出加快人工智能在設計、中試、生產、服務、運營全環節落地應用；今年1月，工業和信息化部等八部門印發《“人工智能+制造”專項行動實施意見》，提出到2027年推動形成特色化、全覆蓋的行業大模型，推廣500個典型應用場景。

工信部部長李樂成表示，將深入實施“人工智能+制造”專項行動，統籌布局通用大模型和行業大模型，培育一批重點行業智能體、智能原生企業；加快制造業智能化升級，挖掘人工智能應用場景，以萬千“小場景”匯聚形成融合“大場面”。

熊輝表示，傳統產業進行AI改造的核心是將產業問題抽象為AI問題，并實現低成本部署。以廣州的小家電產業集群為例，可利用產業優勢，快速形成數據化、智能化閉環，大小模型配合，提升終端智能化水平。

超600萬家中國制造業工廠，將在紛繁多樣的場景擁抱AI。這不僅是一場技術革命，更是一場深刻的生產方式變革。

社會價值：深刻改變治理方式和運行規則

重慶市潼南區桂林街道梨樹村，智能監測系統靜靜守護著85歲的獨居老人。當系統發現異常，從預警到網格員上門僅需15分鐘。這是AI融入政府公共服務的一個普通場景。

從事后處置轉向事前預警，從“人海戰術”轉向智能調度，人工智能的觸角以前所未有的廣度和深度，嵌入社會運行的一道道肌理。

AI帶來的轉變推動城市治理更智能、更精準。在四川德陽，“城市大腦”的算法以分鐘級發現路面問題；在甘肅臨洮，大橋上的AI可識別行人翻越欄桿、靠近水流等行為，與警務等部門聯動，挽救了20多條生命。

重塑治理理念，人機協同的治理新模式應運而生。中國信通院政策與經濟研究所副所長李強治認為，我國正推動AI治理“下沉場景賦能”，將AI技術與政務、公共安全等領域深度融合。

這股力量也滲透進日常生活的毛細血管——消費。AI萬能搜、AI幫我挑、AI試衣、AI清單……去年的“雙十一”購物節，淘寶天貓一口氣推出6款AI導購應用。

“平臺和產品變得更懂消費者。這不再是簡單的‘猜你喜歡’，而是‘懂你需要’，消費起點從用戶的需求清單逐漸變為AI的算法推薦。”淘天集團研究中心主任徐飛說。

AI正錨定“需求”著力滲透，實現從“技術可行”到“社會需要”。

一位蔚來車主在車里說句“想吃麥當勞”，車載系統就能自動定位到最近門店，并根據駕駛路線與會員身份推薦套餐。這是麥當勞中國與蔚來汽車聯合推出的國內首個車載AI語音點餐系統。麥當勞中國首席信息技術與體驗官陳世宏表示，AI技術不斷滲透到消費場景，拓展消費邊界。

《關于深入實施“人工智能+”行動的意見》提出，推動智能終端“萬物智聯”，培育智能產品生態，大力發展智能網聯汽車、人工智能手機和電腦、智能機器人、智能家居、智能穿戴等新一代智能終端，打造一體化全場景覆蓋的智能交互環境。

中金公司2026年展望報告顯示，消費電子的“端側AI時代”已經來臨，今年有望成為AI消費終端大規模普及的關鍵年份。新一輪消費電子更新換代潮或將到來。

愛奇藝AIGC科技創意指導王慶豐表示，AI正推動消費從“需求牽引供給”逐步到“供給定義需求”，這背后是AI從表層效率優化切入，逐步滲透到體驗重構，甚至重塑著深層價值體系。

AI重新定義價值，最深遠的是挖掘人的價值。

學日語出身的劉典，在AI爆火的這兩年決定辭職攻讀計算語言學。“AI降低了跨界難度，很多知識門檻并沒有想象中高。”他說。

AI向各行各業滲透，先行者靠它撬動更大價值。上海漕河涇開發區AI校友中心有超60家AI初創企業，創業者平均28歲。數宗科技主攻“多模態知識圖譜”，其創始人丁天是一位愛寫詩的文科生，他認為，AI時代，技術正從難以逾越的壁壘變為人人可調用的資源。

“氛圍編程”入選《柯林斯詞典》2025年度詞匯，從“敲代碼”到“聊代碼”，AI逐漸滲透工作流程。騰訊相關負責人表示，騰訊有超90%工程師正在借助AI編碼，并基于自身實踐推出支持多種形態的專業工具CodeBuddy（云代碼助手），面向企業及程序員提供服務。AI輔助讓工程師專注于創新，成為能力的放大器。

隨著AI重新定義工作和技能，傳統教育勢必轉型。在深圳職業技術大學的課堂上，AI正在手把手地教學生編程。校長許建領說，成功的“AI+教育”不是讓學生依賴AI獲取答案，而是培養他們使用AI創新。學生核心競爭力不再是單一的操作技能，而是復雜問題解決能力、“AI+技能”復合素養和可持續學習的自驅力。

AI時代，每個人都可以挖掘自己的潛力，專注于唯有人類才能駕馭的洞察與創造。

安全防范：護欄建設將趨嚴趨實

最近，美國《韋氏詞典》評選出2025年度詞匯：“slop”（AI垃圾內容）。不約而同，英國《經濟學人》雜志、澳大利亞《麥考瑞詞典》評選的年度詞匯也是它。

這詞被一些網友翻譯為“AI泔水”，指質量低下、無意義或粗制濫造的AI圖像和文本等內容。

詞語背后是席卷全球的現象：AI生成的荒誕而無意義的視頻、圖像和文字充斥互聯網。這警示人們，AI技術突飛猛進的同時，其日益增多的安全隱患與倫理挑戰不容忽視。

“一家公司與某三甲醫院合作開發AI健康助手，最初設計采用一名真實醫生的形象與聲音。我向這家公司提出可能誤導患者，透支患者對醫生的信任。”中國科學院自動化研究所研究員、聯合國人工智能高層顧問機構專家曾毅談到這樣一個案例。

在曾毅等人建議下，這家公司推出的應用以卡通人物為形象，強化了其助手定位。曾毅說，越來越多AI企業開始思考以人文溫度校準技術。

AI有哪些風險？業內專家普遍將其總結為數據隱私與安全邊界模糊、技術濫用與虛假信息產生、算法偏見與決策“黑箱”等方面。

張亞勤認為，突出的是信息智能領域的風險，AI可以被利用生成虛假信息、深度偽造并進行欺詐，還有生成式人工智能的知識產權問題。當未來大模型、智能體與無人車、機器人等連接起來，智能體之間的協作和博弈如果出現失控或被惡意濫用，造成的風險更大。

曾毅舉例，“越獄攻擊”，即通過精心設計提示詞繞過安全約束，并引發有害、偏見或不道德輸出的對抗性攻擊，是當前大語言模型安全領域的嚴峻挑戰。

在AI技術狂飆突進時，如何為它裝好“方向盤”和“剎車片”？

我國不斷加固安全護欄，走出一條從柔性指導到不斷加強法治保障的特色治理之路——

《關于深入實施“人工智能+”行動的意見》提出“形成動態敏捷、多元協同的人工智能治理格局”；中央網信辦、國家發展改革委、科技部等多部門協同發力，推動人工智能治理從理念走向落地。

“十五五”規劃建議提出，加強人工智能治理，完善相關法律法規、政策制度、應用規范、倫理準則。業界認為，這為我國未來五年人工智能健康發展明確方向、留足空間、筑牢基礎。

去年底公布的《人工智能擬人化互動服務管理暫行辦法（征求意見稿）》提出，擬人化互動服務提供者應當建立應急響應機制，發現用戶明確提出實施自殺、自殘等極端情境時，由人工接管對話。

“這一暫行辦法公布并向社會征求意見，體現我國人工智能政策‘自適應性’與監管框架的與時俱進。”曾毅說。

既有“軟性”政策指導，也有“硬性”法律保障。新修改的網絡安全法于今年施行，其中規定，完善人工智能倫理規范，加強風險監測評估和安全監管。

“規范發展”已成為AI業界共識，從研究機構到企業平臺均在探索建立健全AI安全倫理體系，明確數據使用、責任界定等關鍵規則。

2024年，中國信通院啟動“大規模預訓練模型（文本生成功能）安全認證”，標志著我國開始對大模型內容安全進行系統化、標準化認證。一些機構和企業也在牽頭制定行業標準，如騰訊和中國信通院聯合發布國內首個金融行業大模型標準等。

AI發展需要各國共同推進、協同治理。參與起草《人工智能全球治理行動計劃》的清華大學人工智能國際治理研究院院長薛瀾表示，構建一個公平、公正、綜合、平衡的人工智能全球治理體系，關乎全人類的共同發展。

AI是驅動發展的新質生產力，也是影響人類未來命運的新生力量。如何加速技術應用以增加社會福祉，同時加強人文關懷化解潛在風險，這既關乎發展，也關乎未來。中國AI技術的發展與應用令人期待，需要全社會的深度參與。

文章來源：新華每日電訊