4月24日,2026新京智庫春季論壇“人工智能+進行時:從技術競速到場景深耕”主題論壇在中國傳媒大學舉辦。本次論壇圍繞大模型落地、智能體發展、內容安全與人才培養等議題展開深入交流。
在“從技術競速到場景深耕:AI大模型的突破、落地與治理”圓桌對話中,綠盟科技首席創新官、中國計算機學會理事劉文懋深度剖析AI安全風險、智能體治理與行業人才變革,為人工智能規模化落地提供安全視角與實踐參考。
隨著智能體、具身智能快速普及,人工智能在釋放生產力的同時,也帶來新型安全挑戰。劉文懋在發言中明確提出,AI時代網絡攻防邏輯已發生根本改變,必須堅持“用AI治AI”,在可控、可信的前提下平衡技術創新與安全底線,才能保障產業行穩致遠。
![]()
綠盟科技首席創新官、中國計算機學會理事劉文懋。
用AI治AI成必然,智能體安全風險亟待管控
劉文懋表示,當前攻擊者正借助AI開展自動化、武器化攻擊,電信詐騙、深度偽造等安全問題日益突出,防護方必須以AI對抗AI,才能扭轉過去攻防不對稱的局面。他提到,此前漏洞武器化可在分鐘級、小時級完成,而防護響應往往以天、月計,AI的出現讓自主化、實時化防御成為可能。但他同時提醒,AI也可能成為國家間博弈的工具,需要警惕外部技術濫用帶來的安全威脅。
對于近期熱門的AI智能體“龍蝦”,劉文懋直言其開放權限暗藏巨大隱患,可隨意刪改文件、執行惡意代碼,極易被植入惡意插件。GitHub安全公告顯示,2月相關安全公告中,超半數為任意代碼執行類漏洞。他認為,當前不少單位對智能體“一刀切”禁用,核心原因是缺乏風險感知與管控手段。未來應搭建安全架構、設置安全圍欄,在開發、測試、運營全流程把控風險,在可信可控的環境中發展AI。
計算機行業迎自我革新,人才結構加速重塑
劉文懋坦言,AI正在“革計算機行業自己的命”,Vibe Coding等工具已深度替代研發工作,產品經理、前端、測試、架構師等崗位均受到沖擊,大量從業者面臨職業轉型。未來人才格局將明顯分化,具備復合經驗的資深人才更具優勢,38歲以上有扎實功底的從業者更受青睞,而應屆畢業生將面臨更大就業壓力。
他透露,計算機相關專業正在探討培養模式改革,未來計算機、軟件工程、網絡安全等專業或將走向“選拔制”,重點培養對底層原理有興趣、能鉆研的人才。組成原理、操作系統、編譯系統等底層能力不可或缺,AI雖能完成基礎工作,但故障排查與問題定位仍依賴人的經驗。
根據咨詢公司Gartner預測,未來一人或將配備上千個智能體,劉文懋預測,具身智能、智能駕駛加速落地,網絡安全將進入新戰場。他強調,AI對抗AI是必然趨勢,安全將是人工智能規模化落地的核心底線。
新京智庫春季論壇由新京報社、中國傳媒大學聯合主辦,新京智庫、中國傳媒大學廣告與品牌學院、貝殼財經、千龍網共同承辦。
新京報貝殼財經記者 程子姣 編輯 陳莉 校對 穆祥桐
特別聲明:以上內容(如有圖片或視頻亦包括在內)為自媒體平臺“網易號”用戶上傳并發布,本平臺僅提供信息存儲服務。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.