生成式人工智能的數據污染及其治理路徑

生成式人工智能（AIGC）的迅速普及推動了社會進步，但也衍生出數據污染風險。AIGC擁有比傳統人工智能更強大的信息分析與人機交互能力，其可以獨立生成內容，擁有自感知、自決策、自執行、自適應、自學習等特征。但由涌現效應所誘致的負面影響越發顯著，致使AIGC的輸出結果具有高度的不確定性，從而可能存在嚴重的失真、不端或缺維現象，導致數據污染問題成為無法忽視的挑戰。同時，技術源頭治理困難、風險預防理念遇阻、責任歸屬原則失靈構成數據污染治理的核心困境，為平衡技術進步與社會安全，應堅持審慎原則，采用漸進式技術治理策略，并引入全過程風險管理理念；堅持發展原則，明確歸責的基本要件和例外情形，建立合理的責任剝離機制；堅持生態原則，引入多元綜合治理模式，及時出臺相應的規范解釋或政策機制，并建立數據污染聯動治理機制。

一、人工智能大語言模型引發的

數據污染風險

人工智能大語言模型以海量數據信息為基礎，結合卓越的理解和生成能力，在產生高度擬人化互動交流過程中，其所生成的內容開始變得愈發不可預測和難以治理，主要表現為人工智能大語言模型所引發的數據污染風險。

（一）數據流動引發的數據主權風險

在人工智能時代，人工智能大語言模型引發的數據污染風險深刻影響國家數據安全。首先，數據跨境流動引發數據主權風險。由于全球各國發展的情況復雜和多樣性，對數據跨境流動的治理就天然存在極大困難，無論各國數據保護水平如何，當海量數據流向立法不足、保護技術或管理能力有限的地區時，就存在侵犯個人隱私和泄露國家機密的風險。其次，數據霸權會引發意識形態風險。在數字時代，人工智能作為一種“權力的媒介”，涉及意識形態的引領和傳播權力的分配。掌握生成式人工智能領域核心技術的西方國家有意在全球進行技術霸權和數據霸權，在霸權的操縱下以及人工智能塑造的“信息繭房”影響下，將引發國家意識形態領域被撕裂風險，數據污染風險也將隨著意識形態的操縱、滲透而加重。

（二）數據污染攻擊引發軍事安全風險

人工智能作為一種具有重大戰略價值的新興技術，各國積極探索技術應用于軍事領域的潛力以獲得競爭的優勢。例如，美國軍方已開始利用生成式人工智能撰寫國防咨詢報告，并在五角大樓成立Lima工作組評估、整合和使用該技術。對手的技術快速發展和應用會在軍事領域對我造成重大的安全風險挑戰，對手可能會利用技術霸權或數據霸權將數據污染攻擊擴散到軍事應用中，并將生成式人工智能技術應用于情報戰與信息戰，甚至是無人機、自動制導或其他戰略決策性武器之中。更可以利用人工智能大語言模型可以生成模擬攻擊模型策略，對國家基礎設施、軍事設施等特定目標生成網絡攻擊代碼，嚴重危及被攻擊國軍事安全。

（三）數據污染導致的社會問題激化

源于強大的內容創生能力和不斷迭代升級的模型技術，人工智能大語言模型解放人力的同時，也在優化和提升信息生產與傳播的方式及效率，人們的生活模式甚至整個社會的運作模式都將因此面臨深刻變革。但是引發的安全風險也需要高度警惕。一是倫理道德風險。數據被污染導致的真實數據缺失，同時虛假的數據源與機械化的數據訓練機制會使得輸出的數據可靠性更低，會引發教育、藝術創作等領域的倫理道德風險。二是煽動社會矛盾。某些人違背開發者最初設定的道德和法律底線，有意通過“訓練”和數據污染，誘使人工智能生成虛假或違法信息，嚴重危害社會公眾利益，誤導影響社會輿論，煽動暴力、犯罪等。三是個人決策影響。隨著生成式人工智能技術的普及，會使得人們對大語言模型生成內容的數據依賴，加重了數據污染風險對個人的影響。尤其是在專業領域的錯誤數據會誤導用戶做出錯誤決策甚至造成不良影響。

二、數據污染風險的治理困境

生成式人工智能技術應用引發的數據污染風險面臨著技術底層桎梏、規制局限兩方面的挑戰，使得針對數據污染的防治面臨重重困境。

（一）大語言模型的底層技術桎梏

一是算法黑箱提升風險識別難度。數據污染是對數據真實性、完整性的破壞；數據污染風險既可能來自被污染的數據本身，也可能發生于數據處理過程中。前者屬于內在風險，依賴于大語言模型及算法的審核過濾機制，將有害數據從學習素材中排除；后者則屬于外在風險，依賴于對算法黑箱問題的積極應對，以抑制數據污染風險的擴散。二者共同之處在于對數據污染風險的識別。而算法黑箱化及其迭代升級正不斷增加風險識別難度，數據污染風險的治理困境愈發嚴峻。在人工智能大語言模型生成內容之時，若所依賴的深層技術或算法不公開、不透明，一系列包括信息不對稱、算法霸權、算法歧視、信息繭房等數據問題隨之產生。

二是算法依賴弱化污染數據識別能力。利用算法和大數據驅動，大語言模型能靈活、低調且高效地助推個人實現預設目標，并個性化定制個人的選擇環境，極大提高人機交互過程中主體對算法的信任水平。這又促使個人持續、廣泛地服從大數據制定的策略，進而放棄自己擁有的大部分實際主體性。當人工智能大語言模型越智能和越自主、應用越廣泛，大語言模型迭代升級的周期越短。同時主體性的下降導致的識別能力降低，虛假、偽造數據甚至帶有歧視和偏見的數據信息便得以在信息網絡上肆虐而難以被合理識別和過濾，加劇污染數據的傳播、擴散。

（二）數據污染規制的現實局限

一是數據污染法律規制薄弱。當前關于數據污染的相關管理辦法受制于技術發展的不確定性，相關概念和操作規范缺位，以及相關行政法規不甚明確、具體，諸多相應規范在實踐中的可操作性不強。同時，相關服務提供者或司法人員自身對人工智能領域中的新興風險感到陌生，或將直接導致數據污染風險規制的過程及結果缺乏合理性甚至合法性。

二是責任主體界限模糊。人工智能大語言模型技術的發展正在模糊法律責任主體的界限，數據污染治理時責任承擔存在不公平性與不確定性。人工智能大語言模型生成的數據或信息存在于數據收集、數據處理、數據輸出等多個階段，因而人工智能大語言模型所涉及的主體除服務提供者和用戶外，實際上還包括數據提供者、技術支持者、系統監督者等相關主體。導致責任主體的界限在技術實際運行中逐漸模糊，這在一定程度上限制了對數據污染的規制。

三、人工智能大語言模型數據污染風險的

規制路徑

（一）技術層面

由于人工智能大語言模型的預訓練模型、算法、算力存在內在固有缺陷，人工智能時代下算法黑箱的更新迭代已成為必然趨勢，技術規制應重點著眼于數據污染風險的防控。首先應以風險防控為重點，建立應對數據污染風險的多方位防控機制。一方面，建立透明可信的訓練數據源及算法模型。為確保模型及其訓練數據的透明度和可信度，可以要求大模型開發者在構建生態圈時一并研發增進人工智能可信性的治理工具。另一方面，建立數據審核過濾及隱私泄露防控機制。在語料庫構建和數據儲存、傳輸過程中建立數據審核過濾機制。其次，強調技術發展的以人為本。避免人工智能客體性式微對人類主體性的侵蝕，進而防止人類在面對新一代人工智能所內生的“技術依賴”“信息繭房”“數字鴻溝”等問題是人工智能數據污染風險治理的目標與方向所在。需要明晰人類“算法”與機器算法的合理分工，充分發揮人的主體性作用，盡可能規避技術系統可能帶來的機械化偏差。

（二）制度層面

以數據安全為重點，實現數據保護與數據使用的平衡，以制度為抓手，完善生成式人工智能領域的規范管理已迫在眉睫。一是完善生成式人工智能領域的法律規范。針對人工智能大語言模型在應用過程中引發的數據污染風險等諸多具體風險，及時出臺相應的規范解釋或政策機制，實現精準治理，以適應不斷迭代升級的人工智能算法和算力。二是政府引導為主、企業自治為輔，加快生成式人工智能領域數據安全治理行業技術標準的制定和完善。三是明確各方參與主體的法律義務與責任，確保人工智能大語言模型健康有序發展以及數據有效保護和合理使用。

免責聲明：本文轉自啟元洞見。文章內容系原作者個人觀點，本公眾號編譯/轉載僅為分享、傳達不同觀點，如有任何異議，歡迎聯系我們！

研究所簡介

國際技術經濟研究所（IITE）成立于1985年11月，是隸屬于國務院發展研究中心的非營利性研究機構，主要職能是研究我國經濟、科技社會發展中的重大政策性、戰略性、前瞻性問題，跟蹤和分析世界科技、經濟發展態勢，為中央和有關部委提供決策咨詢服務。“全球技術地圖”為國際技術經濟研究所官方微信賬號，致力于向公眾傳遞前沿技術資訊和科技創新洞見。

地址：北京市海淀區小南莊20號樓A座

電話：010-82635522

微信：iite_er