聯(lián)合國兒基會發(fā)布第三版AI與兒童指南

2025年12月9日，聯(lián)合國兒童基金會（UNICEF）發(fā)布更新版《AI與兒童指南》（3.0版），旨在促進政府和私營部門在AI政策和實踐中尊重兒童權利，并提高人們對AI系統(tǒng)如何維護或損害這些權利的認識。據(jù)介紹，這一指南首版發(fā)布于2020年，2021年發(fā)布2.0版及一套實用的實施工具（包括家長AI指南、青少AI指南、政策制定者路線圖等）。3.0版本的推出，源于AI技術（例如生成式AI）的飛速發(fā)展，兒童對AI系統(tǒng)的使用日益增多，兒童權利方面涌現(xiàn)出的機遇與風險，以及AI治理格局的變化。

“2021年，聯(lián)合國兒童基金會發(fā)布第二版指南時，我們指出AI系統(tǒng)正在從根本上改變世界，并影響著當代和未來的兒童。我們觀察到，算法會向兒童推薦接下來觀看的視頻、閱讀的新聞、聆聽的音樂以及結(jié)交的朋友。如今，生成式AI系統(tǒng)甚至能夠創(chuàng)作視頻、新聞和音樂。它們聲稱自己是兒童的’朋友’，并以這種形象示人。它們不僅幫助兒童學習，還替他們做作業(yè)，這可能會損害兒童在關鍵發(fā)展階段所需的學習和思考能力。正是這些重大變化促成了本次指南的更新。”

更新內(nèi)容主要為增了以下幾個重要內(nèi)容：兒童使用的AI助手；AI供應鏈，包括童工和受有害及非法內(nèi)容污染的數(shù)據(jù)集；AI系統(tǒng)對環(huán)境的影響，尤其對兒童造成影響；AI生成的兒童性虐待材料（CSAM）和非自愿私密圖像（NCII）；以及AI在武裝沖突和網(wǎng)絡行動中的應用。新指南還探討了利用AI系統(tǒng)更好地支持學習、提高殘疾兒童的學習便利性以及改善兒童福祉等機遇。

該指南文件以《兒童權利公約》為基礎，提出了以兒童為中心的AI的十項要求及48項建議，具體如下：

1.確保以兒童為中心的AI的監(jiān)管框架、監(jiān)督和合規(guī)性

• 審查、更新并在必要時制定全面的AI相關監(jiān)管框架，以納入兒童權利。

• 建立監(jiān)督或監(jiān)管機構，或?qū)⒙氊煼峙浣o現(xiàn)有機構，以確保遵守AI原則和法律，并建立補救支持機制。

• 確保政府AI系統(tǒng)符合AI相關法律和兒童權利法。

2.保障兒童安全

• 要求在AI戰(zhàn)略、政策、法律法規(guī)中強制進行AI系統(tǒng)對兒童權利的影響評估。

• 在AI開發(fā)的整個生命周期中，持續(xù)評估和監(jiān)測AI對兒童的影響，并公開評估結(jié)果。

• 要求對AI系統(tǒng)進行安全性、可靠性和穩(wěn)健性測試。

• 消除AI生成、傳播和/或放大的有害和非法內(nèi)容對兒童造成的傷害，并降低其風險，包括虛假信息/錯誤信息、網(wǎng)絡欺凌和詐騙。

• 防止利用AI對兒童實施犯罪，例如性虐待和性剝削兒童。

• 應對AI聊天機器人或智能助手帶來的風險。

• 保護兒童免受AI在武裝沖突和網(wǎng)絡行動中的有害使用。

• 在適當情況下，利用AI系統(tǒng)促進兒童安全，并支持兒童保護工作。

3.保護兒童數(shù)據(jù)和隱私

• 負責任地處理與兒童相關的數(shù)據(jù)。

• 采用隱私設計方法。

• 保護特定群體。

• 提升兒童的數(shù)據(jù)自主權。

4.確保兒童享有非歧視和公平待遇

• 積極支持處于弱勢或易受傷害境地的兒童，使他們能夠從AI系統(tǒng)中受益。

• 減少針對兒童或特定兒童群體的偏見，避免歧視和排斥。

5.為兒童提供透明度、可解釋性和問責制

• AI系統(tǒng)應事先明確告知兒童及其監(jiān)護人，他們正在與AI而非人類互動。

• 在推廣AI系統(tǒng)的可解釋性和透明度時，應明確關注兒童，并避免將此類系統(tǒng)擬人化。

• 使用適合兒童年齡的語言描述AI。

• 設計、開發(fā)和部署AI系統(tǒng)時，應確保其能夠根據(jù)法律和政策框架保護和支持兒童用戶，無論兒童對系統(tǒng)的理解如何。

6.通過負責任的AI實踐尊重人權和兒童權利

• 確保在所有涉及AI的數(shù)字商業(yè)活動中尊重兒童權利。

• 確保從數(shù)據(jù)到硬件的所有投入都基于權利，并消除所有階段的童工和剝削現(xiàn)象。

• 確保為高層管理人員和AI生命周期中的相關人員（包括設計師、開發(fā)人員和研究人員）提供AI和兒童權利方面的能力建設，并承諾采取行動。

• 充分利用客戶對值得信賴且透明的兒童AI解決方案的需求。

7.支持兒童的最大利益、發(fā)展和福祉

• 優(yōu)先考慮AI如何造福兒童，尤其是在AI政策、法律和系統(tǒng)中。

• 開發(fā)并應用以兒童權利為導向的設計方法。

• 整合指標和流程，以支持兒童在使用AI時的福祉。

• 解決AI和數(shù)字基礎設施對環(huán)境造成的負面影響。

• 利用AI系統(tǒng)支持和提高環(huán)境可持續(xù)性，包括確保可持續(xù)的AI價值鏈。

8.確保兒童參與并惠及兒童

• 支持兒童有意義地參與AI政策和治理，以及設計、開發(fā)和部署過程。

• 在開發(fā)兒童將使用或?qū)ζ洚a(chǎn)生影響的AI產(chǎn)品時，采用包容性設計方法。

• 努力確保參與設計、開發(fā)、實施、研究、監(jiān)管和監(jiān)督兒童可能使用或受其影響的AI系統(tǒng)的人員多元化，包括收集和處理AI數(shù)據(jù)的人員。

9.為兒童應對AI的當前和未來發(fā)展做好準備并培養(yǎng)其技能

• 開發(fā)或更新正規(guī)和非正規(guī)的AI素養(yǎng)教育項目，并加強在AI時代（包括未來工作場所）取得成功所需的生活技能和技術技能。

• 對教師進行AI方面的培訓、裝備和支持，使他們成為教學的核心，而不是取代他們。

• 為教師、學校和教育部門提供指導，以有效地采購和部署AI并降低風險。

• 在適當且有證據(jù)支持的情況下，利用AI系統(tǒng)進行教育。

• 針對家長、監(jiān)護人和整個社會，開展并推廣AI相關的宣傳活動。

• 管理AI對未來工作的影響，以維護兒童權利。

10.為以兒童為中心的AI創(chuàng)造有利環(huán)境

• 支持基礎設施建設，以縮小數(shù)字鴻溝，力求公平分享AI帶來的益處。

• 投資、調(diào)動資源并制定激勵措施，以支持以兒童為中心的AI政策和項目。

• 支持在AI系統(tǒng)生命周期內(nèi)開展面向兒童和與兒童共同參與的AI研究。

• 為公共利益和維護兒童權利，開展數(shù)字合作。

• 在政府和商業(yè)實踐中，倡導多方利益相關者參與。

• 支持構建可互操作的AI、數(shù)據(jù)和數(shù)字治理體系，為世界各地的兒童提供平等的機會和保護。

跨領域考量

• 適應國家或地方實際情況。

• 運用前瞻性思維，更好地預測和管理AI。

• 為未來做好準備。

資料來源：

UNICEF. Guidance on AI and Children 3.0. https://www.unicef.org/innocenti/media/11991/file/UNICEF-Innocenti-Guidance-on-AI-and-Children-3-2025.pdf

[本文為教育部國別和區(qū)域研究基地中國教育科學研究院國際教育研究中心成果]

本文由中國教育科學研究院“教育國際前沿”課題組成員整理，課題組負責人張永軍，編輯劉強，內(nèi)容僅供參考。點擊左下角“閱讀原文”可下載該文獻。

本文為原創(chuàng)，轉(zhuǎn)載請注明。