邁向“十五五” | 破除算法偏見(jiàn) 促進(jìn)教育公平

黨的十八大以來(lái)，以習(xí)近平同志為核心的黨中央高度重視我國(guó)人工智能教育發(fā)展。習(xí)近平總書(shū)記強(qiáng)調(diào)，要“推進(jìn)人工智能全學(xué)段教育和全社會(huì)通識(shí)教育，源源不斷培養(yǎng)高素質(zhì)人才”。黨的二十屆四中全會(huì)審議通過(guò)的《中共中央關(guān)于制定國(guó)民經(jīng)濟(jì)和社會(huì)發(fā)展第十五個(gè)五年規(guī)劃的建議》提出，要“深入實(shí)施教育數(shù)字化戰(zhàn)略，優(yōu)化終身學(xué)習(xí)公共服務(wù)”。“十四五”時(shí)期，我國(guó)積極開(kāi)展教育數(shù)字化戰(zhàn)略行動(dòng)，數(shù)智化教學(xué)、智能化學(xué)習(xí)平臺(tái)不斷涌現(xiàn)，為教育模式的轉(zhuǎn)變賦予了新的動(dòng)力。然而，由于技術(shù)接入難題、算法訓(xùn)練局限、算法不透明等因素，智能教育中的算法偏見(jiàn)成為影響教育公平的原因之一。當(dāng)前，算法偏見(jiàn)在一定程度上影響了公民平等受教育權(quán)的實(shí)現(xiàn)，因此亟須破除算法偏見(jiàn)壁壘，有效促進(jìn)教育公平。

依托數(shù)據(jù)分析與算法推薦等數(shù)字技術(shù)，人工智能可以為學(xué)生定制學(xué)習(xí)計(jì)劃，推送個(gè)性化教育資源，形成普惠教育的新樣態(tài)。然而，目前仍有部分無(wú)法負(fù)擔(dān)智能設(shè)備與網(wǎng)絡(luò)服務(wù)的學(xué)生被隔離在智能教育資源之外，并且企業(yè)的數(shù)據(jù)采集多偏向信息化程度高的地區(qū)，導(dǎo)致算法訓(xùn)練數(shù)據(jù)偏差，形成強(qiáng)者愈強(qiáng)的“馬太效應(yīng)”。此外，城鄉(xiāng)和區(qū)域間教育機(jī)構(gòu)的數(shù)字化基礎(chǔ)也存在明顯差距，鄉(xiāng)村學(xué)校在設(shè)備更新、平臺(tái)運(yùn)維、師資培訓(xùn)等方面往往相對(duì)滯后，也進(jìn)一步加劇了智能教育資源分配的不均衡。

算法偏見(jiàn)引發(fā)的教育公平問(wèn)題，是技術(shù)異化在教育領(lǐng)域的集中表現(xiàn)。一方面，數(shù)據(jù)采集、加工、應(yīng)用的過(guò)程，實(shí)際上是數(shù)字權(quán)力運(yùn)作的過(guò)程。在教育領(lǐng)域的數(shù)據(jù)獲取和訓(xùn)練環(huán)節(jié)，數(shù)據(jù)樣本缺失或采集不全，容易導(dǎo)致算法無(wú)法真實(shí)反映學(xué)生學(xué)習(xí)特點(diǎn)與需求，形成算法偏見(jiàn)。數(shù)據(jù)偏差與算法自主學(xué)習(xí)融合，使得算法偏見(jiàn)被反復(fù)強(qiáng)化，對(duì)部分學(xué)生產(chǎn)生不利影響。它將社會(huì)群體差異、文化偏見(jiàn)等因素耦合，轉(zhuǎn)化為看似公平的技術(shù)信息，實(shí)則以數(shù)據(jù)技術(shù)的名義掩蓋了教育資源的分配不均。另一方面，算法設(shè)計(jì)者的主觀價(jià)值介入也會(huì)加劇算法偏見(jiàn)。算法設(shè)計(jì)中難免摻雜個(gè)人偏見(jiàn)或誤解。基于個(gè)人主觀偏見(jiàn)的算法設(shè)計(jì)，會(huì)在數(shù)據(jù)采集、處理與分析環(huán)節(jié)影響數(shù)據(jù)模型的精準(zhǔn)性。然而，教師在使用智能教育系統(tǒng)時(shí)難以察覺(jué)算法設(shè)計(jì)偏見(jiàn)，缺乏有效的溝通反饋機(jī)制，導(dǎo)致算法設(shè)計(jì)中的錯(cuò)誤無(wú)法及時(shí)被糾正。

積極推動(dòng)人工智能和教育深度融合，需要多層面協(xié)同推進(jìn)。中共中央、國(guó)務(wù)院印發(fā)的《教育強(qiáng)國(guó)建設(shè)規(guī)劃綱要（2024—2035年）》強(qiáng)調(diào)了教育數(shù)字化轉(zhuǎn)型的重要性和緊迫性，以及強(qiáng)化數(shù)據(jù)安全、人工智能算法和倫理安全的必要性。在技術(shù)層面，應(yīng)建立公開(kāi)、透明、可審計(jì)的教育算法開(kāi)發(fā)規(guī)范，提倡“倫理先行”原則，通過(guò)多源數(shù)據(jù)融合、聯(lián)邦機(jī)器學(xué)習(xí)等技術(shù)手段確保數(shù)據(jù)采集的代表性和多樣性。在行政層面，應(yīng)將數(shù)字教育設(shè)施建設(shè)納入公共服務(wù)范疇，通過(guò)設(shè)備支持、網(wǎng)絡(luò)補(bǔ)助等精準(zhǔn)幫扶措施，切實(shí)降低技術(shù)使用門檻。同時(shí)，應(yīng)健全教育算法的審查與監(jiān)管機(jī)制，設(shè)立專業(yè)機(jī)構(gòu)開(kāi)展算法公平性評(píng)估，完善反饋與糾偏程序。在法律層面，應(yīng)建立健全對(duì)算法偏見(jiàn)的法律規(guī)制。目前，《中華人民共和國(guó)個(gè)人信息保護(hù)法》等法律法規(guī)已對(duì)數(shù)據(jù)公正性、準(zhǔn)確性提出了原則性要求，但尚無(wú)專門針對(duì)智能教育算法偏見(jiàn)的法律規(guī)制。因此，我國(guó)應(yīng)進(jìn)一步出臺(tái)或完善智能教育的相關(guān)法律法規(guī)，確保教育算法的公正性、準(zhǔn)確性。同時(shí)，建立問(wèn)責(zé)機(jī)制，對(duì)造成算法偏見(jiàn)的行為依法問(wèn)責(zé)。在文化層面，應(yīng)大力推廣全民數(shù)字素養(yǎng)教育，將數(shù)字技能培養(yǎng)納入中小學(xué)基礎(chǔ)課程體系，開(kāi)展面向教師、家長(zhǎng)和社區(qū)的數(shù)字應(yīng)用培訓(xùn)，提升全社會(huì)對(duì)智能技術(shù)的認(rèn)知能力和使用水平。

人工智能與教育的深度融合，既是一場(chǎng)技術(shù)革命，更是一次教育治理和制度創(chuàng)新的深刻變革。我們應(yīng)堅(jiān)持“育人為本、技術(shù)為用”的原則，確保技術(shù)應(yīng)用服務(wù)于育人本質(zhì)。通過(guò)建立健全多方參與、協(xié)同共治的治理體系，逐步破除算法偏見(jiàn)壁壘，打造更加包容、更有質(zhì)量的智能教育新生態(tài)，大力促進(jìn)教育公平，為加快建設(shè)教育強(qiáng)國(guó)提供堅(jiān)實(shí)支撐。

（作者系南京信息工程大學(xué)法學(xué)與公共管理學(xué)院講師；河海大學(xué)法學(xué)院教授）