把AI套上籠頭，絕不能讓其成為脫韁之馬

青鋒
民盟上海市委副主委、上海市靜安區副區長龍婉麗在全國兩會期間建議，“制定教育場景生成式AI使用負面清單和推薦清單，強調杜絕‘代勞式’使用，并按學段、學科、任務類型細化”，同時還建議，“要把學術誠信教育前置到義務教育階段，把‘引用規范、事實核驗、來源標注、AI輸出可疑點識別’納入課堂常規訓練”。
青鋒認為，龍婉麗的建議很好，而且，恰到其時。
在此之前，有人曾發表看法認為，未來學生可以不用學習數學，靠AI就能完成日常計算任務。青鋒當時曾為之一驚，如此觀點，豈不是在當下科技迅速發展大背景下，讓學習無用論死灰復燃？不論是對下一代，還是對一個國家的發展，都將貽害無窮。
青鋒注意到，龍婉麗在提出前述建議時，指出了人工智能尤其是生成式大模型會給教育帶來負面影響，諸如未成年人數據與隱私保護存在風險，和生成式AI“代勞化”趨勢日漸明顯。即“不少一線教師與家長表示孩子越來越會‘出答案’，卻越來越不愿‘走過程’。也就是說，孩子們利用AI根本不用通過自己思考完成作業，只需通過AI就能生成準確答案。因為，讓不少教師擔憂，學生一旦將“能力外包”養成習慣，就“會在不自知中失去耐心、推理力與判斷力，甚至影響到學習品質與學術誠信”。
龍婉麗認為，人工智能，尤其是生成式大模型還可能給教育帶來的負面影響，“是模型輸出的不確定性，可能導致教育的不穩定性”。她認為，“生成式AI構建學生畫像時，易因數據片面、算法偏見產生價值偏差和錯誤引導”。同時，還將形成的負面影響是，“缺少教育可用的可信基礎設施與治理閉環”。也即“學校既難統一數據安全與合規要求，也難形成可復用的教學范式與評價機制，更難壓實平臺與供應商責任”。
青鋒認為，龍婉麗的擔憂不無道理，而且，AI給人們帶來的負面影響，不僅僅在教育行業，在其他行業的負面影響也日趨出現。如通過人工大模型，很容易搜集到人們的各種信息，甚至是隱私。因而，全國政協委員熊水龍建議，修訂居民身份證法及相關法規，取消在居民身份證實體卡片上印刷“住址”信息，進一步保護人們的隱私，有其一定道理。
青鋒還認為，如果放任人們使用AI撰寫公文，或者放任利用AI創作，不僅會讓公文有可能千篇一律，還有可能引發信息泄露，而放任利用AI創作，更有可能讓抄襲成風，能夠給人帶來心靈震顫，或者能夠引發人們深入思考的作品，將很可能再難出現。
因此，一定要采取措施，制定法律法規，給AI套上籠頭，絕不能讓其成為脫韁之馬，到時候再做所謂的深刻反思，就將悔之晚矣。