警惕AI濫用帶偏青少年

關注“在線學習”

獲取更多資訊！

近日，用AI制作“流浪漢闖入家中”圖片來整蠱家人的帖子、視頻，在社交平臺走紅。有網友用AI制作流浪漢闖入家中吃早餐的視頻并發給爸爸，并將爸爸的反應發到網上，有40多萬人點贊，70多萬人轉發；一名12歲的小孩用AI制作流浪漢闖入家中的整蠱圖片，圖片流入業主群，嚇壞業主……

隨著AI相關應用技術的日益成熟和普及，其應用場景不斷拓寬，使用門檻也持續降低。然而，當這樣的技術進步成果被用于制作恐慌性整蠱內容，其性質顯然就偏離了科技向善的軌道。要知道，這些整蠱內容的效果越“逼真”，可能帶來的危害性就越大。比如，引發恐慌和誤判，導致報警，繼而浪費公共資源，甚至還可能擾亂公共秩序，造成不必要的社會緊張。更值得警惕的是，這類濫用行為還可能對青少年造成惡劣的示范，引發不良的模仿效應。事實上，已有一些青少年用這類工具來整蠱，這背后的風險不可不察。

隨著AI應用的普及，一些人的好奇心被打開，愿意積極嘗試，這本身無可厚非。但是，技術應用也得有邊界，在使用中守住倫理底線，不違背公序良俗和法律規范，這是起碼的要求。對此，一方面需要AI開發企業在產品設計之初就設置必要的安全提示與使用規范，對可能引發誤解、恐慌或侵權的生成內容進行風險標識，甚至對特定敏感場景進行技術限制。特別是針對青少年的使用，應該有相應的分類引導，防止讓他們在缺乏清晰認知的情況下誤用、濫用。

另一方面，也離不開社會大背景下的國民科技素養的培育。近日，教育部等七部門聯合印發的《關于加強中小學科技教育的意見》就指出，要在科技教育中融入人文元素，引導學生在科學實驗、項目探究等活動中，主動思考科技發展對社會、環境及倫理的深遠影響，增強社會責任感與人文底蘊。這一點在AI技術日益滲透日常生活的今天，無疑顯得愈發重要。

說到底，我們不僅需要培養青少年的創新意識和能力，也要從娃娃抓起培育善用技術的責任感。一定程度上說，“流浪漢闖入家中”這類利用AI技術來整蠱的現實案例，恰恰是開展科技倫理教育生動的反面教材。從家庭到學校、社區等都不妨積極利用好這類案例的教育價值，增強大眾尤其是青少年對科技應用濫用的風險認知，以及善用科技的自覺意識和責任感。

本文來源｜《中國教育報》2025年11月19日

聲明：轉載此文是出于傳遞更多信息之目的。若有來源標注錯誤或侵犯了您的合法權益，請作者持權屬證明與我們聯系，我們將及時更正、刪除，謝謝。