上海
當(dāng)算法越來越懂你的喜好，當(dāng)AI能秒解難題，當(dāng)虛擬與現(xiàn)實(shí)邊界日漸模糊，我們是否思考過：AI技術(shù)究竟在將我們帶向何方？
文|朱 葛
聯(lián)想諾諦（北京）智能科技有限公司業(yè)務(wù)總監(jiān)，《科學(xué)畫報(bào)》編委會(huì)人工智能專委會(huì)常務(wù)委員。
01.
AI究竟在做什么
人工智能（AI）可以被理解為一個(gè)能夠自我學(xué)習(xí)的工具。它需要攝入海量的數(shù)據(jù)作為“素材”（如圖片、文字、聲音），并從中尋找相似的規(guī)律，再按規(guī)律給出結(jié)果去解決問題。例如，相冊(cè)能自動(dòng)分辨人臉，照相機(jī)會(huì)自動(dòng)美化照片，作業(yè)軟件會(huì)提示錯(cuò)因，導(dǎo)航軟件能估算到達(dá)時(shí)間，翻譯軟件能把外語換成母語，視頻平臺(tái)會(huì)推送用戶可能感興趣的內(nèi)容……它的基本原理遵循“數(shù)據(jù)—模型—結(jié)果”的基本邏輯：系統(tǒng)通過輸入數(shù)據(jù)來訓(xùn)練構(gòu)建預(yù)測(cè)模型，再將該模型運(yùn)用于新場(chǎng)景去輸出最終的結(jié)果。這一機(jī)制使其在圖像識(shí)別、路徑規(guī)劃、語言翻譯及內(nèi)容推薦等領(lǐng)域展現(xiàn)出強(qiáng)大能力。
然而，這種強(qiáng)大的能力伴隨內(nèi)在風(fēng)險(xiǎn)。由于AI的認(rèn)知完全源于其所攝入的數(shù)據(jù)，若這些數(shù)據(jù)本身就存在一些缺陷，算法便會(huì)將這些缺陷系統(tǒng)性地復(fù)制并放大，這就是AI技術(shù)內(nèi)在的雙刃劍特性。在AI技術(shù)飛速進(jìn)步的當(dāng)下，我們的生活會(huì)因此“變?cè)恪眴幔课覀冇衷撊绾螒?yīng)對(duì)？
02.
最容易“變?cè)恪钡娜?/strong>
在AI快速滲透日常的今天，人們最常感受到的“變?cè)恪憋L(fēng)險(xiǎn)往往集中在3個(gè)層面，即信息失真、深度學(xué)習(xí)能力退化、自身注意力被分散。這些現(xiàn)象并非憑空出現(xiàn)，而是因?yàn)锳I在帶來方便的同時(shí)，也會(huì)把錯(cuò)誤、偏見與誘惑一并放大。如果缺少辨別、思考和自我管理，這些小問題便可能逐漸積累，最終演變?yōu)檎嬲睦_。
首先，在信息層面，AI技術(shù)模糊了真實(shí)與虛構(gòu)的邊界。AI生成的圖像、音頻和新聞之所以具有迷惑性，是因?yàn)槠渌惴茏詣?dòng)“補(bǔ)全”細(xì)節(jié)并“抹平”不協(xié)調(diào)之處，使偽造內(nèi)容在視覺或聽覺上顯得順理成章。要想不被其誤導(dǎo)，我們需要建立“多重求證”的習(xí)慣：同一條消息至少找兩個(gè)獨(dú)立來源進(jìn)行求證，看清發(fā)布時(shí)間、發(fā)布者和是否有權(quán)威機(jī)構(gòu)背書。同時(shí)，我們可以從“偵探視角”審視內(nèi)容細(xì)節(jié)，如影子方向、反光與倒影是否一致、手指數(shù)量是否正常、文字標(biāo)識(shí)有無變形。此外，對(duì)明確標(biāo)注“由AI生成”的內(nèi)容應(yīng)保持高度警覺，盡量遏制虛假信息的傳播。
其次，在學(xué)習(xí)層面，AI工具誤用可能導(dǎo)致深度學(xué)習(xí)能力的退化。有人把寫作文、做題當(dāng)成“索取標(biāo)準(zhǔn)答案”的過程，雖能短期內(nèi)提升效率，卻繞過了知識(shí)內(nèi)化所必需的“回憶—表達(dá)—糾錯(cuò)”認(rèn)知路徑，導(dǎo)致知識(shí)難以轉(zhuǎn)化為長(zhǎng)期記憶。為此，我們倡導(dǎo)“三步學(xué)習(xí)法”：先獨(dú)立思考并寫出草稿，再借助工具查缺補(bǔ)漏并對(duì)比多種思路，最后親自復(fù)核并用自己的語言重述答案。同時(shí)，應(yīng)明確人機(jī)協(xié)作的邊界，將AI工具用于資料搜集、提綱擬定，而核心解題思路與最終答案應(yīng)由本人完成，并在作業(yè)中完整呈現(xiàn)思考與修訂的痕跡，使思維過程可見、可評(píng)。
最后，在注意力層面，個(gè)性化推薦機(jī)制可能損害專注能力。個(gè)性化推薦如同一條永不停歇的傳送帶，系統(tǒng)如果追求“停留時(shí)間”，就會(huì)不斷推送同質(zhì)化的內(nèi)容，讓大腦頻繁獲得即時(shí)獎(jiǎng)勵(lì)，卻逐漸喪失專注能力。長(zhǎng)此以往，不僅課堂專注度下降、睡眠質(zhì)量受影響，情緒調(diào)控也會(huì)更為困難。我們可以通過“時(shí)間與場(chǎng)景公約”來對(duì)沖這一趨勢(shì)。例如：餐桌上不看屏，睡前30分鐘停止看手機(jī)，臥室不放置電子設(shè)備；處理重要任務(wù)時(shí)開啟“勿擾模式”，并結(jié)合“番茄工作法”訓(xùn)練專注力；在需要時(shí)，可啟用青少年模式，借助系統(tǒng)功能合理設(shè)置使用時(shí)長(zhǎng)、啟用夜間護(hù)眼與內(nèi)容分級(jí)，輔助實(shí)現(xiàn)自律。
03.
為什么會(huì)“變?cè)恪?/strong>
之所以會(huì)“變?cè)恪保瑥募夹g(shù)本質(zhì)看是因?yàn)锳I缺乏價(jià)值判斷的能力。AI被賦予了強(qiáng)大的“放大”能力，卻未被賦予相應(yīng)的價(jià)值判斷力。它忠實(shí)地執(zhí)行數(shù)據(jù)中的規(guī)律，無論這些規(guī)律是真理還是偏見。目前，AI技術(shù)的迅猛發(fā)展與相應(yīng)社會(huì)規(guī)范的建設(shè)滯后形成了巨大落差。例如，使用說明寫得含糊、年齡分級(jí)不夠詳細(xì)、標(biāo)注“AI合成/生成”的位置不明顯、真假識(shí)別與信息素養(yǎng)教育跟不上等，讓錯(cuò)誤信息、沖動(dòng)轉(zhuǎn)發(fā)和過度使用有了可乘之機(jī)。
更深層的原因在于核心目標(biāo)偏離了正軌。許多系統(tǒng)被設(shè)定去追求“停留時(shí)間”和“點(diǎn)擊量”，好比訓(xùn)練寵物只盯零食而不顧營(yíng)養(yǎng)。為了讓人多看一會(huì)兒，系統(tǒng)會(huì)源源不斷地推送更相似的內(nèi)容，即便代價(jià)是犧牲信息的真實(shí)性、觀點(diǎn)的多元性與用戶的心智健康。因此，化解“變?cè)恪憋L(fēng)險(xiǎn)的核心在于實(shí)現(xiàn)“價(jià)值對(duì)齊”——將AI系統(tǒng)的設(shè)計(jì)目標(biāo)與運(yùn)行規(guī)則重新校準(zhǔn)到與人類社會(huì)的長(zhǎng)遠(yuǎn)福祉相一致的方向上。
04.
把“更糟”扭轉(zhuǎn)為“更好”的三把鑰匙
要化解AI帶來的風(fēng)險(xiǎn)，將“更糟”扭轉(zhuǎn)為“更好”，不能依賴單一措施，而需要一個(gè)由個(gè)人與家庭、學(xué)校與教師、平臺(tái)與社會(huì)構(gòu)成的協(xié)同治理體系。這三者如同三把鑰匙，必須合力使用，才能同時(shí)鎖定“便利”與“安全”。
第一把鑰匙是個(gè)人與家庭。面對(duì)AI，我們首先要成為學(xué)習(xí)的主人，堅(jiān)持“三步學(xué)習(xí)法”。在行為習(xí)慣上，建立“時(shí)間與場(chǎng)景公約”，以保護(hù)專注力與身心健康。在數(shù)據(jù)安全上，需秉持最小化原則，謹(jǐn)慎上傳人臉、住址等敏感的生物與位置信息，對(duì)那些聳人聽聞的消息，則要養(yǎng)成多查證的習(xí)慣，不做謠言傳播的節(jié)點(diǎn)。
第二把鑰匙是學(xué)校與教師。在教學(xué)規(guī)范方面，應(yīng)正式將“人機(jī)協(xié)作”納入教學(xué)流程，明確允許學(xué)生利用AI工具輔助構(gòu)思，但必須同步提交完整的思考過程草稿、多方案對(duì)比及最終的訂正反思，從而使學(xué)習(xí)過程可見、可評(píng)估。在能力構(gòu)建方面，則需要開設(shè)系統(tǒng)的信息素養(yǎng)課程，講清真假識(shí)別、引用標(biāo)注與版權(quán)邊界，讓“會(huì)用、敢用、善用”成為基本能力。
第三把鑰匙是平臺(tái)與社會(huì)。平臺(tái)方需要清晰標(biāo)識(shí)AI合成內(nèi)容，完善兒童模式與限時(shí)機(jī)制，優(yōu)化推薦算法，從單純追求用戶“停留時(shí)間”轉(zhuǎn)向促進(jìn)內(nèi)容的多樣性、真實(shí)性與公益性。全社會(huì)亦需共同努力，將“安全、真實(shí)、公平、健康”凝練為主流價(jià)值，并將其作為衡量技術(shù)發(fā)展的核心標(biāo)尺。
三把鑰匙合力使用，便利得以保留，誘惑被有效降低，“更糟”就能一步步轉(zhuǎn)成“更好”。
*本文刊登于《科學(xué)畫報(bào)》2025年第12期人工智能專欄，更多相關(guān)內(nèi)容歡迎訂閱。
訂購2026年《科學(xué)畫報(bào)》
特別聲明：以上內(nèi)容(如有圖片或視頻亦包括在內(nèi))為自媒體平臺(tái)“網(wǎng)易號(hào)”用戶上傳并發(fā)布，本平臺(tái)僅提供信息存儲(chǔ)服務(wù)。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
