警惕Deepfake！國(guó)安部提示→

安平/“國(guó)家安全部”微信公號(hào)

初中教師小李自從使用AI備課后，能在五分鐘內(nèi)生成一份生動(dòng)有趣的教案，包括圖片、視頻和互動(dòng)問(wèn)答?！耙郧皞湔n要兩小時(shí)，現(xiàn)在可以省下更多時(shí)間關(guān)注學(xué)生個(gè)人情況，還能一對(duì)一定制專屬練習(xí)題?！?/p>

某獨(dú)居老人陳爺爺，通過(guò)子女贈(zèng)送的智能音箱，找到了新樂(lè)趣?！靶≈遣粌H能陪我聽(tīng)?wèi)?、聊天，還會(huì)在我忘記吃藥時(shí)主動(dòng)提醒，它居然還記住了我所有孫輩的生日?！?/p>

29歲的小王原本是文案策劃，因擅長(zhǎng)與AI“對(duì)話”，現(xiàn)已成功轉(zhuǎn)型為提示詞工程師?！瓣P(guān)鍵是要把指令說(shuō)得足夠清晰?！睆闹悄芸头紸I繪圖師，大模型正創(chuàng)造著一個(gè)個(gè)前所未見(jiàn)的新崗位。

當(dāng)前，AI大模型加速賦能千行百業(yè)，推動(dòng)人們生活日新月異，這位能干又貼心的“數(shù)字伙伴”正加速融入我們?nèi)粘Ｉ睢Ｈ欢恳淮渭夹g(shù)躍遷必然伴隨著新的挑戰(zhàn)，當(dāng)AI的觸角延伸越廣、嵌入越深，隨之而來(lái)也暴露出數(shù)據(jù)隱私、算法偏見(jiàn)等潛在風(fēng)險(xiǎn)，亟需我們構(gòu)筑安全防線，助推這場(chǎng)深刻的智能變革，安全賦能美好未來(lái)。

高速發(fā)展背后的“暗礁”

——數(shù)據(jù)隱私與安全邊界模糊。個(gè)別單位因直接使用開(kāi)源框架建立聯(lián)網(wǎng)大模型，導(dǎo)致攻擊者未經(jīng)授權(quán)即可自由訪問(wèn)內(nèi)部網(wǎng)絡(luò)，從而引發(fā)數(shù)據(jù)泄露和安全風(fēng)險(xiǎn)。據(jù)公開(kāi)案例顯示，某單位工作人員在處理內(nèi)部文件時(shí)，違規(guī)使用開(kāi)源AI工具，由于電腦系統(tǒng)默認(rèn)開(kāi)啟公網(wǎng)訪問(wèn)且未設(shè)密碼，導(dǎo)致敏感資料被境外IP非法訪問(wèn)和下載。

——技術(shù)濫用與虛假信息產(chǎn)生。利用AI的深度學(xué)習(xí)算法進(jìn)行自動(dòng)化的數(shù)據(jù)處理，實(shí)現(xiàn)圖片、音頻及視頻的智能模擬和偽造，這種技術(shù)被稱為深度偽造（Deepfake）。一旦該技術(shù)被濫用或惡意使用，將給個(gè)人合法權(quán)益、社會(huì)穩(wěn)定甚至國(guó)家安全帶來(lái)諸多風(fēng)險(xiǎn)和挑戰(zhàn)。國(guó)家安全機(jī)關(guān)工作發(fā)現(xiàn)，某境外反華敵對(duì)勢(shì)力通過(guò)深度偽造技術(shù)生成虛假視頻，并企圖向境內(nèi)傳播，以誤導(dǎo)輿論、制造恐慌，對(duì)我國(guó)家安全構(gòu)成威脅。

——算法偏見(jiàn)與決策“黑箱”。AI的判斷源于其所學(xué)習(xí)的資料，若訓(xùn)練數(shù)據(jù)本身存在社會(huì)偏見(jiàn)或代表性不足等問(wèn)題，大模型便可能放大歧視。測(cè)試顯示，某些AI會(huì)系統(tǒng)性偏向西方視角。當(dāng)研究人員用中英文向某同一個(gè)AI提問(wèn)歷史問(wèn)題時(shí)，發(fā)現(xiàn)英文回復(fù)會(huì)刻意回避、淡化某些史實(shí)，甚至?xí)o出包含錯(cuò)誤歷史信息的內(nèi)容，引發(fā)重大歧誤，而中文回復(fù)則相對(duì)客觀。

安全守則

給“數(shù)字伙伴”的三條守則

——守則一：劃定“活動(dòng)范圍”。做到“權(quán)限最小化”，聯(lián)網(wǎng)AI不處理涉密數(shù)據(jù)、語(yǔ)音AI不收集環(huán)境語(yǔ)音、智能助手不保存支付密碼，關(guān)閉“數(shù)據(jù)共享”“云空間”等不必要的訪問(wèn)權(quán)限。

——守則二：檢查“數(shù)字足跡”。養(yǎng)成定期清理AI聊天記錄、修改AI工具密碼、更新防病毒軟件、查看賬號(hào)登錄設(shè)備等習(xí)慣。同時(shí)避免隨意下載使用來(lái)源不明的大模型程序，對(duì)提供身份證、銀行賬戶或其他敏感信息的要求保持警惕。

——守則三：優(yōu)化“人機(jī)協(xié)作”。向AI提問(wèn)時(shí)，在提示詞中明確禁止AI過(guò)度推演，并要求AI顯示來(lái)源或思考過(guò)程，對(duì)重要信息進(jìn)行跨平臺(tái)驗(yàn)證，合理辨別AI生成結(jié)果，特別是涉及政治、歷史、意識(shí)形態(tài)等話題時(shí)，要具備獨(dú)立思考意識(shí)，辯證看待AI的回答，避免陷入“AI幻覺(jué)”。

國(guó)家安全機(jī)關(guān)提示

安全是發(fā)展的前提，發(fā)展是安全的保障。只有懂科技、安全使用科技，才能讓AI大模型這一新興科技成為推動(dòng)社會(huì)進(jìn)步的正能量。廣大用戶應(yīng)當(dāng)提高安全意識(shí)，審慎授權(quán)大模型軟件權(quán)限。如發(fā)現(xiàn)AI大模型存在竊取個(gè)人信息，向境外傳輸敏感數(shù)據(jù)等危害網(wǎng)絡(luò)安全的問(wèn)題線索，可通過(guò)12339國(guó)家安全機(jī)關(guān)舉報(bào)受理電話、網(wǎng)絡(luò)舉報(bào)平臺(tái)（www.12339.gov.cn）、國(guó)家安全部微信公眾號(hào)舉報(bào)受理渠道或者直接向當(dāng)?shù)貒?guó)家安全機(jī)關(guān)進(jìn)行舉報(bào)。

本 期資深 編 輯 周玉華