AI深度偽造的X光片以假亂真，僅41%醫(yī)生能主動識別

來源：科技日報

記者：張佳欣

美國西奈山伊坎醫(yī)學(xué)院一項最新研究發(fā)現(xiàn)，無論是放射科醫(yī)生還是多模態(tài)大語言模型（LLM），都難以輕易區(qū)分由人工智能（AI）生成的深度偽造X光影像與真實醫(yī)學(xué)影像。研究人員表示，這一發(fā)現(xiàn)凸顯了AI生成醫(yī)學(xué)影像可能帶來的醫(yī)療安全與網(wǎng)絡(luò)安全風(fēng)險。相關(guān)論文發(fā)表于最新一期《放射學(xué)》雜志。

圖片來源：pixabay

“深度偽造”是指看似真實但實際上由AI生成或篡改的視頻、照片、圖像或音頻。AI生成的X光片真實度極高，能以假亂真，可能被用于醫(yī)療欺詐，例如偽造骨折影像用于訴訟取證。如果黑客入侵醫(yī)院系統(tǒng)并植入合成醫(yī)學(xué)影像，還可能篡改診斷結(jié)果，甚至破壞電子病歷系統(tǒng)的可信度。

在這項回顧性研究中，來自美國、法國、德國、土耳其、英國和阿聯(lián)酋6個國家12家醫(yī)療中心的17名放射科醫(yī)生參與測試。研究共分析264張X光影像，分為兩組：第一組數(shù)據(jù)包含多個解剖部位的真實影像以及由ChatGPT生成的影像；第二組數(shù)據(jù)為胸部X光片，其中一半為真實影像，另一半由斯坦福醫(yī)學(xué)院研究人員開發(fā)的開源生成式AI擴散模型RoentGen生成。

結(jié)果顯示，在未被告知研究目的的情況下，僅有41%的醫(yī)生主動識別出AI生成圖像。在明確告知后，醫(yī)生區(qū)分真實與偽造影像的平均準確率為75%。

與此同時，GPT-4o（OpenAI）、GPT-5（OpenAI）、Gemini 2.5 Pro（谷歌）以及Llama 4 Maverick（Meta）四種多模態(tài)大模型也進行了識別測試，其準確率在57%—85%之間。即便是參與生成這些深度偽造影像的GPT-4o模型本身，也無法識別全部偽造影像。

研究人員總結(jié)稱，AI生成的醫(yī)學(xué)影像往往存在一些“過于完美”的特征，例如骨骼表面過于光滑、脊柱過直、肺部過度對稱、血管分布過于均勻，以及骨折斷面異常整齊等。

為降低風(fēng)險，研究團隊建議，應(yīng)在醫(yī)學(xué)影像中嵌入不可見數(shù)字水印、增加加密簽名等技術(shù)手段，以防止影像被篡改，同時加強醫(yī)學(xué)影像AI鑒別能力培訓(xùn)。