帶著民聲上兩會：醫療AI井噴 行業標準亟待建立

今年年初，被喻為海外“醫生版ChatGPT”的“OpenEvidence”估值超過百億，成為全球醫療AI領域標桿。國內外賽道上，跨國科技巨頭、藥企、創新企業紛紛入局。當各類醫療AI產品層出不窮，看似為就醫帶來便利的同時，有市政協委員提出質疑：對普通患者而言，什么樣的醫療AI值得信賴？它給出的建議會不會有“幻覺”、靠不靠譜？醫療事關生命健康，可目前 醫療AI產品 在倫理、應用安全等方面還存在灰色地帶。

上海市政協委員、復旦大學附屬口腔醫院院長蔣欣泉認為，醫療AI必須設置安全底線，患者信息要規范脫敏，用循證醫學數據訓練醫療AI，保證其提供的建議是安全的。此外，還要明確在醫療結構內，AI工具只是輔助作用，醫生才是主體責任人。

今年一月中旬，上海愛爾眼科醫院副院長李勇發了一條朋友圈，講述了自己的一位患者在白內障手術后擅自停了必須滴的眼藥水，導致視力下降、角膜輕微褶皺。而一問原因，竟然是聽信了AI的說法?；颊弑硎荆珹I說的“眼藥水有副作用”很在理。聽了這話，李醫生哭笑不得：“我問你為什么不相信醫生的話，而去相信AI？他說，AI是綜合了很多專家的意見，相信它是更權威的。我真的很無奈，只能和他說'求求你，這一次你先相信我’?！?/p>

李勇指出，所謂“眼藥水有副作用”是有前提條件的，比如長期使用含激素的眼藥水、或者患者本身有相關禁忌癥。而這名患者，在白內障手術后的2周左右康復期內使用抗炎和含激素眼藥水，符合臨床指南。擅自停用反而不利于傷口恢復。李勇認為，AI會去網上捕捉能看到的所有信息，但它不會去分辨患者提問的真正意圖以及個人情況。

這樣的案例并非個例。上海市政協委員、復旦大學附屬口腔醫院院長蔣欣泉告訴記者，有患者認為，AI生成的內容等同于治療方案，這是錯誤的。首先，社會公眾需要明確的是，當前企業開放給公眾使用的AI工具，也叫開源、通用型AI，其生成的內容是不能夠與醫院線下醫療時的臨床診斷和治療方案劃等號的。

上海市政協委員、復旦大學附屬口腔醫院院長蔣欣泉表示：“個別患者會誤將AI健康建議當成診斷意見。 例如，我遇到過一位患者因為口腔黏膜火辣辣的、舌根處長了包塊，于是用AI搜索自查，AI說有惡性腫瘤可能性，患者就非常焦慮和恐慌。當他帶著忐忑的心情來到醫院就診后才發現，患上的只是黏液性囊腫。我們口腔診斷依賴視診、觸診、叩診、牙周探查等方法，而當前通用型的AI健康助手往往是基于概率和文本匹配生成，缺乏醫學的嚴謹性和個體化考量?！?/p>

通用型AI的智能是文本游戲，通過全網爬取，組合文字信息 。而且它的知識往往停留在過去，跟不上最新的醫療發展。那么，有沒有懂醫學、會持續更新知識庫、能識別患者問題意圖的專科類醫學AI呢？

蔣欣泉委員介紹，其實上海有不少三甲醫院正在探索。比如，去年2月，復旦大學附屬中山醫院葛均波院士參與研發了國內首個深耕心血管專科的醫療大模型——觀心大模型（測試版）。去年4月，仁濟醫院發布了國內首個泌尿?？艫I助手。更知名的是，去年11月，在浦江醫學人工智能大會亮相的上海首個“胃腸多模態醫學AI”。當時，這款AI公開挑戰三甲醫生，結果在分析同一復雜病例后，胃腸多模態醫學AI與專家團隊的判斷和治療建議總體不相上下。也就是說，專門訓練的AI已經達到了和三甲醫院胃腸外科副主任醫師相當的水平。

那么，這款一戰成名的AI現在怎么樣了，能用于臨床看病了嗎？今年2月1日，記者走進了開發它的上海人工智能實驗室，看到這款醫學AI目前仍在不斷測試，持續進化。

“醫學數據團隊的老師會把醫院的病例數據進行規整化和質檢質控，使病例數據更加符合臨床的診療規范和真實情況?！鄙虾Ｈ斯ぶ悄軐嶒炇裔t療與測評中心青年研究員張容肇，是該項目的技術負責人。他介紹，所謂“多模態”，就是這款AI既能讀懂病例，也會分析胃腸鏡報告、CT影像等等。與開源AI不同，?？艫I了解患者病情，需要的語料是真正意義上的臨床病例?！翱梢钥吹轿覀兘o到模型的有性別、年齡、主訴以及現病史、既往史、婚育史、家族史等等。這一塊其實就對應到醫生常說的'一訴五史'，也就是一個標準的結構化病例的一些必要字段?！?/p>

而要教AI讀懂胃腸鏡報告，幾百份患者檢查報告“投喂”的背后，其實是大量的人工標注、數據對齊以及人工審核、修訂工作。質檢過程有三審制度，就是為了保證AI學習的影像報告是完全真實和準確的?！暗谌壻|檢至少是三甲醫院副主任醫師水平的專家來做。通過了三級審查，才能保證給AI學習的數據不會有噪聲?！?/p>

這款“胃腸多模態醫學AI”是由上海人工智能實驗與上海九院聯合研發，開發初心并不是為了取代醫生，也不是為了讓患者自己拿來看病，而是要幫助基層醫生提高診療能力，輔助醫生更好地梳理患者復雜的病史資料。上海人工智能實驗室醫療和測評中心負責人徐捷表示：“即使未來，?？祁愥t學AI的能力能與主任醫師比肩，但業內共識是，在醫療這個嚴肅場景下，醫學AI也只是工具作為醫生輔助，而不是去替代醫生?！?/p>

在蔣欣泉委員所在的復旦大學附屬口腔醫院，AI技術已經融入了教學。通過“AI+虛擬仿真”，年輕醫生可以在虛擬環境中進行高仿真度的臨床操作訓練，加速成長。此外，醫院也已經啟動了國內首個口腔修復領域的垂類醫學AI研發 , 順利的話預計將在今年內向藥監部門遞交第三類醫療器械注冊證申請。

蔣欣泉委員表示，最好的AI醫療產品，一定是從臨床需求中“長”出來的，而不是在實驗室里“造”出來的。此外，當前對于生成式人工智能模型在醫院的落地到底應該怎么做，目前也尚未明確。包括數據安全、倫理規范、內容安全、模型安全等在內，都有待更細化的行業指導方案出臺，為整個醫療AI行業健康發展保駕護航。

上海市政協委員、復旦大學附屬口腔醫院院長蔣欣泉：“從醫院管理者的角度我想呼吁，第一，深入臨床解決真問題。最好的AI醫療產品一定是從臨床需求中挖掘出來的，而不是在實驗室里被造出來的。我呼吁AI企業、工程師們能更深入地走進醫院，與一線醫生緊密合作，真正理解臨床的痛點、難點和工作流程，開發出真正好用、管用、醫生愛用的工具。另外，AI醫療是一個復雜的系統工程，希望共同努力推動高質量醫療數據集的開放共享，建立行業統一的技術標準和倫理規范，構建一個開放、協作、規范、共贏的創新生態。確保AI浪潮真正地、可持續地造福于每一位患者，助力健康中國、健康上海的建設?！?/p>

看看新聞記者: 周文韻

編輯: 周文韻

責編: 李吟濤