張文宏醫生拒絕把AI接入病歷系統：他真正擔心的是什么？

文 | 我們可能想錯了

1月10日，在香港高山書院十周年論壇上，張文宏醫生談到AI進入醫療系統時，先劃了一條清晰邊界：醫生個人可以使用AI輔助，但不允許把AI直接接入病歷系統。張文宏醫生的原話是：你可以自己在那里用，但是不允許在我的病歷系統里面用AI。他隨即解釋了自己的用法：會讓AI先把病例看一遍，但最終判斷要回到人的專業經驗上，因為資深醫生能很快識別AI的錯誤與盲點。

這段話值得認真聽，不是因為它“保守”，而是因為它點出了一個更普遍的變量：AI帶來的最大變化往往不是效率，而是訓練路徑。把爭議點從效率拉回到三個更硬的變量：訓練路徑、責任鏈條、錯誤被發現的機制。

張文宏醫生說了什么

2｜核心擔訓練被改

張文宏醫生擔心的核心是AI過早進入一線訓練路徑后，會不會改寫醫生的成長方式。資深醫生把AI當預審工具，前提是他具備糾錯能力：能看出哪里不對，能講清為什么不對，也能在關鍵時刻把結論重新拉回證據鏈。新人則相反：如果在基本功尚未完成時就把AI當作默認答案生成器，短期當然更快，長期卻可能出現一種更隱蔽的退化：做得出來，但說不清原因；對得上答案，但不理解邊界；一旦遇到“看起來像對”的錯誤，就缺乏識別能力。

這其實是一種非常典型的技術副作用：工具越強，人越容易跳過艱難但必要的內化過程。訓練路徑一旦被改寫，最終會回到系統層面的三個問題：邊界怎么劃、責任怎么落、錯誤如何被發現與追溯。張文宏醫生把話說得很克制，但指向的是同一件事：AI改變的往往不是某一次決策的效率，而是一代人的能力形成方式。

3｜社會議題界、與糾錯

把張文宏醫生的發言放到更大的社會議題里，它直指AI邊界與治理的核心：社會如何接受AI、如何防止過度使用、如何把風險管成可控。這里的關鍵不是道德口號，而是三件很工程化的事。

第一件事是邊界。哪些環節必須由人拍板，哪些環節AI只能做候選、提示、預審。醫療病歷系統不僅是記錄工具，更是責任鏈條的一部分：誰下結論、誰簽字、誰擔責，必須清晰可追溯。AI一旦被寫進“系統默認流程”，它就不再只是工具，而開始參與責任的分配方式。

第二件事是糾錯。高風險行業里，最危險的往往不是離譜錯誤，而是“看起來像對”的錯誤：結構完整、語氣篤定、路徑似乎合理。缺少復核、抽檢、回放與反例庫，錯誤會以很合理的姿態潛入流程，最后變成組織的系統性盲區。真正可靠的安全，不是靠資深個人兜底，而是靠系統能持續發現錯誤、定位錯誤、復盤錯誤。

第三件事是責任。AI成為默認環節后，責任最容易被稀釋：出錯時更容易歸因給“系統建議”或“模型偏差”，而不是回到最樸素的問題——這是誰的判斷，誰應該為它負責。張文宏醫生把AI擋在病歷系統之外，本質上是在守住責任的可追溯性：結論回到人，責任也回到人。

4｜三：守、治理、能力

圍繞AI如何被負責任地部署，行業里常見三種力量。它們并不互斥，更像三種關注重點：有人盯入口，有人盯閉環，有人盯速度。

第一種是守門：先守住高風險入口，再談規模化。以醫療為例，世界衛生組織在醫療AI治理相關文件中反復強調風險評估、人類監督、透明與責任等原則，核心邏輯就是高風險場景必須把安全與治理前置，而不是先接入、后補規則。

第二種是治理：把風險變成流程和指標。美國NIST的AI風險管理框架（AIRMF1.0）提供了一套更可落地的結構，把可信AI拆成治理、映射、度量、管理等環節，本質是在告訴組織：AI不是裝上去就算完，必須進入可審計、可持續的風控閉環。

第三種是能力：AI會重塑競爭格局，關鍵是盡快用起來。企業界最典型的表達是“要發展，也要管住”。例如路透社報道中，馬斯克提出需要某種AI“裁判/監管者”的觀點，一方面承認AI的競爭性與不可逆，另一方面強調必須建立規則來避免失控與濫用。

這三種立場的分歧，看起來在爭快與慢，本質在爭系統默認值：默認AI正確，還是默認AI只是候選。

5｜可控的前提：把風險寫進認值

AI能否被社會接受，最終取決于默認值怎么寫進系統。如果默認AI正確，人就更容易變成確認者，訓練會萎縮；如果默認AI是候選，人就必須推理、復核、解釋，訓練反而會增強。張文宏醫生的邊界，實際上是在推動后者：AI可以輔助，但不能替代訓練，更不能替代責任。要把這件事落地，行業層面至少要做到幾件硬動作：

一是角色清晰。AI在流程里到底做檢索整理、做候選生成、做提示預警，還是直接給結論。越靠近結論，越需要更強驗證與更嚴格的人類監督（醫療場景尤其如此）。

二是可發現、可回放。必須有復核、抽檢、回放、反例庫、升級機制，確保錯誤能被系統性發現，而不是靠個別資深人員“憑經驗兜底”。

三是責任閉環。誰啟用、誰審批上線、誰簽字、誰對輸出負責，必須可追溯、可問責；否則“倫理”會退化成口號。

四是監測的不只是模型，也包括人的能力變化。這個點常被忽略，但決定風險上限：復核率、糾錯率、獨立完成率、異常處置時長等，應該被當成和模型指標同等重要的治理指標。

可控前提：把風險寫進默認值

6學習怎么變：把AI用成訓練裝置

張文宏醫生提到的“先看一遍”，其實提供了一種可遷移的方法：AI是第一讀者，不是最終裁判。這背后有一個更一般性的規律，AI會顯著降低生成答案的成本，但不會自動生成判斷力。判斷力來自訓練，而訓練最怕的就是被跳過。

一項關于知識工作者的研究給了更硬的證據線索：使用生成式AI時，個體對AI越有信心，越可能減少批判性思考；而對自身能力更自信的人，反而更傾向于做批判性評估與整合。它與張文宏醫生的擔憂在結構上是同一個問題：答案更快出現，不等于判斷鏈更扎實。

把AI用成訓練裝置，一個可執行的路徑是：先自己完成推理鏈，再讓AI挑錯；再讓AI給出相互沖突的兩套路徑，由你來裁決并解釋；最后用AI做交叉質詢，追問依據、邊界條件和反例，讓自己始終站在“解釋與審查”的位置上。

7｜三個問題來辯

張文宏醫生的提醒，表面在談病歷系統，實質在問一個更大的社會問題：當工具越來越強，我們到底要把什么留給人，留給職業共同體，留給下一代的訓練體系。

也歡迎你把答案寫在評論區：在你所在行業里，AI最該進入哪一段流程，最不該進入哪一段流程？哪些能力一旦丟了，很難補回來？如果給新人立一條規矩，哪些任務必須先不用AI做一遍？