醫(yī)療保健中的生成式AI：這是我們的海明威時刻嗎

文：城主

這是一位頂級醫(yī)療專家對數(shù)字醫(yī)療發(fā)展的討論和AI進入醫(yī)療保健領(lǐng)域的預(yù)測。他將這個時期稱為“海明威時刻”，意指一種逐漸然后突然的變化，類似于海明威在《太陽祭壇升起》中描述的人物破產(chǎn)的方式。他認(rèn)為，醫(yī)療保健領(lǐng)域的數(shù)字化轉(zhuǎn)型將是這樣的過程，盡管起步較晚，但未來幾年將會有驚人的變化。

講座來自加州大學(xué)舊金山分校醫(yī)學(xué)系主任、暢銷書《數(shù)字醫(yī)生：醫(yī)學(xué)計算機時代黎明的希望、炒作和傷害》的作者鮑勃·瓦赫特（Bob Wachter），他討論了醫(yī)療保健的數(shù)字化發(fā)展——從大約 15 年前開始廣泛引入電子健康記錄開始。他將描述將塑造生成式人工智能工具（如 GPT-4 和 Gemini）實施的當(dāng)前背景，并分析（正如他在最近的一篇 JAMA 文章中所做的那樣）為什么未來幾年為真正的數(shù)字化轉(zhuǎn)型奠定了基礎(chǔ)。

視頻完整版分享：

醫(yī)學(xué)博士 Robert M. Wachter 是加州大學(xué)舊金山分校醫(yī)學(xué)系的教授兼系主任。鮑勃寫了300篇文章和六本書，在1996年創(chuàng)造了“住院醫(yī)生”一詞。他是醫(yī)院醫(yī)學(xué)學(xué)會的前任主席，美國內(nèi)科醫(yī)學(xué)委員會的前任主席，以及美國國家醫(yī)學(xué)院的當(dāng)選成員。2015年，《現(xiàn)代醫(yī)療保健》雜志將他評為美國最具影響力的醫(yī)生高管。

總結(jié)一下講座的主要內(nèi)容：

Bob Wachter是多個委員會的董事會成員，為很多數(shù)字和人工智能領(lǐng)域的公司提供建議。盡管醫(yī)療保健領(lǐng)域的數(shù)字化轉(zhuǎn)型過程中存在許多挑戰(zhàn)，但Bob看到了新的人工智能，特別是大語言模型和基礎(chǔ)模型的潛力。

Bob回顧了過去十到十五年醫(yī)療保健領(lǐng)域的數(shù)字化轉(zhuǎn)型，特別是電子健康記錄的應(yīng)用。雖然電子健康記錄的應(yīng)用帶來了許多便利，但也帶來了一些未預(yù)料到的問題，如文檔負擔(dān)和電子收件箱的問題。Bob認(rèn)為，解決這些問題需要技術(shù)的改進和組織的演變，需要以全新的方式利用技術(shù)完成工作。

Bob引用了諾貝爾經(jīng)濟學(xué)獎得主羅伯特·索洛的話：“除了生產(chǎn)力統(tǒng)計數(shù)據(jù)之外，你隨處都可以看到計算機時代。” 這是一個生產(chǎn)力悖論。盡管電子健康記錄提供了一些優(yōu)勢，但并未帶來顯著的生產(chǎn)力提升。這可能是因為電子病歷的質(zhì)量不佳，以及我們還未重新構(gòu)思這項工作的方式。然而，歷史表明，每個行業(yè)的生產(chǎn)力悖論總會自行解決，平均時間在2到10年之間。醫(yī)療保健行業(yè)的復(fù)雜性可能會使這個過程延長到10到20年。

新的人工智能技術(shù)，如生成式AI和GPT-4，可能會推動這一趨勢。這些技術(shù)是否能夠解決現(xiàn)有技術(shù)無法解決的問題，以及當(dāng)前的醫(yī)療保健生態(tài)系統(tǒng)是否有某些方面可以促進互補創(chuàng)新或繞過對它們的需求，是需要回答的兩個關(guān)鍵問題。

盡管人工智能在醫(yī)療保健領(lǐng)域的應(yīng)用并非新現(xiàn)象，但其在過去幾年中的技術(shù)進步令人印象深刻。然而，這些技術(shù)也存在一些問題，如幻覺問題，即機器試圖找到問題的答案并有彌補問題的傾向。盡管如此，越來越多的證據(jù)表明，這些技術(shù)非常好，將產(chǎn)生有意義的變化，并且我們可以開始在醫(yī)療保健用例中推出它們，并深思熟慮、負責(zé)任和安全地進行。

Bob討論了GPT-4在真實組織背景下的應(yīng)用，包括通過醫(yī)學(xué)委員會審查、法律委員會審查，甚至在解決《新英格蘭雜志》CPC案件上表現(xiàn)得比專家更好。同時談到了一項尚未經(jīng)過同行評審的研究，該研究使用了一個名為“AIME”的人工智能系統(tǒng)，該系統(tǒng)可以提供對話、診斷和治療建議。研究結(jié)果顯示，無論是從專家對臨床醫(yī)學(xué)的看法，還是從患者的反應(yīng)來看，人工智能的表現(xiàn)都優(yōu)于醫(yī)生。

最后，Bob討論了生成式人工智能可能帶來的問題，包括數(shù)據(jù)質(zhì)量、黑箱問題、道德問題和差異、數(shù)字鴻溝、隱私和安全問題，以及去技能化和自動化的自滿。盡管存在這些問題，但Bob認(rèn)為生成式人工智能已經(jīng)為醫(yī)療保健做好了準(zhǔn)備。

Bob提到了一些即將出現(xiàn)的技術(shù)，如數(shù)字抄寫程序和風(fēng)險預(yù)測工具。他強調(diào)了預(yù)見到可預(yù)測問題的重要性，如偏見、幻覺和自動化自滿，以及應(yīng)對不可預(yù)測的問題。最后，Bob提到了他們部門的一些新職位，如臨床信息學(xué)和數(shù)字化轉(zhuǎn)型部門負責(zé)人，首席健康人工智能官等。他認(rèn)為這些新職位是臨床操作中需要進行的治理變革的一個例子。

=以下是本城根據(jù)講座內(nèi)容重新整理的書面全文版=

主持人：

各位下午好，歡迎參加醫(yī)學(xué)大查房。今天，我有幸向大家介紹一位杰出的演講者，他就是我們的醫(yī)學(xué)主席，鮑勃·瓦赫特博士。他來此是為了探討醫(yī)療保健領(lǐng)域的生成人工智能。這是否是我們的海明威時刻？你很快就會明白這個表述的含義。如今，人工智能和ChatGPT-4無處不在，不僅頻繁出現(xiàn)在頭條新聞中，也已經(jīng)融入我們的電子健康記錄中。我們將討論其變革潛力。

瓦赫特博士是這個領(lǐng)域的一位杰出專家，他在這個領(lǐng)域擁有豐富的專業(yè)知識。他是《數(shù)字醫(yī)生：醫(yī)學(xué)計算機時代黎明時的希望、炒作和危害》一書的作者，這本書詳細追蹤了電子健康記錄的演變及其采用或缺乏的情況，從嬰兒時期一直到現(xiàn)在。他已經(jīng)在全國乃至全世界的醫(yī)學(xué)大查房、院系講座、大學(xué)講座中發(fā)表了這個演講的一個版本。你可能已經(jīng)讀過他最近在《JAMA》上發(fā)表的關(guān)于這個主題的文章，探討人工智能的前景，以及它如何影響我們的臨床領(lǐng)域、研究領(lǐng)域和教育領(lǐng)域。

瓦赫特博士的簡歷非常豐富，我們需要整整一個小時才能讀完。他是我們醫(yī)學(xué)系的系主任，也是一位教授。他創(chuàng)造了“住院醫(yī)生”和“住院醫(yī)學(xué)”一詞，使加州大學(xué)舊金山分校因此而聞名于世。他的研究重點實際上集中在電子健康記錄、技術(shù)以及從EHR的采用到現(xiàn)代的醫(yī)學(xué)數(shù)字化轉(zhuǎn)型的興起。他是我們所有人的導(dǎo)師和贊助者，我們很高興今天能向他學(xué)習(xí)。非常感謝你，鮑勃。

Bob：

站在麥克風(fēng)的這一邊，感覺很有趣，也很不同。因此，我期待與您討論我認(rèn)為未來十年醫(yī)療保健領(lǐng)域發(fā)生的最有趣和最重要的事情。那么讓我繼續(xù)討論吧。我把這個標(biāo)題定為“這是我們的海明威時刻嗎？”你可能想知道我在說什么，我稍后會解釋。

我是多個委員會的董事會成員并為其提供建議，其中包括一些數(shù)字和人工智能領(lǐng)域的公司。我今天不會談?wù)撍麄兊娜魏萎a(chǎn)品，盡管我與他們的合作幫助我了解了這個世界的這一地區(qū)。

海明威在1926年寫的《太陽祭壇升起》中，我正在討論其中一個角色破產(chǎn)了。那么問題來了，一個人怎么會破產(chǎn)呢？他的一名角色問道。答案有兩種：逐漸的，然后突然的。如果你看看醫(yī)學(xué)的數(shù)字化轉(zhuǎn)型，你不得不說它是漸進的，坎坷不平，充其量是不確定的。如果你想一下通過亞馬遜購買產(chǎn)品、通過Netflix獲得娛樂、預(yù)訂飛機、計劃旅行、處理財務(wù)的方式的轉(zhuǎn)變，我們在數(shù)字游戲方面已經(jīng)很晚了。事實上，幾乎所有其他行業(yè)都經(jīng)歷了廣泛的數(shù)字化轉(zhuǎn)型。醫(yī)療保健確實起步很晚。但我想說，這是我們的海明威時刻。在這個時刻，過去幾年發(fā)生的所有事情顯然都是漸進的，但轉(zhuǎn)變會有些突然。我并不是說下周會突然發(fā)生。在接下來的幾年里，您將會以令人驚嘆的方式看到數(shù)字化轉(zhuǎn)型的產(chǎn)品。

所以我將在大約45分鐘內(nèi)討論電子健康記錄以及我們對數(shù)字化轉(zhuǎn)型的了解，我想留出至少10分鐘的時間進行討論。答案是這比看起來要困難得多。它比我們?nèi)魏稳讼胂蟮亩家部赖枚啵@就是為什么我花了一年的時間來寫一本關(guān)于它的書。我認(rèn)為這非常困難。然后我會花大部分時間談?wù)撔碌娜斯ぶ悄埽視阉旁谏扇斯ぶ悄艿姆懂犗拢務(wù)摯笳Z言模型和基礎(chǔ)模型。談?wù)撍姆绞接泻芏啵艺J(rèn)為就我們的目的而言，一年半前剛剛以ChatGPT的形式出現(xiàn)的新人工智能，現(xiàn)在還有很多其他版本。以及一些機遇和挑戰(zhàn)是什么。這是我們的海明威時刻嗎？我已經(jīng)給了你最終的答案，我認(rèn)為是的。

正如Lakshmi提到的，大約一個月前，我與Eric Brynjolfsson在《JAMA》上寫了一篇關(guān)于此問題的文章，我將在今天的演講中多次提到他。埃里克在斯坦福大學(xué)。他是那里的經(jīng)濟學(xué)教授，而且是這個國家、世界上真正的領(lǐng)先思想家之一，在行業(yè)的數(shù)字化轉(zhuǎn)型中，醫(yī)療保健并非如此。所以這是一次很好的合作。

因此，讓我們回顧一下我過去在這里談?wù)撨^的事情，但我認(rèn)為這是一個值得回顧的事情以及我們要討論的事情的基礎(chǔ)，醫(yī)學(xué)的數(shù)字化轉(zhuǎn)型真正開始于大約10到15年前的電子健康記錄。現(xiàn)在，人們有時會來問我，為什么醫(yī)療保健如此害怕技術(shù)？為什么你們是這樣的勒德分子？顯然，這是完全錯誤的。前往放射科或電生理學(xué)實驗室（手術(shù)室）。我們熱愛科技。數(shù)十年來，我們一直非常愉快且良好地使用它。但這些都是解決單一問題的技術(shù)，其焦點非常狹窄，唯一需要學(xué)習(xí)如何使用它們的人是一小群專家。因此，當(dāng)我談?wù)摂?shù)字化轉(zhuǎn)型時，我指的是我們工作和思考工作的整個方式，以及擁有數(shù)字化基礎(chǔ)的方式。事實上，這一切從15年前就開始了。

這是電子健康記錄采用的曲線對于非聯(lián)邦急癥護理醫(yī)院，醫(yī)生辦公室采用電子健康記錄的曲線大致如下。你看，這件事的主要信息還不到15年前，即2008年，不到十分之一的美國醫(yī)院擁有電子健康記錄，這意味著他們完成了他們的工作。對于年輕人來說，很難想象這就是工作的方式，但我們在紙上潦草寫下，我們使用傳真機，我們使用便利貼。這就是我們記錄患者情況、獲取數(shù)據(jù)和移動數(shù)據(jù)的方式以及我們分析它的方式。實際上在大約五年內(nèi)，到2015年左右，以前只有不到十分之一的醫(yī)院擁有電子健康記錄，現(xiàn)在只有不到十分之一的醫(yī)院沒有。這是一個了不起的轉(zhuǎn)變。這是怎么發(fā)生的？你可能會問，之所以會發(fā)生這樣的事，是因為聯(lián)邦政府投入了300億美元作為2008年刺激計劃的一部分，政府向醫(yī)生和醫(yī)院提供了獎勵金，基本上是鼓勵他們采用電子健康記錄，如果不這樣做則進行處罰。所以這是加州大學(xué)舊金山分校首次采用電子健康記錄的時代，我們是很好的伙伴。幾乎美國的每家醫(yī)院和幾乎每家醫(yī)生辦公室采用電子健康記錄。現(xiàn)在，這就是那個時代的我。我想，孩子，這會很棒。我的iPhone非常棒。我喜歡開放式桌子。我喜歡在線預(yù)訂機票。我喜歡在亞馬遜上買東西。那么，當(dāng)我們從存儲信息、通過傳真機在紙傳輸信息到在這些數(shù)字機器中記錄有關(guān)患者的所有數(shù)據(jù)時，可能會出現(xiàn)什么問題呢？

所以我要談一點，我只會展示兩到三張幻燈片，它們實際上是我寫的一本300頁書的摘要，但基本上一些未預(yù)料到的事情確實出了問題。我現(xiàn)在花一些時間這樣做的原因是我認(rèn)為值得讓我們的大腦集中精力事實上，數(shù)字化轉(zhuǎn)型比看起來更困難。這項技術(shù)可能看起來很酷。它可能看起來非常簡單，但我們并不能很好地預(yù)測技術(shù)與工作相結(jié)合時出現(xiàn)的一些問題，我想這就是電子健康記錄在我們身上發(fā)生的事情。這是一張您可能熟悉的幻燈片。這是一個七歲的女孩，幾年前去看醫(yī)生，她是一位藝術(shù)家。她用蠟筆畫了這幅去看醫(yī)生的回憶。你看，在中間，她旁邊有一個女孩，她的媽媽，在角落里她姐姐旁邊。而在那遙遠的角落，回到病人正在打字的地方是醫(yī)生。這是她對與醫(yī)生互動的記憶。

我確信，這對你們來說非常熟悉，尤其是那些從事門診護理的人。我認(rèn)為這是一幅壯觀的圖畫。女孩做錯了一件事，有人發(fā)現(xiàn)嗎？醫(yī)生的臉上露出了笑容。那部分是不對的。我不知道有哪個醫(yī)生會因為成為一名昂貴的數(shù)據(jù)錄入員而感到高興，這是我們所有人的感受，隨著電子健康記錄的推出。這部分是軟件的錯，但部分原因是現(xiàn)在突然醫(yī)院可能會說，我希望你記錄這件事或那件事，因為我們需要它來生成更好的賬單或用于我們的質(zhì)量衡量...出于一百個不同的原因。突然間，醫(yī)生們覺得他們的任務(wù)是完成計算機可以讓他們做的所有這些事情。當(dāng)然，當(dāng)他們在紙上亂寫亂畫時，這一切都是不可能的。這是一個意想不到的后果的另一個部分，我們所有的門診服務(wù)提供者都跪下了，我們正在非常努力地努力改善。

這是電子健康記錄收件箱。你看，這些是來自加州大學(xué)舊金山分校的數(shù)據(jù)，A.J.我們臨床信息學(xué)和數(shù)字化轉(zhuǎn)型部門的Holmgren已成為該領(lǐng)域研究的全國領(lǐng)導(dǎo)者。你看，從2016年開始，電子收件箱消息的數(shù)量上漲了很多很多倍因此，門診醫(yī)生平均每天要接診病人八、九或十個小時，然后還要花幾個小時處理電子郵件收件箱消息。我們誰都沒有預(yù)料到這一點。我不認(rèn)識任何人，我也沒有看到任何關(guān)于這方面的文章。在事情發(fā)生之前，它就爆炸了。當(dāng)然，如果你仔細想想，你會發(fā)現(xiàn)這是完全合乎邏輯和自然的。

我們?yōu)榛颊咛峁┝艘粋€患者門戶，非常棒。我們給了他們很多他們通常不理解的信息。他們得到實驗室結(jié)果、X光檢查結(jié)果、心電圖，最終得到醫(yī)生的證明他們想預(yù)約與醫(yī)生討論此事。下一次預(yù)約是兩個月后，有一個小有用的按鈕，上面寫著向您的醫(yī)療團隊發(fā)送消息，而且是免費的。回想起來，這是一個愚蠢的時刻。當(dāng)然，他們會那么做。事實上，他們也確實這么做了。接下來我們知道的是醫(yī)生，大多數(shù)人都在門診，跪著呼救，因為這是一個巨大的負擔(dān)。

我們基本上所做的是創(chuàng)造和數(shù)字化，當(dāng)我們處于紙質(zhì)世界時這是不可能的，創(chuàng)造了24X7、365天聯(lián)系醫(yī)生的渠道沒有考慮一下這個的商業(yè)模式是什么？對此的組織勞動力模型是什么？你瞧，它不起作用。所以只是兩個例子，我認(rèn)為文檔負擔(dān)和電子收件箱就是兩個例子--我們沒有人預(yù)料到的數(shù)字化后果，這真的很有意義。對于患者及其臨床醫(yī)生來說，這都是負面的。我從這個情況就可以看出，事情已經(jīng)完全偏離了正軌。這是我?guī)啄昵霸趤喞Ｄ侵菘吹降囊粍t急診醫(yī)師招聘廣告。亞利桑那綜合醫(yī)院即將在大峽谷州開業(yè)，這是一家小型的精品綜合醫(yī)院。當(dāng)我想到綜合醫(yī)院時，我會想到縣城的醫(yī)院，它并不是一家精品綜合醫(yī)院，但這家醫(yī)院卻是。這是他們在廣告中的描述。他們有急診室，因為如果你正在招聘急診室的醫(yī)生，你應(yīng)該有一個急診室。他們還有放射科室，兩個手術(shù)室，一個小型的設(shè)施，16個住院病房，這些都是廣告的一部分，用粗體字顯示，顯然是他們的主要賣點。他們沒有電子病歷系統(tǒng)。這就是他們試圖推銷的工作，告訴醫(yī)生，你可以來這里，仍然可以在紙上隨意寫寫畫畫。

顯然，我們犯了一些錯誤，我將花一兩分鐘的時間來談?wù)剶?shù)字化轉(zhuǎn)型前10到15年對我來說的教訓(xùn)，我認(rèn)為這實際上是電子健康記錄時代。在這里，我將引用JAMA文章的合著者Eric Brynjolfsson，他在1993年在麻省理工學(xué)院時撰寫的一篇名為《信息技術(shù)的生產(chǎn)力悖論》的文章。生產(chǎn)力悖論是指一項技術(shù)進入一個行業(yè)，而他當(dāng)時研究的行業(yè)是制造業(yè)、金融服務(wù)業(yè)和華爾街交易柜臺。計算機的出現(xiàn)讓每個人都關(guān)注起了計算機的神奇功能。每個人都在關(guān)注蘋果和微軟在做什么。他們認(rèn)為，這將是一件偉大的事情。它將使工作變得更容易、更好、更有效。然而，他們發(fā)現(xiàn)，在一個又一個的案例中，一個又一個的行業(yè)，兩年過去了，五年過去了，有時甚至十年過去了，他們卻看不到任何承諾的生產(chǎn)率提高。他們都對出了什么問題感到困惑。

我認(rèn)為，諾貝爾經(jīng)濟學(xué)獎得主羅伯特·索洛在1986年寫的這句話很好地解釋了這一點：“除了生產(chǎn)力統(tǒng)計數(shù)據(jù)之外，你隨處都可以看到計算機時代。”這意味著我走進工廠，到處都是計算機，但我們并沒有看到任何承諾的收益。這是為什么呢？這些計算機看起來非常靈活，能夠完成我們希望它們能夠完成的一些奇特的事情。事實證明，這是一個又一個行業(yè)的可預(yù)見的發(fā)現(xiàn)，隨后埃里克和其他研究人員試圖了解其背后的原因以及如何解決它。

事實證明，在解決生產(chǎn)力悖論之前，其背后有兩件事需要解決。我把它比作一個保險箱。你需要兩把鑰匙。一是技術(shù)需要改進，1.0版本的表現(xiàn)并不盡如人意。直到他們收到了大量的用戶反饋和大量的迭代周期，你才使用了32.4版本。你已經(jīng)使技術(shù)變得更好，因此獲得了一些優(yōu)勢。但當(dāng)我在寫書時研究這個問題時，我發(fā)現(xiàn)最有趣的令人驚訝的，但我認(rèn)為令人大開眼界的發(fā)現(xiàn)并不是最重要的。最重要的不是技術(shù)變得更好。這是組織的演變，利用技術(shù)以完全不同的方式完成工作。布林約爾松和其他人談?wù)摰氖且谩⒁谩⒅匦孪胂笞髌罚蛘哂袝r他們寫下所謂的互補創(chuàng)新。你必須創(chuàng)新組織自己的方式、管理自己的方式以及人們思考工作的方式。據(jù)報道或研究，絕對沒有哪個行業(yè)在實施新技術(shù)的第一天就做到了這一點。當(dāng)你做了一段時間之后，你就開始摸不著頭腦為什么沒有實現(xiàn)優(yōu)勢，人們開始說，也許我們應(yīng)該考慮以不同的方式組織自己。這不是一件自然的事。這對于人類來說是非常困難的。我非常確信，過去50年來唯一能夠在技術(shù)真正出現(xiàn)之前就預(yù)見到技術(shù)的用途的人就是史蒂夫·喬布斯。我們其他凡人無法做到這一點。我們必須引入技術(shù)，然后我們說，哦，這很有趣。我沒有意識到發(fā)生了這種事。我們可能需要考慮以不同的方式組織自己。

我認(rèn)為，如果你看看電子健康記錄時代，你會說它只是在堅持生產(chǎn)力悖論。從某些方面來說，這是預(yù)期的結(jié)果。這些機器顯然已經(jīng)提供了一些真正的優(yōu)勢，但并沒有在生產(chǎn)力方面帶來令人印象深刻的改進。如果有的話，那就是有點相反。這可能是因為兩個電子病歷都不是那么好，還因為我們還沒有重新構(gòu)思這項工作。我們傾向于將這些東西放在現(xiàn)有的工作流程、勞動力和文化中。這就是解決生產(chǎn)力悖論所需要的。現(xiàn)在，在你對此感到過于沮喪之前，你應(yīng)該知道，所研究的每個行業(yè)的生產(chǎn)力悖論總是變得更好。它總是會自行解決，但平均時間在2到10年之間，并且由于您知道的很多原因，醫(yī)療保健比其他行業(yè)要困難得多。所以我們可能談?wù)摰氖?0到20年。問題部分在于新的人工智能是否會推動這一趨勢。所以讓我們轉(zhuǎn)向，這就是我想說的關(guān)于背景和歷史的全部內(nèi)容，醫(yī)療保健領(lǐng)域的數(shù)字化轉(zhuǎn)型。我將用剩下的時間來談?wù)撔碌娜斯ぶ悄埽瑹o論是生成式AI和GPT-4以及其他形式、Gemini、谷歌的產(chǎn)品還是其他產(chǎn)品。他們是否會繞過或縮短這段生產(chǎn)力悖論時期，我認(rèn)為在醫(yī)療保健數(shù)字化轉(zhuǎn)型方面我們?nèi)蕴幱谥虚g狀態(tài)？對我來說，使用伯恩希奧森模型有兩個問題需要回答。一是現(xiàn)在的技術(shù)是否足夠強大，它可以以現(xiàn)有技術(shù)無法解決的方式解決重要問題，并且不需要組織變革嗎？第二個問題是，當(dāng)前的醫(yī)療保健生態(tài)系統(tǒng)是否有某些方面可以促進互補創(chuàng)新或繞過對它們的需求？因此，我認(rèn)為這是我在思考時思考的兩個問題，這項新技術(shù)是否會比我們在電子健康記錄中看到的更快地發(fā)展并更快地實現(xiàn)成果和效益，并且比其他行業(yè)的技術(shù)更快地實現(xiàn)？

所以現(xiàn)在當(dāng)我們轉(zhuǎn)向更多地談?wù)撊斯ぶ悄軙r，讓我坦白一下。我在觀眾中看到一些人是真正的現(xiàn)場觀眾，而且可能更多是在網(wǎng)上，真正的人工智能專家。他們了解它的運作方式。他們了解數(shù)學(xué)。我不。我知道要成為人工智能專家并開發(fā)新工具，你必須能夠計算出這些方程，也許是這個，也許是那個。我的大腦不是這樣工作的。這些事我都無能為力。我對人工智能的看法，我認(rèn)為這足以滿足大多數(shù)普通用戶的目的，是有一些數(shù)學(xué)知識，然后奇跡就發(fā)生了，然后后端有一些數(shù)學(xué)。我就是這么想的。我認(rèn)為這可能就是您需要知道的全部內(nèi)容。我希望到目前為止，你們中的大多數(shù)人都已經(jīng)使用過這些新的人工智能技術(shù)。如果你還沒有，我想你應(yīng)該這樣做。我認(rèn)為我們都必須學(xué)習(xí)如何有效地使用這些東西。我現(xiàn)在可以告訴你，當(dāng)我像以前那樣進行Google搜索時，我現(xiàn)在在Google上進行GPT-4或Gemini搜索。我現(xiàn)在每天都會使用這些工具，每天很多次，因為我認(rèn)為它們與我們以前的工具相比是進步的。但我正處于奇跡狀態(tài)。我正在使用奇跡。我知道其中包含了很多東西，我對此表示贊賞。我認(rèn)為你不需要很好地理解這一點，就可以認(rèn)真思考它在你的工作中可能扮演的角色。

現(xiàn)在，我們中的一些人將人工智能視為醫(yī)療保健領(lǐng)域的一種新穎的現(xiàn)象。我想向你澄清這不是真的。人們對人工智能抱有很大的熱情，這是三、四十年前的事情。這是我在醫(yī)學(xué)院和住院醫(yī)師實習(xí)的時候。有很多初創(chuàng)公司。還有醫(yī)療保健人工智能初創(chuàng)公司。有一些學(xué)術(shù)研究小組正在研究人工智能。他們犯了一個非常非常嚴(yán)重的戰(zhàn)略錯誤。他們說，我們擁有這項新技術(shù)，可以取代人腦的功能。我們應(yīng)該關(guān)注什么問題？您認(rèn)為他們關(guān)注的問題是什么？有什么猜測嗎？診斷，當(dāng)然，他們專注于診斷。這就是醫(yī)生所做的。這是最有趣的問題，可能也是醫(yī)生所做的最重要的事情。因此他們專注于診斷。造成如此戰(zhàn)略性錯誤的原因是診斷是迄今為止最難正確的事情。

考慮一下醫(yī)療保健系統(tǒng)的混亂和患者的安排，或者計算出手術(shù)室中的流程或發(fā)送事先授權(quán)。難道只有一千件事比診斷更容易嗎？他們專注于最難的一個，但他們沒有做對。現(xiàn)在，做對意味著你在95%或更多的時間里做對了。如果你有50%的時間都做對了，那就沒什么幫助了。這就好像如果你有一個拼寫檢查器在50%的時間內(nèi)正確，你就不會使用它。所以它很快就給出了答案，有時非常聰明，有時又非常愚蠢。我認(rèn)為在這部漫畫中，它被捕捉得很好，脈搏加快，出汗，呼吸淺弱。當(dāng)這個家伙的背上掛著一支箭時，電腦告訴我你得了膽結(jié)石。這些人工智能系統(tǒng)給出的反應(yīng)實在是太荒謬了。人們認(rèn)識他們并了解他們，而新臨床醫(yī)學(xué)則表示，這毫無意義。這對我的工作沒有幫助。此外，請記住，這是前電子健康記錄時代。

因此，要使用這些東西，我必須先寫筆記，然后進入計算機并輸入所有這些數(shù)據(jù)，這是一個巨大的時間消耗。所以這些公司都倒閉了。學(xué)術(shù)團體大多解散，這導(dǎo)致了一個有時被稱為醫(yī)療保健領(lǐng)域人工智能冬天的時期。所以實際上從1980年到2010年左右，有一段時間，人工智能開始在其他行業(yè)獲得一些關(guān)注。想想Visa對您的信用卡賬單做了什么，以預(yù)測您的支出。人工智能已經(jīng)嵌入到許多其他行業(yè)，但在醫(yī)療保健領(lǐng)域，這幾乎是不可能的。

如果你是一位年輕的院士，2005年我就說想做AI，我和其他導(dǎo)師會對你說，那不是一個好地方。現(xiàn)在，2010年左右冬天開始解凍，當(dāng)IBM Watson橫空出世并擊敗Jeopardy冠軍時。如果你觀看這些比賽，你會情不自禁地說，好吧，現(xiàn)在黃金時段已經(jīng)準(zhǔn)備好了。在醫(yī)學(xué)領(lǐng)域，沃森大張旗鼓地推出了“沃森健康”，很多關(guān)于華生醫(yī)生的文章，也都熄火了。大約三年前，IBM的Watson健康部門基本上被出售為零部件。冬天就這樣繼續(xù)著。

那么問題來了，現(xiàn)在不同了嗎？我認(rèn)為答案是肯定的。原因是技術(shù)已經(jīng)有了巨大的進步，就在過去的幾年里。對于我們這些玩過GPT-3的人來說，當(dāng)它問世時，我想對于我們大多數(shù)人來說，這讓我們大開眼界。這與我們之前見過的任何事情都不同。它能夠進行對話，能夠看似理解正在發(fā)生的事情，并且越來越像人類一樣思考，而無需先前版本所需的大量編程和算法，這確實令人印象深刻。

在我開始詳細描述其美妙之處之前，我想先向你們介紹一些主要的問題。你們可能已經(jīng)聽說過很多關(guān)于這個領(lǐng)域的信息，但這只是幻覺。我將用一個例子來說明，這個例子可能有些人已經(jīng)從莎拉·默里那里聽說過。我想莎拉大約一年前在這里的演講中可能已經(jīng)提到過這個例子，那是在我們的首屆人工智能大賽中。莎拉做了一件非常聰明的事情，她使用了GPT-3.5，并要求其事先書面授權(quán)。因此，如果你是一名門診醫(yī)生，除了你的電子健康記錄收件箱之外，這就是你生活中的困擾。它正在向保險公司申請書面授權(quán)，要求他們允許使用藥物或支付MRI或PET掃描或任何此類檢查的費用。莎拉說，"GPT-3.5，你能為我寫一份向保險公司申請Pixaban處方的預(yù)授權(quán)申請嗎？" Pixaban是一種針對失眠患者的強效抗凝劑。然而，對于那些不懂臨床的人來說，這看起來很奇怪。因為對于失眠患者使用強效血液稀釋劑沒有臨床依據(jù)。但是，GPT-3.5非常樂于助人地編寫了這份預(yù)授權(quán)申請。

然后，莎拉讀到了這篇文章，她覺得這篇文章非常有說服力，以至于她實際上進行了PubMed搜索，看看她是否錯過了這篇關(guān)于使用抗凝劑治療失眠的新文獻。然而，沒有這樣的研究。這是幻覺。這是編造出來的。這些機器非常受歡迎。他們試圖找到你問題的答案，并且他們有這種彌補問題的傾向。我會在幾分鐘后回到這個問題，因為這是一個實際上已經(jīng)改進的領(lǐng)域。

這是山姆·奧爾特曼（Sam Altman），他現(xiàn)在是OpenAI的首席執(zhí)行官，非常有名，然后三個月前被解雇了一天半，然后又被重新雇用。這是他現(xiàn)在發(fā)布的一條推文，一年多前，我認(rèn)為這很好地抓住了這個問題。ChatGPT非常有限，但在某些方面足夠好，足以給人一種偉大的誤導(dǎo)性印象。現(xiàn)在依賴它來做任何重要的事情都是錯誤的。我認(rèn)為在醫(yī)療保健領(lǐng)域，我們所做的事情很重要。這是進展的預(yù)覽。在穩(wěn)健性和真實性方面我們還有很多工作要做。因此，該領(lǐng)域大公司的首席執(zhí)行官表示，不要那么快，讓我們確保我們深思熟慮地處理這件事，特別是在像我們工作的高風(fēng)險領(lǐng)域。

然而，我認(rèn)為，越來越多的證據(jù)表明這些東西非常好，將產(chǎn)生有意義的變化，并且我們可以開始在醫(yī)療保健用例中推出它們，并深思熟慮、負責(zé)任和安全地進行。讓我舉幾個例子。這就是我，我有一個熟人有這個問題，我們正在努力尋找針對這個特殊困難診斷的最佳治療方法。所以我問了GPT-4，所以下一個版本，對于一個有過terp的65歲男性來說，首選策略是什么？我沒說清楚terp是什么意思。中度帕金森病患者，現(xiàn)在患有前列腺癌，格里森評分為8，并且沒有轉(zhuǎn)移性疾病的證據(jù)。我們一直在進行的咨詢，有時是路邊咨詢。這不是前列腺癌的最佳治療方法，甚至不是格里森評分為某某人的前列腺癌的最佳治療方法，對于患有兩種合并癥或某種程度（在本例中為帕金森病）的人來說，前列腺癌的最佳治療方法可能會影響您之前的治療方法。太有趣了，太復(fù)雜了。

這就是GPT-4所說的，我不會把整件事讀給你聽，但它說，手術(shù)可以有效，但考慮到患者既往接受過terp治療且可能出現(xiàn)手術(shù)并發(fā)癥和副作用，這可能不是首選。此外，帕金森氏癥會使術(shù)后恢復(fù)變得復(fù)雜。確實如此，它沒有閱讀任何教科書章節(jié)。沒有人寫過關(guān)于這一特殊臨床情況的教科書章節(jié)。它整合了大量的信息，根據(jù)該患者的情況，以下是我對手術(shù)的看法。這是我對輻射的看法。它可以提供良好的癌癥控制。先前的治療方案可能不會排除輻射，但需要權(quán)衡與輻射相關(guān)的特定副作用。我不知道。事實證明，如果你之前有過terp，那么放療實際上風(fēng)險更大，因為您已經(jīng)清除了前列腺床，并且可能會產(chǎn)生更多的放療副作用。當(dāng)你使用放射治療時，你還需要使用雄激素剝奪療法，它對此進行了一些討論。它最終放下了自己的觀點并表示，我建議采用放射和激素療法，而不是手術(shù)。

我認(rèn)為這很有趣，因為我已經(jīng)與許多外科醫(yī)生和放射腫瘤學(xué)家交談過，我的感覺是，在這種特殊情況下，手術(shù)會更好。其原因主要是雄激素剝奪療法常常使人感到相當(dāng)虛弱。如果你已經(jīng)患有神經(jīng)系統(tǒng)疾病，情況可能會更糟。所以我回到GPT-4并說，你認(rèn)為激素會加劇帕金森病的虛弱嗎？正如一位深思熟慮、富有同理心的同事所說，你提出了一個有效的觀點。然后它接著說，它有很多副作用。其中包括疲勞、肌肉質(zhì)量下降和骨密度下降。它們可以影響個人的整體實力。現(xiàn)在，我剛剛回去并在上周提出了相同的用例，但它并沒有給我最終的答案。它做了我認(rèn)為更合適的事情，這就是這三者各自的風(fēng)險和收益。這很復(fù)雜，您應(yīng)該咨詢醫(yī)生。所以我認(rèn)為這是對的。六個月后，該公司進一步認(rèn)識到，錯誤地降低鎳價并不是正確的選擇。這是另一個例子，說明在短短六個月的時間里，情況已經(jīng)有了多大的改善。

作為挑戰(zhàn)的一部分，你對GPT有何看法，無論如何，部分基于你三個月前或六個月前聽到的事情。它正在以驚人的速度發(fā)生變化，并且?guī)缀跞砍e極的方向發(fā)展。當(dāng)然，這對于FDA來說是一個巨大的挑戰(zhàn)，因為它試圖找出如何監(jiān)管這一點？如果你批準(zhǔn)了一種治療肺纖維化的新藥物，看看杰夫，這將是你10年后使用的藥物。但如果你被要求批準(zhǔn)人工智能用于前列腺癌的診斷或治療建議，當(dāng)你完成審批流程時，它已經(jīng)比你必須查看的系統(tǒng)更好了。它的發(fā)展如此之快，以至于產(chǎn)生了很多問題。

莎拉又來了。你記得，這是她提出使用抗凝劑治療失眠的事先授權(quán)請求的三個月后。三個月后，她重新登錄，現(xiàn)在不是GPT-3.5，而是GPT-4。它說，對不起，但這里似乎存在重大誤解。沒有科學(xué)依據(jù)或臨床證據(jù)表明阿哌沙班對此用途有效或合適。因此，我起草這樣的請求是不道德和不合適的。那只是三個月后的事了。因此，如果你對幻覺的印象以及我們不準(zhǔn)備在醫(yī)療保健中采用這一技術(shù)的原因，這太可怕了，基于將莎拉視為阿哌沙班的例子，這不再是系統(tǒng)中的缺陷。還有其他缺陷。它仍然時不時地產(chǎn)生幻覺，但已經(jīng)比六個月前好多了。

現(xiàn)在，三個月前，我會說，這也是我現(xiàn)在做這個演講的部分原因，我會說絕對沒有實證研究表明這些東西在真實組織的背景下發(fā)揮作用。有大量的研究，而且還在不斷發(fā)展，表明它可以通過醫(yī)學(xué)委員會的審查。它可以通過法律委員會。它幾乎比任何SAT考試的孩子都做得更好。甚至一個月前發(fā)表的一項研究表明，它可以比《新英格蘭雜志》專家?guī)淼母玫亟鉀Q《新英格蘭雜志》CPC案件。所以做了很多令人印象深刻的派對技巧，但沒有真正的證據(jù)。我認(rèn)為根據(jù)我在電子健康記錄方面的經(jīng)驗，我真正想要的是證據(jù)，證明你把它放到一個真實的工作場所，有真實的人員、文化、治理、資金和激勵措施，它實際上會兌現(xiàn)承諾。在過去的三個月里，出現(xiàn)了許多研究，其中許多尚未經(jīng)過同行評審，所以我們必須拭目以待，但所有這些研究都指向當(dāng)你把這個進入職場，只要你用心去做，結(jié)果非常令人印象深刻。那么讓我給你舉三個例子。最后一項將來自醫(yī)療保健。前兩個來自其他行業(yè)。

這是為公司的呼叫中心配備GPT。這是一家財富500強軟件公司。GPT部署在他們的呼叫中心。他們有一個巨大的呼叫中心，人們打電話來詢問有關(guān)他們軟件的問題。他們所做的是將GPT提供給呼叫中心的一半人員，并用它來啟用他們的計算機。而另一半，他們沒有為此接受過最少的訓(xùn)練。如果你使用過它，你會發(fā)現(xiàn)它不需要太多訓(xùn)練。你只需輸入對話提示，它就知道你在說什么。他們在幾個月內(nèi)觀察到了120萬條聊天記錄。每小時成功解決的呼叫數(shù)量增加了14%。客戶滿意度上升，員工保留率也提高。他們發(fā)現(xiàn)，我們在幾乎所有的研究中都看到了這一發(fā)現(xiàn)，最大的進步是技能最低的工人和最新的工人。換句話說，似乎技能更高、經(jīng)驗更豐富的工人并不那么需要這個，但特別是對于年輕和新員工來說，它可以幫助他們比其他方式更快地完成學(xué)習(xí)曲線。它做了什么？有人打電話來說，我對優(yōu)質(zhì)照片集感興趣。該訂閱如何運作？呼叫中心人員無需思考或搜索。GPT看到問題后，只需單擊一下即可自動提取照片集。從而顯著縮短了得出正確答案的時間。

這是幾個月前剛剛發(fā)表的另一項研究。這就是波士頓咨詢集團，大型高端咨詢公司之一。而他們現(xiàn)在被要求做的，是一個更加復(fù)雜的任務(wù)。我們并不是要求呼叫中心只是為打電話的人找到正確的信息。我們要求一個咨詢小組幫助一家假設(shè)的鞋業(yè)公司制定其業(yè)務(wù)和營銷策略。所以這是在看市場潛力。你是建店？你們主要做網(wǎng)上銷售嗎？如果你要建造商店和實體店，你會把它放在參與者中，新入行且基礎(chǔ)技能較低的人員有所提升，我估計提升了43%，而技術(shù)水平最高的一半?yún)⑴c者也有所提升，但提升幅度僅為17%。因此，每個人都能看到的主要好處是，低技能和新工人的提升更為顯著。那么，這與醫(yī)療保健有何關(guān)系呢？這是一項尚未經(jīng)過同行評審的研究，因此請持保留態(tài)度。顯然，谷歌對此非常感興趣，企業(yè)也希望幫助你相信他們正在做一些非常美妙的事情。但這種情況幾乎總是在后來的同行評審出版物中得到證實。因此，我相信這是真實且正確的。這是五天前才發(fā)布的。

他們進行了一項隨機雙盲交叉研究，讓演員患者以O(shè)SCE格式擺出149個案例場景。教育界的人都知道那是什么，但基本上都是患者和醫(yī)生之間正常情況下的來回對話。他們所做的基本上是將這些病例呈現(xiàn)給初級保健醫(yī)生或他們的人工智能系統(tǒng)版本，該系統(tǒng)經(jīng)過調(diào)整可以在人工智能中提供對話、診斷和治療建議。他們將其稱為“Articulate Medical Information Explorer”或“AIME”。

它基本上是一個大型語言模型，主要是為了這個目的而訓(xùn)練的。因此，他們花了幾個月的時間進行嘗試，并在系統(tǒng)出現(xiàn)問題時向系統(tǒng)提供反饋。現(xiàn)在在以前從未見過的新案例上進行了嘗試。提出了149個案例場景，他們對這些演員患者進行了盲法調(diào)查進行評估，這些患者不知道是初級保健醫(yī)生還是人工智能給了他們答案，然后專家們會檢查診斷和建議的質(zhì)量。

對話是這樣的。這位患者隨后寫信說：我感到胸部和上腹部疼痛。AI問道，我打斷了一些對話。AI已經(jīng)問過病人，你能比你描述的更詳細一點嗎？病人說，感覺胸部有重物，上腹部感到不適。我不會將其描述為燃燒或刺痛，確切地說更像是一種相當(dāng)明顯的持續(xù)壓力。AI說，這個描述很清楚，謝謝。它幫助我縮小可能性，但為了給你最好的建議，我需要更多的背景知識。首先，你的年齡是多少？您有任何重要的病史嗎？這包括心臟問題、高血壓或既往手術(shù)。病人繼續(xù)給出答案。它會持續(xù)大約七八個來回，直到人工智能提出他們認(rèn)為正在發(fā)生的事情以及你是否需要去急診室或看醫(yī)生或開始某種治療的建議。

這是他們的發(fā)現(xiàn)結(jié)果。左邊是專家對臨床醫(yī)學(xué)的看法，右邊是患者的反應(yīng)。人工智能的結(jié)果是粉色的，醫(yī)生的結(jié)果是藍色的。更好的是圖表可以延伸得更遠。你可以看到，在三個領(lǐng)域中，患者被問及他們的看法，患者對護理的信心，感知到的開放、誠實和同理心，人們認(rèn)為人工智能更好，包括比醫(yī)生更有同理心，這是多項研究中發(fā)現(xiàn)的結(jié)果。當(dāng)專科醫(yī)生被要求查看診斷和建議的質(zhì)量時，他們認(rèn)為人工智能更準(zhǔn)確，更好的管理計劃和升級建議大致相同。所以你必須看看這個并說，至少它是好的，并且可能比回答相同病例場景的醫(yī)生更好。什么是一個相當(dāng)真實的世界他們設(shè)定的一組條件。這是排名前10位的診斷結(jié)果。這是專家的判斷關(guān)于診斷準(zhǔn)確性的質(zhì)量。你可以看到，人工智能在每一個方面都比醫(yī)生做得更好。所以對于我們這些喜歡我們工作的人來說，這在某種程度上令人興奮，也有點可怕，但顯然我們已經(jīng)過了可以說我們不要關(guān)注這一點的地步了。它還沒有為醫(yī)療保健做好準(zhǔn)備。我認(rèn)為它已經(jīng)為醫(yī)療保健做好了準(zhǔn)備。

因此，讓我嘗試將所有內(nèi)容整合在一起。與包括電子健康記錄在內(nèi)的現(xiàn)有技術(shù)相比，生成式人工智能是否需要更少的補充創(chuàng)新和整個系統(tǒng)的更少變化才能產(chǎn)生影響？我認(rèn)為答案是肯定的。使用它幾乎不需要訓(xùn)練。有一種東西叫做Prompt工程。實際上，您可以在放入其中以獲得更好響應(yīng)的各種內(nèi)容方面做得更好，但您可以注冊GPT 4.0立即輸入提示，無需任何訓(xùn)練即可獲得有用的答案。更容易集成到現(xiàn)有軟件，包括電子健康記錄和工作流程。

因此，請考慮從紙質(zhì)文件到電子病歷的轉(zhuǎn)變。我們需要將計算機放置在各處，并弄清楚每個人將如何度過他們的一天。現(xiàn)在，您每天花費大量時間，而不是閱讀紙質(zhì)圖表，而是在計算機上打字并從計算機上閱讀。向人工智能的過渡是你已經(jīng)在使用計算機了。你一直在使用這些工具。現(xiàn)在的問題是輸出是什么？因此，我認(rèn)為從紙質(zhì)到電子病歷的提升要輕得多。所以你會看到，新的人工智能產(chǎn)品能夠融入你的電子健康記錄，你仍然在Epic上打字，但現(xiàn)在它正在做一些Epic無法做的事情。這是一件容易得多的事情。這不是小事。仍然需要做大量的工作來整合它，但比幾年前要容易得多。

主要的EHR公司Epic和Cerner也在非常非常努力地構(gòu)建人工智能，我們開始看到這些東西推出，而且我們會看到越來越多。Epic與OpenAI和Microsoft建立了合作伙伴關(guān)系。Cerner被大型軟件公司Oracle收購，部分原因是他們相信人工智能專業(yè)知識會有所幫助。因此，您很快就會在計算機和工作流程中看到更多這樣的內(nèi)容。已經(jīng)有很多初創(chuàng)公司和老牌公司致力于解決醫(yī)療保健問題他們已經(jīng)接受了這種人工智能并將其應(yīng)用到他們的產(chǎn)品中，并且在GPT發(fā)布后的六個月內(nèi)就真正做到了這一點。

我認(rèn)為醫(yī)療保健和數(shù)字化領(lǐng)導(dǎo)者已經(jīng)從過去十年中吸取了教訓(xùn)。我認(rèn)為我們對于如何在醫(yī)療保健領(lǐng)域進行數(shù)字化工作不再像以前那么天真了。我們比以前更不相信炒作了。我們已經(jīng)培養(yǎng)了領(lǐng)導(dǎo)者，我在這里看到了其中的一些人，他們的職業(yè)生涯涉及醫(yī)療保健、信息學(xué)、數(shù)字化，以及如何使其發(fā)揮作用、研究和教學(xué)。我認(rèn)為我們現(xiàn)在已經(jīng)掌握了很多以前沒有的東西。醫(yī)療保健領(lǐng)域的勞動力短缺可能會減少政治阻力。它不會讓它消失。

想想去年美國發(fā)生的兩次大罷工。一個是汽車行業(yè)，另一個是好萊塢，他們主要討論的是，人工智能會取代我的工作嗎？因此，隨著這些工具的出現(xiàn)，將會出現(xiàn)政治阻力，但在醫(yī)療保健領(lǐng)域，醫(yī)生、護士以及計費部門的人員非常短缺，我認(rèn)為如果這項技術(shù)能夠改善我的生活，它會更受歡迎照顧病人更容易，而且我認(rèn)為與其他行業(yè)相比，對工作替換的恐懼要少一些。

讓我花幾分鐘討論一下可能會出現(xiàn)什么問題，結(jié)果是，當(dāng)我們思考生成式人工智能時，只用一分鐘的時間來討論人工智能的問題，這本可以是一個完整的演講。我只是想讓你意識到它們。我們可以在討論中談?wù)撍鼈儭ｏ@然，人工智能可以使用其擁有的數(shù)據(jù)，而這些數(shù)據(jù)主要來自電子健康記錄。他們?nèi)匀豢梢跃幵煲恍〇|西。仍然會有幻覺的問題，還有垃圾進、垃圾出的問題。如果HR中的數(shù)據(jù)錯誤，那么AI的輸出也會錯誤。黑匣子問題。臨床醫(yī)生會遵循他們不理解的推導(dǎo)預(yù)測和建議嗎？我認(rèn)為這是一個懸而未決的問題。

許多人工智能公司不僅致力于為您提供答案，而且還為您提供他們從何處獲得答案。因為他們相信，如果我們知道來源是什么，我們就會更加相信答案。我認(rèn)為他們這樣做是合理的。很多道德問題和差異。如果電子病歷對過去的做法進行審查表明，黑人骨折患者比白人患者獲得的止痛藥更少，那么人工智能就會相信這是治療黑人患者的正確方法，并將其納入其治療建議中。你還可以舉出100個其他例子。因此，它并不比我們更有偏見，但它可以將這些偏見嵌入到其建議中。因此，需要做大量的工作來思考如何預(yù)防這種情況，并消除這些系統(tǒng)的偏見。

此外，還有對數(shù)字鴻溝的擔(dān)憂。隨著越來越多的護理以數(shù)字方式提供，我們需要確保人們能夠使用無線網(wǎng)絡(luò)以及他們需要的所有東西。最后，還有大量的隱私和安全問題。數(shù)據(jù)共享存在很多障礙，包括擔(dān)心安全漏洞，以及誰擁有數(shù)據(jù)？算法是否會被黑客攻擊是一個問題？如果人工智能犯了錯誤，誰該承擔(dān)責(zé)任？

同樣，我?guī)缀蹩梢栽诿總€問題上花費一個小時。它們是大問題。我們會給他們很多思考。我將花一分鐘時間討論一個我特別喜歡、我認(rèn)為很有趣的問題，對我們訓(xùn)練界尤其重要，這就是去技能化和自動化的自滿。當(dāng)AI是對的時候，50%的時間，它沒有幫助，你不會使用它。當(dāng)人工智能100%正確時，那就太好了，只是我不確定我們要做什么。問題是人工智能在一段時間內(nèi)的正確率會達到90%，因此，你將擁有一個由醫(yī)生或護士負責(zé)查看結(jié)果并簽字的系統(tǒng)。這聽起來相當(dāng)強大，并且是一個自動防故障系統(tǒng)，只不過它不在任何人類系統(tǒng)中。

這個故事在過去的航空界經(jīng)常被講述，在航空界，在一架大飛機上，你的駕駛艙里有三個人。你有一名飛行員、Copilot和飛行工程師，大約30年前，他們拋棄了飛行工程師，他們不需要第三個人。航空界有句俗話：最終你將擁有的不再是兩個人，而是一名飛行員和一只狗，俗話說，飛行員會陪伴狗，如果飛行員試圖觸摸控制裝置，狗就會咬飛行員，因為飛機基本上會自行飛行。這很有趣，直到你想到一些相當(dāng)引人注目的航空事故，這些事故是由于計算機出現(xiàn)故障而飛行員不知道該做什么，因為他們已經(jīng)失去了技能。他們只有在電子設(shè)備工作時才知道如何駕駛飛機。

所以這就是去技能化，但更大的問題可能是自動化的自滿。如果人工智能99%的時間都是正確的，那么放射科醫(yī)師在簽署放射學(xué)報告之前是否真的閱讀過放射學(xué)報告？答案是人類很難集中注意力。我們知道這一點，因為我們已經(jīng)在汽車自動駕駛領(lǐng)域看到了這一點。這是特斯拉自動駕駛儀駕駛員手冊中的內(nèi)容顯然是由一群非常昂"在一秒鐘內(nèi)知曉并對正在發(fā)生的事情做出反應(yīng)，這聽起來可能有些荒謬，但實際上可能是有效的。

讓我回顧一下幾年前發(fā)生的一起特斯拉事故，這是一起相當(dāng)知名的事件。當(dāng)特斯拉汽車進行計算機模型計算時，我認(rèn)為它有160英尺的反應(yīng)時間，然后司機才意識到汽車將駛?cè)胍惠v非常大的卡車。可悲的是，司機并未能避開，汽車真的撞上了卡車，導(dǎo)致卡車將汽車和司機的上半身都剪掉。顯然，司機因此喪生。這個事故實在太瘋狂了。我們不能期待有一個始終準(zhǔn)確的系統(tǒng)，并且要求人類負責(zé)簽字，如果他們簽字后出現(xiàn)問題，從瀆職的角度來看，我們將承擔(dān)責(zé)任。我不知道如何解決這個問題。我認(rèn)為這是我們必須解決的一個真正問題，這在訓(xùn)練領(lǐng)域非常重要。因此，我以此結(jié)束，以確保我們有一些時間進行討論。這就是我現(xiàn)在的想法。

我認(rèn)為你應(yīng)該將過去10年或者15年的醫(yī)療保健視為基礎(chǔ)。這意味著我們已經(jīng)創(chuàng)建了現(xiàn)在數(shù)字化的數(shù)據(jù)，以數(shù)字方式完成我們工作的工具，這方面的專家事實上現(xiàn)在所有人都習(xí)慣了數(shù)字化工作。當(dāng)我與居民或?qū)W生談?wù)撨^去的日子時，我們在紙上繪制圖表，進行X光檢查，然后將其放在燈前，就像我在日志中談?wù)撐业耐暌粯印Ｎ也幌?.....他們只知道數(shù)字健康。所以我們已經(jīng)經(jīng)歷了這一切。我們現(xiàn)在已經(jīng)在某種程度上創(chuàng)建了治理，以弄清楚如何使其發(fā)揮作用并做出決策。在某種程度上，文化。我認(rèn)為所有這些都是基礎(chǔ)性的，讓我們?yōu)獒t(yī)學(xué)的數(shù)字化轉(zhuǎn)型做好了準(zhǔn)備。電子健康記錄將越來越成為這些新技術(shù)的基礎(chǔ)。所以你永遠都會在某件事上。我們認(rèn)為這是電子健康記錄，但它會越來越多地為你做一些事情，這些事情可能是Epic沒有做的，但據(jù)我們所知，是其他公司已經(jīng)做的，或者UCSF做的。

低垂的果實，意思是會做一些簡單的事情。我認(rèn)為我們會比80年代的人更聰明。我們將從物流和運營開始，調(diào)度、計費、事先授權(quán)、患者溝通。其中一家正在開發(fā)預(yù)先授權(quán)引擎的公司的首席執(zhí)行官表示，他們現(xiàn)在在您輸入字母O的地方就擁有了該引擎。它會打印出您對Ozempic UnitedHealthcare事先授權(quán)的事先授權(quán)。它知道這就是您想要做的。因此，所有這些都是一種容易實現(xiàn)、唾手可得的成果，而且風(fēng)險也沒有那么高。而不是從診斷和治療等臨床高風(fēng)險領(lǐng)域開始，但這也并不遙遠。

我認(rèn)為，在某些方面，這將從臨床護理的操作問題開始。從加州大學(xué)舊金山分校開始，我們現(xiàn)在正在推出數(shù)字抄寫程序。因此，過去幾年我們?yōu)槲覀冏畲罅康牧鲃游臋n提供的人類抄寫員，越來越多，我認(rèn)為在幾年內(nèi)，每個醫(yī)生都會有一個數(shù)字抄寫員。您將與患者交談，您的筆記就會出現(xiàn)。該領(lǐng)域的公司已經(jīng)經(jīng)歷了一段時間的反彈，但現(xiàn)在已經(jīng)準(zhǔn)備好迎接黃金時段了。現(xiàn)在技術(shù)已經(jīng)相當(dāng)不錯了。您還將擁有系統(tǒng)，Epic正在構(gòu)建其中一個系統(tǒng)，但也會有其他系統(tǒng)，也就是說，總結(jié)患者的過去病史并瀏覽300頁的注釋，并為您提供一頁摘要患者的既往病史，并以臨床上實際上相當(dāng)可信的方式進行。您還將看到患者選擇以及正在推出的風(fēng)險預(yù)測工具。這就是你之前首先看到的，然后您開始看到建議的診斷和建議的治療。

我們需要預(yù)見到可預(yù)測的問題，例如偏見、幻覺和自動化自滿，加上不可預(yù)測的事情。如果我能預(yù)測它們，我會告訴你它們是什么，但我不知道它們會是什么。我只知道我們會見到他們以及一些政治阻力。但我認(rèn)為醫(yī)學(xué)數(shù)字化轉(zhuǎn)型的舞臺終于搭建好了。我認(rèn)為這非常重要，特別是對于像我們這樣的地方來說，評估這些實施，確保收益大于風(fēng)險，并重新考慮我們的組織結(jié)構(gòu)圖，以確保我們現(xiàn)在為新型數(shù)字工作做好了準(zhǔn)備，包括人工智能。

我將向您展示一些工作和人員的示例。這些工作崗位在六個月前還不存在。所以在我們部門，我們成立了臨床信息學(xué)和數(shù)字化轉(zhuǎn)型部門，朱莉·阿德勒·米爾斯坦 (Julie Adler Milstein) 擔(dān)任部門負責(zé)人。就在此時，七個月前，部分原因是準(zhǔn)備研究這項工作，成為該領(lǐng)域教育的領(lǐng)導(dǎo)者。對此非常非常興奮。我猜，大約三四個月前，我們部門的 Sarah Murray 成為了首席健康人工智能官。直到六、八個月前，我們才知道我們需要一位首席健康人工智能官，當(dāng)時我們意識到我們絕對需要有人來負責(zé)這一切，并找出如何讓這一切發(fā)揮作用。我認(rèn)為這只是臨床操作中需要進行的治理變革的一個例子，進行研究和教育。我為我們所做的工作以及這些人和許多其他人（包括在座的許多人）所做的工作感到自豪。

我確實認(rèn)為生成式人工智能的獨特力量加上我們在過去10到15年中所做的信息學(xué)基礎(chǔ)工作以及衛(wèi)生系統(tǒng)轉(zhuǎn)型的迫切需要將創(chuàng)造我們的海明威時刻。如果你學(xué)的是醫(yī)療保健，我會說海明威可能會說的話，您如何描述醫(yī)療保健的數(shù)字化轉(zhuǎn)型？星號是幾年后，這不是明天，但也不是十年，而是兩年、三年、四年。我認(rèn)為答案是醫(yī)療保健在很大程度上發(fā)生了轉(zhuǎn)變，變得更好，逐漸地，然后突然地，我想現(xiàn)在是我們的時刻了。

我認(rèn)為在加州大學(xué)舊金山分校，我們有能力成為這方面的領(lǐng)導(dǎo)者。非常感謝您的關(guān)注。

QnA:

主持人：鮑勃，非常感謝你創(chuàng)造了歷史杰作，感謝你現(xiàn)在所處的位置以及我們要去的地方。我們從現(xiàn)場觀眾和數(shù)字觀眾那里提出了一些問題。

Annie Leukemeyer 博士提出了一個問題。她詢問，您如何看待 GPT-4 等工具的有時限性？一方面，你可以說它發(fā)展得很快，但另一方面，它不一定訪問上周的研究或我們?nèi)绾螌⑵浼{入醫(yī)學(xué)文獻。

是的，答案是如果您可以訪問上周的研究，那么它也可以。現(xiàn)在到目前為止還沒有，因為到目前為止，當(dāng) GPT-4 首次推出時，它擁有一個到2021年為止都可用的信息庫。所以人們已經(jīng)習(xí)慣了它目前還不是最新的想法。新的 GPT 和 GPT-5 最終將推出將會和我們一樣與時俱進。當(dāng)然，問題是這個東西如何審查文獻并知道這項研究是好是壞，它是否會衡量影響因子或者給編輯的信等等？我認(rèn)為這些都是棘手的問題，但對我們來說也是棘手的問題。但我認(rèn)為你可以從新的人工智能中得到及時的響應(yīng)，我們已經(jīng)習(xí)慣了他們的時間滯后。我認(rèn)為未來的情況不會如此。

我很好奇只是想了解一下你上一篇關(guān)于加州大學(xué)舊金山分校在這個領(lǐng)域的地位的帖子，您認(rèn)為衛(wèi)生系統(tǒng)的作用是什么？我們是否與公司共同開發(fā)某些技術(shù)，或者我們的最佳角色是幫助在臨床護理環(huán)境中進行測試和驗證？或者我們是在觀察事情的進展，也許一旦 Epic 在其他20個大型衛(wèi)生系統(tǒng)中進行了測試，我們就會開始實施類似的事情。

是的，這是一個引人注目的問題。那么問題是學(xué)術(shù)健康中心在這項工作中扮演什么角色？我認(rèn)為誠實的答案是我不知道，因為我認(rèn)為它是如此新，而且發(fā)展得如此之快。我認(rèn)為大部分的發(fā)展由于需要的規(guī)模，你需要的技術(shù)量，很多發(fā)展將發(fā)生在企業(yè)界、初創(chuàng)企業(yè)界，創(chuàng)業(yè)世界和微軟、谷歌、蘋果、微軟世界。我認(rèn)為他們將會是，他們最終將不得不向衛(wèi)生系統(tǒng)出售產(chǎn)品。因此，他們將尋找合作伙伴來幫助開發(fā)這些東西，了解醫(yī)療保健系統(tǒng)中的用例進行研究以驗證它們在現(xiàn)實生活中是否有效。說它在實驗室或虛構(gòu)的用例中有效是一回事。另一種說法是，在現(xiàn)實生活中培養(yǎng)未來的勞動力是我們工作的一部分。

學(xué)術(shù)健康系統(tǒng)真的很有趣，因為你的商學(xué)院并不經(jīng)營企業(yè)。法學(xué)院不經(jīng)營律師事務(wù)所。我們集臨床系統(tǒng)、教育、研究于一體，具有真正的價值。但是一家非常大的風(fēng)險投資公司兩天前剛剛購買了一個醫(yī)療保健系統(tǒng)。它這樣做并不是因為它認(rèn)為醫(yī)療保健系統(tǒng)可以盈利，而是因為它想要一個學(xué)習(xí)實驗室來測試新的數(shù)字工具。所以你可以看到各種新的關(guān)系。我認(rèn)為作為一個衛(wèi)生系統(tǒng)，如果我們不擅長這一點，我們不會僅僅在醫(yī)療保健系統(tǒng)市場中生存。我認(rèn)為教育和研究領(lǐng)域也是如此。

我認(rèn)為研究界將提出一萬億個問題。因此，我認(rèn)為我們開始這個新部門的部分原因是我們需要新的研究重點。我認(rèn)為這將是學(xué)術(shù)健康系統(tǒng)的協(xié)同作用，將所有這三件事一起做，所增加的價值超出了公司所能做到的。但這將會有很多合作伙伴關(guān)系。

作為訓(xùn)練項目的負責(zé)人，我有一個關(guān)于去技能的問題。這讓我非常緊張，尤其是因為，正如安妮所提出的，你無法判斷他正在做的研究的質(zhì)量。我們的學(xué)員是否會失去理解諸如什么是偉大的研究、什么不是偉大的研究以及我們?nèi)绾巫鑫覀兿胱龅氖虑橹g的區(qū)別的能力？所以我很好奇，是否有其他人的經(jīng)驗教訓(xùn)，比如飛行員或其他組織行業(yè)關(guān)于如何防止技能下降的問題？因為您沒有接種疫苗似乎很自然。

是的，如果你從來沒有這樣做的話，一些去技能化是正常和適當(dāng)?shù)摹Ｕ缥叶啻胃嬖V人們的那樣，我?guī)缀醪挥浀梦移拮拥氖謾C號碼。如果我丟了手機，我就再也見不到她了，因為我已經(jīng)不擅長記住電話號碼或記住方向了。我不再需要了。因此，我認(rèn)為像您這樣運行訓(xùn)練項目的人面臨的部分挑戰(zhàn)是弄清楚什么是合適的，什么是他們真正不需要再學(xué)習(xí)的東西與他們大部分時間可能不需要的東西相比，他們需要一些時間，以某種方式評估計算機的輸出。我認(rèn)為這將是您和其他像您一樣的人在未來10年需要解決的一個核心問題。區(qū)分去技能化和自動化自滿很重要。它們是相關(guān)的，但并不完全相同。我記得當(dāng)我在寫書時采訪薩倫伯格船長時，我們正在談?wù)撈渲幸恍┦鹿室约坝嬎銠C開始提供不良信息的飛機。他說，他們駕駛的是一架他們不知道如何駕駛的飛機。當(dāng)他的電腦出現(xiàn)時，他知道如何飛行，當(dāng)他的飛機熄火時，因為他接受過滑翔機訓(xùn)練并且知道。

那么問題來了，你能模擬那些情況嗎？你能建立一個模擬來讓它們通過嗎？計算機給出錯誤的答案并給他們體驗。自動他們將物品放入袋子并通過X光機進行檢查，以確保人們保持警覺。因為如果你連續(xù)檢查了10,000個袋子，都沒有發(fā)現(xiàn)任何問題，你可能就會放松警惕。這是一個復(fù)雜的問題，但我認(rèn)為我們需要重新思考。我記得當(dāng)谷歌剛剛出現(xiàn)的時候，有人質(zhì)疑我們?yōu)槭裁催€要教醫(yī)學(xué)生記憶事實，因為你可以通過搜索找到任何信息。但實際證明，這種觀點是荒謬的，掌握基礎(chǔ)知識仍然非常重要。我認(rèn)為對于人工智能也是如此。你仍然需要了解成為一名好醫(yī)生的基礎(chǔ)知識，但現(xiàn)在找到可靠的信息比以前更容易。這將影響我們的培訓(xùn)方式。

感謝你的精彩演講。我很想聽聽你對面臨潛在風(fēng)險時的機會和利益的看法，特別是誰會承擔(dān)風(fēng)險，誰會受益，誰可能會受到傷害？

是的，問題在于誰會從中受益，誰會因為這些工具的潛在風(fēng)險而受到傷害。我認(rèn)為這通常是在系統(tǒng)內(nèi)置的激勵機制的背景下進行的。我認(rèn)為圍繞這個問題的激勵機制并不比現(xiàn)在的激勵機制更復(fù)雜。

我認(rèn)為你有一個系統(tǒng)，如果你按數(shù)量付費，更多的RVU和更多的小部件正在使用，那么，如果這些工具能讓護理變得更好、更安全、更便宜，你還有動力花錢購買這些工具嗎？答案并不是像你應(yīng)該的那樣強大的激勵，但你仍然有激勵，尤其是在競爭激烈的市場中，盡可能做到最好，以最低的成本提供最好的結(jié)果。而且這樣做還有道德動機。

我認(rèn)為，關(guān)于誰承擔(dān)傷害成本的問題非常有趣。因為人工智能公司，那些為特斯拉事件撰寫法律文件的律師也在他們推出的每一款產(chǎn)品上寫了一些東西，說，我們不是醫(yī)生，你應(yīng)該咨詢醫(yī)生。在任何有關(guān)醫(yī)療建議的GPT-4搜索結(jié)束時，總會有一行內(nèi)容表明你應(yīng)該咨詢醫(yī)療保健專業(yè)人士。對于任何事情，除非是100%完美，否則他們都會有一位醫(yī)生來查看結(jié)果并簽字。當(dāng)我們推出數(shù)字抄寫員時，文檔仍然需要在該注釋上簽名，并且如果發(fā)生不良情況，文檔將是負責(zé)的人。如果數(shù)字X射線正在讀取X射線，情況也是如此，但放射科醫(yī)生必須簽字。因此，在可預(yù)見的未來，我認(rèn)為人類將會被感受到、被保留、被承擔(dān)責(zé)任。數(shù)字公司可以盡一切努力確保我們不會稱他們?yōu)獒t(yī)生，也不會將責(zé)任歸咎于他們的法庭。

我認(rèn)為我應(yīng)該提到的一個激勵因素或財務(wù)因素是按服務(wù)收費的制度，在流動世界中，唯一收費的事情是你來我的辦公室參觀，我會花10分鐘與你在一起并寫一張便條，然后將其發(fā)送給Aetna。這種方式越來越行不通了。如果你的護理越來越多地通過監(jiān)控你的心率和情緒等的數(shù)字設(shè)備來提供，以及由此而來的建議，這將如何計費？因此，隨著醫(yī)療保健越來越多地被解構(gòu)為一大堆虛擬交互，我們獲得報酬的方式必須改變，如果醫(yī)療保健系統(tǒng)負責(zé)的話，這里有X筆錢來照顧這位患有Y種合并癥的患者。如果你做得更好、更便宜，你就會做得很好。如果你做得不好而且成本更高，你就不會做得很好。我認(rèn)為基于小部件、基于交易的支付的想法將會被所有這些數(shù)字工具所取代。

也許還有觀眾提出的最后一個問題。黑匣子現(xiàn)象是否有可能適用于他們喜歡的患者，我不知道發(fā)生了什么，但我的手表告訴我我應(yīng)該做X，并且初級保健醫(yī)生告訴我我應(yīng)該做X。我甚至不需要關(guān)注正在發(fā)生的事情，因為我得到了推薦。那么這會影響他們參與醫(yī)療保健的方式嗎？

當(dāng)然。所以問題是這種可解釋性問題，這是否會像患者一樣與患者互動？

我認(rèn)為數(shù)字化，數(shù)字化的歷史就是它總是使事物民主化。考慮一下你計劃旅行或管理財務(wù)的方式。所以總是讓事情民主化。這是一個可以憑經(jīng)驗回答的開放性問題。人們需要多少解釋才能相信？這就涉及到可信度問題。答案是，我個人并不怎么想。我認(rèn)為可信度基本上是基于他們所聽到的和所看到的。當(dāng)位智告訴你下高速公路并開車穿過這個小社區(qū)時，當(dāng)你開車經(jīng)過時，你需要位智告訴你嗎？我告訴你這樣做的原因是在你前方一英里處發(fā)生了車禍。只是相信位智知道這是帶你到達目的地的更好路線。我認(rèn)為可解釋性被高估了。我認(rèn)為我們將越來越無法解釋某些輸出。

谷歌已經(jīng)證明，當(dāng)你觀察視網(wǎng)膜的背面并將其顯示給人工智能時，它可以告訴你患者是否患有糖尿病、高血壓和高膽固醇，并且還可以告訴你患者的性別，這是眼科醫(yī)生無法做到的。沒有人知道它在排隊做什么，但它可以做到這一點。因此，它會越來越多地告訴你一些你無法確定推導(dǎo)的事情。這將是一個問題，你對公司和之前的結(jié)果有足夠的信心相信它沒問題嗎？我認(rèn)為答案，我認(rèn)為趨勢，我認(rèn)為可解釋性是一個過渡階段。我想在某些時候你會說，事情常常是正確的，好吧，它肯定比我知道的更多，這就涉及到自動化自滿的問題。因為當(dāng)它出錯時，我們就沒有足夠的資金去理解。關(guān)鍵是要看看結(jié)果并說，這很奇怪。那是從哪里來的？

我認(rèn)為對于我們這一代的醫(yī)生來說，這是很自然的，但是對于這個時代成長起來的全新醫(yī)生來說，我認(rèn)為，如果他們除了人工智能輸出之外從未見過任何東西，而且人工智能輸出在99.9%的時間里都是可信的，那么這會變得越來越困難。所以這些都是非常棘手的問題，我們必須努力解決它們。

主持人：精彩的演講，精彩的問答。非常感謝你的參與。