隨著AI越來越多融入我們的日常生活，它對醫療保健及醫學研究的影響也必然覆蓋每一個人，以或直接、或間接的方式引領我們進入AI醫療新時代。那么，我們該如何確保以負責任的方式實施AI，在實現其大部分積極收益的同時，最大限度減少潛在的負面影響？

在2024年3月召開的SXSW（西南偏南）2024大會上，美國醫學會（AMA）主席Jesse Ehrenfeld醫生發表了題為《AI、醫療保健與醫學的奇異未來》的演講。在AI Today播客的后續采訪中，Ehrenfeld博士進一步延伸了演講內容，并分享了更多關于AI影響醫學領域的見解。

主持人：您如何看待AI對于醫學的影響？美國醫學會最近為什么要發布一整套AI原則？

Jesse Ehrenfeld醫生：我是一名執業醫生和麻醉師，實際上，前幾天我還剛剛為病人進行過診療服務。我在威斯康星州密爾沃基的威斯康星醫學院工作，已經擁有約20年的執業經歷。我是美國醫學會的現任主席，代表著全美規模最大、最具影響力的醫生團體。醫學會成立于1847年，是醫學道德準則與一系列指導當今美國醫生提供診療服務的原則的傳播機構。我本人擁有麻醉學與臨床信息學方面的委員會認證，也是首個被任命為醫學會主席的信息學家成員。除了這個相對較新的專業身份之外，我還在海軍服役了十年。總而言之，我所做的一切都是為了了解該如何為患者提供高質量的醫療服務，并通過我的親身工作與積極實踐將其推廣給更多受眾。

其實大家可以想見，如今的醫生們仍背負著很多沉重且劣質的技術債務，這些技術不僅沒有積極作用、甚至不能算是有價值的資產。我們絕不能讓這樣的情況重演，特別是不能在AI時代下重演。為此，美國醫學會于2023年11月發布了一套AI開發、部署與使用原則，旨在回應我們從醫生和公眾那里收集到的擔憂和疑慮。

公眾對這些AI系統抱有很多疑問。這些系統是干什么用的？他們能不能信任AI？安全到底有沒有保障？面對此類問題，我們需要用原則指導每一項工作，并與聯邦政府、國會、各級地方政府以及行業開展合作，確保這些技術能夠在護理服務系統的開發、部署和最終使用階段發揮作用。

自2018年以來，我們就一直在研究AI政策。但在最新幾輪迭代中，我們呼吁政府對AI采取全面的治理方法，包括必須確保降低患者風險并盡可能提升技術效用。這些原則希望能將主題專家、醫生、信息學家和國家級專業團體匯聚起來以完成各項工作，原則的具體條款也越發豐富。

主持人：您能不能概述一下這些AI原則？

Jesse Ehrenfeld醫生：最重要的一點，就是我們希望保證以道德、公平、負責任且透明的方式，完成醫療保健AI的設計、開發與部署工作。我們的愿景和立場非常明確：必須嚴格遵守國家提出的治理政策，以符合道德且負責任的方式開發AI方案。單憑自愿協議與自愿遵守的承諾還不夠，我們必須介入監管并采取基于風險的管理方法。審查與驗證監督的程度，應該與AI系統可能帶來的潛在危害或后果成正比。也就是說，對于支持診斷和調度操作的兩類AI方案來講，其可能將對應不同的監管級別。

我們對全美各地的醫生進行了大量調查，希望了解當今實踐中發生的情況，結果也的確表明AI技術在醫學領域的使用正在增加。結果令人興奮，但我認為這也應該對開發商膛監管機構起到一點警示作用。醫生普遍對AI在醫療保健領域的潛在非常看好。從全美調查樣本來看，65%的受訪美國醫生認為AI的實踐應用具備一定優勢，例如幫助記錄文檔、翻譯文檔、協助診斷，以及通過預授權等自動化方式減輕行政工作負擔等。

但他們也抱有一定擔憂。41%的受訪醫生表示，他們對AI技術既興奮又害怕。此外，人們還擔心AI技術會影響患者隱私以及醫患關系。歸根結底，我們希望未來上市的產品都能安全可靠。這是我們從醫生和消費者群體中獲取信息的前提，也是我們長期堅守的原則在支持高質量、經過臨床驗證的AI開發中的實際體現。

主持人：那么您具體關注哪些數據和健康隱私問題呢？

Jesse Ehrenfeld醫生：我發現患者和消費者對數據和AI仍抱有諸多疑問，比如醫療保健應用到底有什么用？里面的數據去哪了？他們能使用或者分享這些信息嗎？遺憾的是，聯邦政府并沒能真正保障數據流向的透明度。舉個最極端的例子，高能一家公司、一家開發商和一款應用軟件。這款軟件被標記為“符合HIPAA”，那么在普通人看來，這就意味著自己存放在其中的數據是安全、私密且有保障的。然而應用軟件本身并不屬于HIPAA涵蓋的實體，而HIPAA條款只能約束公司和開發商。因此對于根本不在保障范圍之內的應用軟件，所謂“符合HIPAA”完全是一種誤導，我們也不該允許這種情況發生。

人們對于健康數據的去向也存在很多擔憂，這顯然影響到患者對于AI技術的接納度。94%的受訪患者告訴我們，他們希望出臺強有力的法律來管理醫療數據的使用方式。如果患者不了解數字工具的隱私設計與影響因素，他們就很可能拒絕使用數字工具。另外，雖然作為監管方的我們有很多工作要做，但AI開發者那邊也可以做出一系列努力，保證即使沒有法律要求、也愿意盡可能加強AI數據的可信度。

以各位最熟悉的大型科技企業為例，你愿意把自己的醫療保健數據交給他們嗎？如果發生數據泄露該怎么辦？您是否會將身體部位的敏感照片上傳至他們的服務器，以便對方能為我們提供一些潛在的病變分析與防治建議？一旦出現數據問題，您又會怎么做？會打電話給誰？總而言之，我認為應當在數據收集和流向方面提高透明度，讓普通消費者也能了解如何拒絕共享自己的數據。

但遺憾的是，HIPAA并沒能解決所有這些問題。實際上，許多此類應用軟件壓根就不在HIPAA的管控范疇之內。我們需要采取更多措施來確保醫療數據的安全性和隱私性。

主持人：您認為AI將在哪些方面、以及將如何對醫療保健和醫學產生積極影響？

Jesse Ehrenfeld醫生：我們別無選擇，必須使用AI等先進技術。要想解決當今醫療保健領域所面臨的勞動力危機，擁抱新興技術已經是不二之選。而且不僅限于美國，這已經成為一個全球性的問題。美國有8300萬民眾連最基本的醫療保健服務都得不到，就是因為這里沒有充足的醫生。如果我們繼續以同樣的方式工作并提供護理服務，就永遠不可能開設足夠多的醫學院、培養出足夠多的住院醫師來滿足這些需求。

而在從美國醫學會的角度討論AI時，我們實際上更喜歡使用“增強智能”的表述，而非人工智能。因為它終究要回歸一項基本原則：工具的意義應該是提高我們醫療團隊、醫生、護士乃至每位相關人員的能力，以便其更有效也更高效地提供診療服務。目前最大的問題，就是缺少統一的平臺。我們已經獲得了不少碎片化的解決方案，但它們彼此之間沒有能整合起來，但好消息是已經有企業在迅速朝著這個方向邁進。很明顯，我們希望這種趨勢也能出現在醫療領域。

我們正在嘗試多種不同途徑，以確保我們在整個設計和開發過程中擁有發言權。我們建立起醫生創新網絡，這是一套免費的在線平臺，能夠將醫療領域的企業家匯聚起來幫助推動變革與創新，并為市場帶來更好的產品。醫療企業正在尋求臨床投入，臨床醫生也積極與企業家建立聯系。我們在硅谷還設立了科技孵化項目Health2047，基于醫學會的見解孕育出十幾家公司。

歸根結底，我們需要建立起一套監管框架，確保只有經過臨床驗證的產品才能進入市場。我們必須確保這些工具能夠真正兌現其承諾，使其成為提升效率的資產、而非“沒事找事”的負擔。

我認為AI技術并不會取代醫生，但那些善于運用AI的醫生會取代那些不懂如何使用AI的醫生。AI方案有著巨大的應用潛力，有望減輕醫生和論據的管理負擔。最終，預計我們在病患護理中直接引入AI的方式將會取得巨大成功。其中有著大量令人興奮的用例，但我們還需要保證借工具與技術之力，妥善解決種族偏見、危害性錯誤、安全、隱私以及健康信息威脅等現實挑戰。所以在盲目擴大AI工具的應用范圍之前，首先應保證醫生了解如何管理這些風險、如何承擔起肩上的這份責任。