杜克大學人工智慧健康：為演算法醫學建立更好的護欄
發布日期：近年來，人們對將人工智慧工具用於醫療保健應用越來越感興趣，包括診斷、風險預測、臨床決策支援和資源管理。這些演算法工具能夠在患者電子健康記錄 (EHR) 和管理資料庫中的大量數據中發現隱藏的模式，正在患者護理領域廣泛傳播。通常，健康人工智慧應用程式都伴隨著其使醫療實踐變得更好、更安全和更公平的潛力的保證。
然而，事實證明，事實更為複雜。
「醫療保健領域的人工智慧正在經歷一種『狂野西部』時期，」杜克大學人工智慧健康總監兼數據科學副院長 Michael Pencina 博士表示。 “許多醫院和衛生系統已經自行建立或購買了系統，並根據自己的數據運行這些系統，有時幾乎沒有監督。”
人們對將人工智慧工具應用於醫療保健中一些最棘手問題的熱情正在幫助推動技術的採用，直到最近，這些技術還沒有經過通常應用於藥物和醫療設備的嚴格審查。對於越來越多的從業者和衛生系統來說，他們越來越擔心其中一些工具——其中許多工具被設計為 難以捉摸的“黑盒子” 系統－可能無法正常運作。
最近，當密西根大學的研究人員進行研究時，這些擔憂引起了更廣泛的公眾關注。 研究了演算法工具的性能 旨在提醒臨床工作人員可能存在敗血症（一種嚴重的疾病）。研究人員意識到，該工具在患者護理的現實世界中的表現比預期的要差，標記了不存在的膿毒症病例並遺漏了實際病例。在這個和其他錯誤演算法的例子的推動下，專家們越來越擔心人工智慧工具故障可能會損害品質和安全或加劇現有的不平等。
演算法監督的必要性
儘管人工智慧系統效能下降的原因有很多，但許多原因可以追溯到系統設計階段所做的決策，最關鍵的是用於訓練系統的資料與系統資料類型之間的差異一旦應用於臨床就會遇到。因此，演算法工具必須在創建過程中經過仔細驗證，在其整個生命週期中進行仔細審查，並在部署後持續監控。
彭西納表示：「很明顯，當前的情況必須改變。」他指出，一段時間以來，人們對建立共享最佳實踐和通用方法來監管人工智慧醫療保健工具的興趣高漲。
事實上，在杜克大學，這種擔憂已經轉化為創建人工智慧工具的治理和監督系統。被稱為 基於演算法的臨床決策支援 (ABCDS) 監督 ABCDS 監督委員會由 Pencina 和杜克大學健康中心首席健康資訊長 Eric Poon 醫學博士共同主持，代表了杜克大學和杜克大學健康系統之間的合作。
「ABCDS 監督使我們能夠確保杜克健康中心開發或使用的所有演算法工具都具有品質和公平性，」Poon 說。 「我們開發了一種方法，召集來自所有相關領域的專家——人工智慧、臨床專業實踐、IT、監管等。這些專家在模型開發的最早階段提供意見和指導。我們的想法是確保工具顯示出對改善我們提供患者護理方式的關鍵目標的影響。”
為更大的圖景做出貢獻
鑑於杜克大學很早就採用了嚴格的演算法監督方法，因此看到它在一個新的國家聯盟（即 健康人工智慧聯盟 (CHAI)，它正在召集來自學術界、工業界和監管機構的專家，解決與健康和醫療保健領域人工智慧工具的道德和公平使用相關的緊迫問題。其中最主要的是需要協調報告標準的多項相互競爭的建議，並確保從頭開始將公平和公正納入健康人工智慧系統。
這些都是至關重要的考慮因素，因為如果沒有明確理解共同的標準和指南，或者更糟的是，完全缺失，最終用戶、患者和消費者可能不會信任人工智慧系統。透明度和可信度是確保健康人工智慧實踐能夠有效應用於改善對服務不足和代表性不足的患者和受不平等影響最嚴重的社區的護理的關鍵。
「看到人工智慧和數據科學界齊心協力，協調高品質、公平和值得信賴的健康人工智慧的標準和報告，真是令人鼓舞。為了評估這些人工智慧系統並提高其可信度，來自學術衛生系統、醫療保健組織和行業合作夥伴的專家也在數據科學家、政策制定者以及在醫療保健領域開發和使用人工智慧的更廣泛社區之間建立聯繫。」ABCDS Oversight 表示董事 Nicoleta J. Economou-Zavlanos 博士也是 CHAI 的共同領導者。 「我們也受益於那些直接受這些人工智慧技術影響的人的見解。 CHAI 致力於讓所有利益相關者在如何管理這些極其強大的工具的辯論中擁有一席之地和發言權。”
健康人工智慧聯盟致力於創建“指引和護欄」這將有助於開發「可信、公平和透明」的健康人工智慧系統。實現這一目標的第一步是建立一個框架，該框架是透過合作夥伴和利害關係人（包括最終用戶和患者）之間的討論和共識達成的。該框架將定義關鍵的規則、標準和準則，供那些在醫療保健領域開發、部署和使用人工智慧系統的人員使用，以監控和評估其在給定應用程式生命週期中的效能。
CHAI 的近期目標之一是建立標準，打造健康人工智慧系統，推動高品質照護、提高使用者可信度並滿足醫療保健需求。繼 初步公告 CHAI 在過去幾個月裡一直在了解該組織的組建和意圖 召開一系列虛擬會議，重點關注可測試性、可用性、安全性、透明度、可靠性和監控主題，透過說明性用例探索健康人工智慧的不同興趣領域。
這些會議最終形成了一次混合的面對面/虛擬會議（在人工智慧夥伴關係的支持和戈登和貝蒂摩爾基金會的資助下），為製定一套指導方針和建議奠定了基礎。每次會議都有一名陪同人員 「讀出」紙 捕捉會議演示和討論。最近，聯盟發布了一份 值得信賴的人工智慧實施指南和醫療保障藍圖草案 並且是 徵求公眾意見與回饋.
杜克大學人工智慧健康副主任、MPP 安德魯·奧爾森(Andrew Olson) 表示：「CHAI 真正令人興奮的地方在於，它為利益相關者提供了一個機會，讓他們圍繞一個框架召集並達成共識，確保人工智慧以真正有益於各個層面的方式得到使用。」 。
在一個 最近在 CHAI 網站上分享的部落格文章聯合主席邁克爾·彭西納 (Michael Pencina) 強調，該聯盟“堅定致力於使公平成為我們正在努力為醫療保健領域人工智能建立的道德框架的基石。” Pencina 進一步指出，與受健康人工智慧影響的所有利害關係人進行有意義的接觸對於培養對此類工具的信任至關重要。
除了杜克AI Health 之外，CHAI 不斷成長的合作夥伴還包括史丹佛大學、加州大學舊金山分校、約翰霍普金斯大學、加州大學柏克萊分校、梅奧診所、MITRE Health、Change Healthcare、微軟公司、SAS 和谷歌等。美國食品藥物管理局對符合特定標準的健康人工智慧應用進行監管，美國國立衛生研究院和國家健康資訊科技協調員辦公室的觀察員也出席了最近的 CHAI 會議。
隨著 CHAI 及其合作夥伴的工作繼續進行，聯邦層級也在進行補充性工作，FDA 發布了 最終指導 關於臨床決策支援軟體和 人工智慧權利法案藍圖 由白宮科學技術政策辦公室出版。
「我們正處於健康人工智慧領域真正令人興奮的時刻。每個人（患者、臨床醫生和衛生系統）都有巨大的潛力從這些功能中受益，」Pencina 指出。 “但是，”他補充道，“我們需要確保每個人都能分享這些好處，而這樣做的關鍵是確保我們創建的工具能夠為患者護理帶來有意義的改善。”
原文來源： 杜克人工智慧健康