醫療演算法被廣泛應用於醫療保健領域，用於診斷疾病、提供預後、監測患者健康以及輔助行政任務，例如預約安排。但是，這項技術在美國的應用歷史充滿了失控的故事。從性創傷受害者被不公平地標記為藥物濫用高風險人群，到全國 100 多個醫療系統使用的膿毒症檢測演算法的診斷失敗，再到臨床決策支援 (CDS) 軟體阻止數百萬黑人患者獲得必要的複雜護理轉診，問題層出不窮。這些問題可能也在延長當前的疫情：2021 年對數十種旨在檢測或預測 COVID 病程的機器學習演算法的綜述發現沒有一種在臨床上有用。
關鍵是：如今使用的許多醫療演算法無需獲得美國食品和藥物管理局的批准，而那些需要批准的演算法也常常未經臨床試驗。
為了理解原因，讓我們簡要回顧一下歷史。1976 年，在達爾康盾 (Dalkon Shield)——一種宮內節育器——被指控導致多起死亡和大量住院事件後，國會修訂了《食品、藥品和化妝品法案》，強制要求醫療器械透過臨床試驗證明其安全性和有效性。為了快速審批器械，制定了一項名為 510(k) 的條款，以利用當時市場上已有的數千種醫療器械。根據 510(k) 許可途徑，如果製造商能夠證明其器械在材料、用途和作用機制上與市場上已有的另一種器械“基本等同”，則無需提供臨床試驗資料。當時，這似乎是政策制定者完全合理的妥協方案。如果外科手套已經獲得批准，為什麼還要讓外科手套製造商進行嚴格的臨床試驗呢？
支援科學新聞報道
如果您喜歡這篇文章，請考慮透過以下方式支援我們屢獲殊榮的新聞報道： 訂閱。透過購買訂閱，您將有助於確保有關塑造我們當今世界的發現和思想的具有影響力的故事的未來。
當然，醫療器械隨著時間的推移變得越來越複雜。外科手套被外科機器人所取代；膝關節支具被人工膝關節所超越。最終，變得難以確定兩種器械是否真正等同。從 1990 年代開始，聯邦政府著手解決日益複雜的問題，簡化了一些法規，包括擴大基本等同的定義，將機制和設計差異顯著的器械也包括在內，只要它們具有相似的安全性。目的是鼓勵創新，但最終，這一變化導致了更多不安全和無效的器械。
更復雜的是，即使透過 510(k) 批准的器械，如果其謂詞器械後來因質量和安全問題而被召回，仍然可以留在市場上。這種做法導致了“大廈將傾”的現象，目前醫院使用的許多器械都是基於失敗的前代產品。在 2008 年至 2017 年間召回的 3,000 多種器械中，97%已獲得 510(k) 許可。
根據現行法律，醫療演算法被歸類為醫療器械，可以透過 510(k) 審批流程獲得批准。然而，與過去的醫療器械相比，它們透明度更低、複雜性更高、更可能反映先前存在的人類偏見，並且更易於隨時間推移而演變（和失敗）。此外，國會在 2016 年的《21 世紀治療法案》中將某些與健康相關的軟體排除在醫療器械的定義之外。因此，一些醫療演算法，例如用於 CDS 的演算法，可以完全規避 FDA 的監管。考慮到這些演算法在醫療保健領域的普及性，這一點尤其令人擔憂：2017 年，美國90% 的醫院——約 5,580 家醫院——都安裝了 CDS 軟體。
最終，監管需要隨著創新而發展。鑑於不受監管的醫療演算法對患者和社群構成的威脅，我們認為美國必須緊急改進對這些新時代器械的監管和監督。我們建議國會應採取三項具體行動。
首先，國會必須降低 FDA 評估的門檻。對於醫療演算法，510(k) 下的等同性定義應縮小範圍，以考慮新器械及其謂詞所使用的資料集或機器學習策略是否相似。例如，這種措施將防止用於評估腎臟疾病風險的演算法網路僅僅因為它們都預測腎臟疾病而被批准。此外，在美國醫院普遍存在的 CDS 系統不應免於 FDA 審查。儘管 CDS 演算法的結果並非旨在成為護理計劃的唯一決定因素，但醫療保健工作者通常嚴重依賴它們進行臨床決策——這意味著它們常常會影響患者的治療結果。
其次，國會應拆除助長醫療保健工作者過度依賴醫療演算法的系統。例如，要求醫療從業人員在開具阿片類藥物處方前查閱演算法以評估藥物濫用評分的處方藥監測規定，應在所有州都包含全面的豁免，例如針對癌症患者、急診室就診和臨終關懷。總的來說，除非醫生的決定導致患者受到傷害，否則醫生不應因使用自己的臨床判斷而不是接受醫療演算法的建議而面臨重大處罰。演算法可能會將患者標記為藥物濫用高風險人群，但醫生對該患者創傷史的瞭解會為解讀增添關鍵的細微差別。
第三，國會必須建立針對可能隨時間演變的技術的問責制系統。在這方面已經取得了一些進展。幾年前，紐約州眾議員伊薇特·克拉克 (Yvette Clarke) 提出了《2019 年演算法問責法案》。該法案將要求建立涉及個人資訊的“高風險自動化決策系統”的公司進行影響評估，並由聯邦貿易委員會根據需要進行頻繁審查。對於醫療保健機構中使用的醫療演算法，聯邦貿易委員會可以要求更頻繁的評估，以監測隨時間推移的變化。
這項法案和幾項類似的法案已經提出，但尚未提交總統辦公桌。儘管如此，我們仍然希望未來幾個月勢頭將會增強。與此同時，FDA 正在採取初步措施來改進對醫療演算法的監督。去年，該機構釋出了首個專門針對這些技術的行動計劃。但是，它尚未澄清有關 CDS 豁免和適當的 510(k) 許可的問題。
我們知道醫療保健領域的演算法通常可能存在偏見或無效。但是，美國必須更加關注允許它們進入公共領域的監管系統。如果一項決定會影響患者的生命，“不傷害”原則必須適用——即使是對計算機演算法也是如此。