彌合人工智能與臨床實踐之間的鴻溝

使用深度神經(jīng)網(wǎng)絡進行醫(yī)療保健的人工智能 (AI) 的許多進展已經(jīng)商業(yè)化。但很少有人工智能工具在衛(wèi)生系統(tǒng)中實施。為什么會出現(xiàn)這種鴻溝？透明度、適用性和適應性是關鍵原因。任何新技術的部署通常由醫(yī)院和衛(wèi)生系統(tǒng)集中管理。對于信息技術 (IT) 團隊來說，人們擔心輸入數(shù)據(jù)來自健         康環(huán)境之外，并且無法查看算法性能、源代碼和輸入數(shù)據(jù)。許多商業(yè)人工智能應用都在放射學領域，但很少有已發(fā)表研究的證據(jù)支持。有人擔心這些算法是使用回顧性的計算機數(shù)據(jù)進行測試和驗證的，這些數(shù)據(jù)可能無法反映真實世界的臨床實踐。

公平、安全和監(jiān)管也至關重要。當人工智能從商業(yè)環(huán)境導入醫(yī)院或衛(wèi)生系統(tǒng)時，人們對使用哪些數(shù)據(jù)來訓練人工智能知之甚少，而且人工智能在實施后利用的后續(xù)真實患者數(shù)據(jù)的所有權也存在不確定性。此外，人工智能的實施可能會因用于做出決策和建議的數(shù)據(jù)信息不足而受到阻礙。接受 AI 生成決策的臨床醫(yī)生很少會監(jiān)督用于做出特定決策的數(shù)據(jù)點，從而導致所謂的算法厭惡。當不清楚誰（例如，開發(fā)公司、研究人員、臨床醫(yī)生或醫(yī)院）應該為算法的決定承擔責任時，也會出現(xiàn)這種算法厭惡。

我們?nèi)绾慰缭竭@個鴻溝？當可以在健康環(huán)境中修改算法或可以從本地數(shù)據(jù)中學習時，可以減輕算法厭惡。三個步驟將有助于優(yōu)化人工智能的臨床使用。首先，提供有關用于 AI 工具初始訓練的數(shù)據(jù)集的透明度。其次，啟用神經(jīng)網(wǎng)絡的解構(gòu)，使推動 AI 性能的特征為臨床醫(yī)生所理解。第三，如果患者和醫(yī)院的需要，允許臨床醫(yī)生使用本地數(shù)據(jù)重新訓練 AI 模型。

在開放數(shù)據(jù)存儲庫和公開共享算法上訓練的開源 AI 的開發(fā)可能會取得進展。這種方法的潛力的一個例子是 InnerEye，這是一種經(jīng)過臨床驗證的放射治療 AI，已在英國醫(yī)院實施，并接受醫(yī)院數(shù)據(jù)和醫(yī)院臨床醫(yī)生的培訓。如果與聯(lián)邦學習等保護隱私的計算工具相結(jié)合，開源 AI 可以進一步消除在整個醫(yī)療系統(tǒng)的醫(yī)院中開發(fā)的本土 AI 解決方案的快速可擴展性障礙，同時保持臨床醫(yī)生和患者對所有權和監(jiān)管的信任數(shù)據(jù)的。自主研發(fā)的 AI 解決方案，例如 Mayo Clinic 的 AI 輔助篩查工具，用于對心電圖進行審查，以及 Rady Children 開發(fā)的快速、支持 AI 的基因組學工具 s 患有罕見遺傳病的新生兒醫(yī)院，指出不同的預構(gòu)建算法工具和臨床專業(yè)知識如何結(jié)合起來生成適應的人工智能，以幫助滿足醫(yī)院和患者的特定需求。通過強制實施開源和本地適應的 AI 工具的高標準，它們的實施可以嚴格但足夠靈活，以適應醫(yī)院獨特的 IT 基礎設施和治理框架。

終，臨床醫(yī)生有必要采用人工智能工具以實現(xiàn)實質(zhì)性實施。這種接受將通過嚴格的臨床驗證得到加強，這是公司通常愿意追求的高標準。目前，在監(jiān)管機構(gòu)批準后，算法并未進一步調(diào)整，這限制了深度學習的自學特性，而深度學習可能成為算法對 IT 人員和臨床醫(yī)生價值的說服工具。為解決這些多重障礙所做的工作越多，我們就能越早看到人工智能在常規(guī)患者護理中得到更廣泛的實施。