電影《超能陸戰(zhàn)隊》里呆萌可愛的醫(yī)療智能機器人大白(Baymax)在吸粉無數(shù)的同時,也使人們對醫(yī)療人工智能的發(fā)展充滿了無限的期待和向往。
盡管目前的醫(yī)療AI產(chǎn)品尚不能同電影中的“大白”一樣,通過一次簡單地掃描,就可以檢測出人體的健康指數(shù),并且完全獨立地根據(jù)病人的情況治療幾乎所有的疾病,但近年來,醫(yī)療人工智能的飛速發(fā)展正在使這些幻想一步步地成為現(xiàn)實。目前,人工智能在醫(yī)療領(lǐng)域的應用已經(jīng)十分廣泛,國內(nèi)外已經(jīng)或即將投入使用的醫(yī)療AI產(chǎn)品涵蓋了疾病風險預測、醫(yī)療影像輔助診斷、臨床輔助治療、智能健康管理和醫(yī)院智能管理等眾多領(lǐng)域。
互聯(lián)網(wǎng)醫(yī)療健康產(chǎn)業(yè)聯(lián)盟發(fā)布的《醫(yī)療人工智能技術(shù)與應用白皮書(2018)》顯示,到2025年人工智能應用市場總值將達到1270億美元,其中醫(yī)療行業(yè)將占市場規(guī)模的五分之一。我國醫(yī)療人工智能的市場規(guī)模更是發(fā)展迅速,2016年中國人工智能+醫(yī)療市場規(guī)模達到96.61 億元,增長37.9%;2018年有望達到200億元,增長超過一倍。
此外,國務院辦公廳近日印發(fā)的《關(guān)于促進“互聯(lián)網(wǎng)+醫(yī)療健康”發(fā)展的意見》中,亦進一步明確了推進“互聯(lián)網(wǎng)+”人工智能應用服務的要求,鼓勵研發(fā)基于人工智能的臨床診療決策支持系統(tǒng)和其他醫(yī)療健康智能設備,為醫(yī)療人工智能的發(fā)展提供了更清晰的政策指導和支持。
不可否認的是,醫(yī)療人工智能技術(shù)的快速發(fā)展對于提高診斷效率,彌補醫(yī)生資源缺口,提升醫(yī)療服務水平都將起到巨大的推動作用。但相對于其他領(lǐng)域的AI產(chǎn)品,在醫(yī)療人工智能領(lǐng)域,尤其是在醫(yī)療輔助診斷和治療領(lǐng)域,AI產(chǎn)品將對醫(yī)生的診斷和決策產(chǎn)生一定的導向作用,一旦出現(xiàn)失誤則很有可能嚴重危及患者的生命健康。因此,必須完善對AI輔助診斷和治療產(chǎn)品的監(jiān)管機制,明確醫(yī)療AI產(chǎn)品進入臨床應用的法律標準和技術(shù)要求,同時明確AI診斷的醫(yī)療責任主體、劃清權(quán)責范圍。
目前,世界各主要國家?guī)缀醵紝?/span>AI輔助診斷和治療產(chǎn)品作為醫(yī)療器械加以監(jiān)管,AI輔助診斷和治療產(chǎn)品如需上市,必須根據(jù)醫(yī)療器械的等級分類標準獲得監(jiān)管部門相應的許可和認證。在我國,監(jiān)管部門對于利用人工智能技術(shù)提供診斷功能的審核要求非常嚴格。根據(jù)2017年國家藥品監(jiān)督管理局(CFDA)發(fā)布的新版《醫(yī)療器械分類目錄》(該分類政策將于2018年8月1日起正式施行),若診斷軟件通過其算法提供診斷建議,僅有輔助診斷功能不直接給出診斷結(jié)論,則按照二類醫(yī)療器械申報認證;如果對病變部位進行自動識別并提供明確診斷提示,則必須按照第三類醫(yī)療器械進行臨床試驗認證管理。此外,國家衛(wèi)生計生委于2017年2月發(fā)布的《人工智能輔助診斷技術(shù)管理規(guī)范(2017年版)》和《人工智能輔助治療技術(shù)管理體系規(guī)范(2017年版)》還對醫(yī)療機構(gòu)及其醫(yī)務人員應用AI輔助診斷和治療技術(shù)提出了極具操作性的要求,具體包括醫(yī)療機構(gòu)的硬件設施、醫(yī)務人員的資質(zhì)要求以及技術(shù)管理和培訓管理制度等。
在美國,根據(jù)醫(yī)療器械存在的風險程度,醫(yī)療器械同樣被劃分為三類,其中Class III為具有高風險的醫(yī)療器械,具體指擬用于支持或維持人類生命或預防人類健康受損,或可能導致潛在的不合理的疾病或傷害風險的醫(yī)療器械。根據(jù)美國聯(lián)邦法律,III類設備除需進行一般監(jiān)管外,還需進行上市前審批(PMA)。近日,FDA即通過PMA程序批準上市了一款醫(yī)療AI產(chǎn)品,根據(jù)FDA發(fā)布的公告,該設備是一種可用于篩查糖尿病性視網(wǎng)膜病變的軟件程序,無需臨床醫(yī)生分析就能給出診斷結(jié)果??梢?,美國亦將此類能夠提供明確診斷結(jié)果的AI輔助診斷產(chǎn)品視為具有高風險等級的醫(yī)療器械加以監(jiān)管。
除了采用上述傳統(tǒng)的監(jiān)管方式外,美國FDA還于去年8月開創(chuàng)了一種針對低風險醫(yī)療AI產(chǎn)品的全新監(jiān)管方式——“數(shù)字醫(yī)療軟件預認證計劃”(Software Precertification Pilot Program)。根據(jù)該計劃,FDA選擇了包括蘋果、三星電子、強生等9家數(shù)字醫(yī)療企業(yè)共同參與于去年9月1日開始實施的預認證計劃試點項目。在該試點項目結(jié)束后,FDA旗下專門負責醫(yī)療設備及科技監(jiān)管的機構(gòu)CDRH將根據(jù)在上述試點項目中確定的客觀標準來“預先認證”那些符合資格的數(shù)字醫(yī)療開發(fā)主體。經(jīng)過預認證的開發(fā)主體即有資格直接銷售自己的低風險醫(yī)療AI產(chǎn)品,而無需經(jīng)過FDA的額外審查和一系列入市審查。
FDA的此種監(jiān)管方式打破了傳統(tǒng)的針對醫(yī)療產(chǎn)品的監(jiān)管模式,而是將監(jiān)管重點放在了開發(fā)和生產(chǎn)產(chǎn)品的企業(yè)身上,這無疑將大大提高醫(yī)療AI設備的審批速度,有利于醫(yī)療領(lǐng)域人工智能新設備和新技術(shù)的快速發(fā)展和迭代更替。但值得注意的是,此種預認證計劃僅適用于風險較低的醫(yī)療AI產(chǎn)品,對于具有較高風險的AI輔助診斷和治療產(chǎn)品似乎并不適合。
綜上,醫(yī)療AI產(chǎn)品監(jiān)管的重中之重,是制定出一套科學、合理、明確的分類標準,明確各類產(chǎn)品的風險等級、入市的法律標準以及臨床應用的技術(shù)要求。針對高風險的AI產(chǎn)品,應采取更加嚴格謹慎的標準,從而大程度上降低其出現(xiàn)醫(yī)療事故的風險;針對低風險的AI產(chǎn)品,則應采取類似于上述預認證的監(jiān)管模式,為相關(guān)產(chǎn)品和技術(shù)的快速發(fā)展和升級提供相對寬松的監(jiān)管環(huán)境。至于醫(yī)療AI產(chǎn)品風險等級的劃分依據(jù),則應當綜合考慮其處理對象(如:癌癥、惡性腫瘤等疾病的影像)的嚴重程度、所需數(shù)據(jù)標準化程度以及所采用算法的成熟程度和公開程度。
針對醫(yī)療人工智能的監(jiān)管,除了要在事前審批和日常監(jiān)管上下文章外,明確AI輔助診斷和治療的醫(yī)療責任主體、劃清各方的權(quán)責范圍同樣至關(guān)重要。目前,我國侵權(quán)責任法對傳統(tǒng)的醫(yī)療器械造成損害的責任承擔問題進行了比較明確的規(guī)定,即由缺陷醫(yī)療器械的生產(chǎn)者和醫(yī)療機構(gòu)承擔不真正連帶責任,被侵權(quán)人既可以選擇向缺陷醫(yī)療器械的生產(chǎn)者,也可以選擇向醫(yī)療機構(gòu)請求損害賠償,如果醫(yī)療機構(gòu)先行承擔了賠付責任,則其有權(quán)向負有責任的生產(chǎn)者追償。然而,采取此種責任劃分方式的前提,是能夠比較明確地厘清造成醫(yī)療事故的主要原因是醫(yī)療器械的缺陷還是醫(yī)生的診斷失誤。
與傳統(tǒng)醫(yī)療器械不同,AI輔助診斷和治療產(chǎn)品往往會通過一定的算法抽取和分析海量的病歷與文獻數(shù)據(jù),并在此基礎(chǔ)上形成病情評估、診療建議、藥物禁忌等結(jié)論,從而為醫(yī)生的臨床決策提供支持。但是由于“技術(shù)黑箱”的存在,包括使用AI輔助診斷產(chǎn)品的醫(yī)生在內(nèi)的所有人,都無從知曉算法究竟為何抓取這些文獻、如何提取不同的診療方案以及如何對不同的診療方案作出評價并選出優(yōu)方案。因此,當醫(yī)生因使用AI輔助診斷和治療產(chǎn)品而造成醫(yī)療事故時,外界將很難認定和判斷其責任歸屬,而這就使得傳統(tǒng)醫(yī)療器械造成損害的歸責方式在醫(yī)療人工智能領(lǐng)域難以適用。
而要破解這一難題,一方面需要AI技術(shù)的不斷提升以進一步增強算法的透明度或可解釋性,另一方面則需要在立法層面上構(gòu)建起合理的AI產(chǎn)品致人損害的責任分擔方式,從而在保障被侵權(quán)人的合法權(quán)益和鼓勵醫(yī)療AI產(chǎn)品的開發(fā)與應用之間取得平衡。對此,可以考慮由醫(yī)生(醫(yī)療機構(gòu))對AI輔助診斷和治療產(chǎn)品引發(fā)的醫(yī)療事故承擔首要責任,這是因為根據(jù)前述國家衛(wèi)生計生委員會發(fā)布的兩份關(guān)于醫(yī)療人工智能的技術(shù)規(guī)范,盡管AI輔助診斷和治療產(chǎn)品可以為醫(yī)生的決策提供建議,但其僅具有輔助性的地位,終的決策必須由具有醫(yī)師資質(zhì)和一定經(jīng)驗的醫(yī)生作出,因此由醫(yī)生(醫(yī)療機構(gòu))承擔醫(yī)療責任并無不公。
當然,如果醫(yī)療機構(gòu)能夠證明AI輔助診斷和治療產(chǎn)品對醫(yī)生的決策失誤產(chǎn)生了關(guān)鍵作用(例如AI產(chǎn)品提供的醫(yī)學影像錯誤等),則可以要求AI產(chǎn)品的生產(chǎn)者承擔相應的責任。此外,由于此種責任分擔方式為醫(yī)療機構(gòu)設置了較重的責任,很有可能會給AI輔助診斷和治療產(chǎn)品進入臨床應用帶來巨大的阻礙,因而可以考慮引入針對AI產(chǎn)品的強制責任保險制度,強制要求AI產(chǎn)品的生產(chǎn)者為具有較高風險的AI輔助診斷和治療產(chǎn)品投保,從而分擔AI產(chǎn)品的風險,進一步激發(fā)醫(yī)療機構(gòu)使用AI輔助診斷和治療產(chǎn)品的積極性。
人工智能的發(fā)展與創(chuàng)新,正在使人們的生產(chǎn)和生活方式發(fā)生劇變,而針對人工智能產(chǎn)品的監(jiān)管思路和方式也必須相應地作出改變。針對醫(yī)療人工智能的監(jiān)管更要兼顧醫(yī)療行業(yè)和人工智能兩者的特殊性,創(chuàng)新監(jiān)管方式,進一步促進醫(yī)療行業(yè)的智能化和人工智能應用的多元化。