近年來，得益于醫(yī)療大數(shù)據(jù)、深度學(xué)習(xí)算法的迅猛發(fā)展，人工智能與大健康產(chǎn)業(yè)正在深度融合，覆蓋醫(yī)療、醫(yī)藥、醫(yī)學(xué)等各個(gè)領(lǐng)域。目前，我國(guó)相繼批準(zhǔn)了肺結(jié)節(jié)CT影像輔助檢測(cè)軟件、冠脈CT造影圖像血管狹窄輔助分診軟件、糖尿病視網(wǎng)膜病變眼底圖像輔助診斷軟件等多款醫(yī)療人工智能產(chǎn)品上市。醫(yī)療人工智能依托強(qiáng)大的數(shù)據(jù)挖掘和深度學(xué)習(xí)能力，能夠自主得出診斷結(jié)論和推薦治療方案，廣泛而深刻地影響著醫(yī)療決策的過程和結(jié)果，并且在速度、精準(zhǔn)度方面具有強(qiáng)大優(yōu)勢(shì)，能夠在相關(guān)領(lǐng)域提升診療水平、緩解醫(yī)療資源緊張的問題。

科技是發(fā)展的利器，也可能成為風(fēng)險(xiǎn)的源頭。醫(yī)療人工智能的發(fā)展，為我們呈現(xiàn)了一個(gè)美好前景。與此同時(shí)，相較于自動(dòng)駕駛汽車、人臉識(shí)別技術(shù)等，醫(yī)療人工智能直接應(yīng)用于醫(yī)療活動(dòng)當(dāng)中，與患者的生命健康利益緊密關(guān)聯(lián)，給現(xiàn)行法律規(guī)制提出了更大挑戰(zhàn)。尤其是醫(yī)療損害發(fā)生后的法律責(zé)任承擔(dān)以及醫(yī)療數(shù)據(jù)的保護(hù)和利用等問題存在較多不明確之處，亟待探討解決。

第一，醫(yī)療數(shù)據(jù)的治理難題。醫(yī)療人工智能的深度學(xué)習(xí)需要收集并分析海量的、高質(zhì)量的數(shù)據(jù)資源。由于醫(yī)療數(shù)據(jù)具有特殊性、隱私性，大規(guī)模的共享利用難度很大，數(shù)據(jù)孤島的現(xiàn)象嚴(yán)重。這導(dǎo)致目前醫(yī)療人工智能的數(shù)據(jù)來源較為有限，常常局限于某個(gè)地區(qū)的一家或者幾家醫(yī)療機(jī)構(gòu)，訓(xùn)練數(shù)據(jù)的質(zhì)量與數(shù)量還無法得到保證，這直接影響醫(yī)療人工智能的準(zhǔn)確率和實(shí)用性。

第二，患者知情同意權(quán)的保護(hù)難題。醫(yī)療活動(dòng)中的檢查診斷流程是一套基于現(xiàn)象與結(jié)果之間因果關(guān)系的經(jīng)驗(yàn)演繹，采取的診斷與治療措施依據(jù)的也都是長(zhǎng)期反復(fù)的臨床經(jīng)驗(yàn)總結(jié)。與此不同的是，醫(yī)療人工智能的核心是數(shù)據(jù)和算法，而深度學(xué)習(xí)算法本質(zhì)上是一套基于統(tǒng)計(jì)學(xué)的數(shù)學(xué)模型，輸入層與輸出層更多的是基于某種概率相關(guān)性而非因果關(guān)系，由此會(huì)產(chǎn)生黑箱醫(yī)療問題。這意味著醫(yī)療人工智能可以給出精準(zhǔn)的機(jī)器判斷，卻無法解釋這些判斷是如何作出的。這對(duì)于將知情同意規(guī)則視為基本原則的醫(yī)療領(lǐng)域來說，其中沖突該如何解決值得思考。

第三，醫(yī)療事故的責(zé)任承擔(dān)難題。理想的情況下，醫(yī)療人工智能每次作出的判斷都是正確的，醫(yī)務(wù)人員采納機(jī)器判斷不僅不存在醫(yī)療過失，而且醫(yī)療效果更好。然而，醫(yī)療人工智能無法保證百分百安全。實(shí)踐證明，醫(yī)療人工智能誤診或誤操作等現(xiàn)象難以避免。面對(duì)醫(yī)療人工智能作出的判斷，醫(yī)務(wù)人員究竟是該堅(jiān)持自己的判斷還是采納機(jī)器判斷？如果醫(yī)務(wù)人員接受或者拒絕機(jī)器判斷，進(jìn)而讓患者受到損害的話，那么該如何認(rèn)定醫(yī)務(wù)人員的醫(yī)療過失？醫(yī)療人工智能又是否可以適用產(chǎn)品責(zé)任？傳統(tǒng)醫(yī)患關(guān)系之間發(fā)生糾紛及其責(zé)任認(rèn)定問題在我國(guó)以民法典侵權(quán)編為代表的法律規(guī)定中有較為完善的規(guī)定，人工智能醫(yī)療的介入對(duì)現(xiàn)有醫(yī)療損害責(zé)任承擔(dān)體系產(chǎn)生了沖擊。

面對(duì)醫(yī)療人工智能帶來的上述挑戰(zhàn)，需要堅(jiān)持醫(yī)療人工智能的輔助定位，通過加強(qiáng)解釋和完善立法，建立醫(yī)療人工智能的技術(shù)準(zhǔn)入標(biāo)準(zhǔn)，完善醫(yī)療損害的法律歸責(zé)制度，平衡好患者、醫(yī)務(wù)人員、醫(yī)療機(jī)構(gòu)、技術(shù)設(shè)計(jì)者和生產(chǎn)者的利益與責(zé)任，通過配置妥當(dāng)?shù)姆梢?guī)則，以安全、可靠、可控的技術(shù)產(chǎn)品，來保障技術(shù)發(fā)展與人民群眾的健康安全。

分層分類完善醫(yī)療數(shù)據(jù)保護(hù)與利用規(guī)則。醫(yī)療數(shù)據(jù)的類型非常多樣，既有患者的個(gè)人數(shù)據(jù)，如醫(yī)保數(shù)據(jù)、病歷數(shù)據(jù)等，也有患者與醫(yī)療機(jī)構(gòu)、醫(yī)療人工智能企業(yè)共同產(chǎn)生的數(shù)據(jù)，如臨床數(shù)據(jù)、實(shí)驗(yàn)數(shù)據(jù)等。其中，患者產(chǎn)生的醫(yī)療數(shù)據(jù)多涉及患者的隱私，屬于敏感個(gè)人信息，應(yīng)當(dāng)遵守個(gè)人信息保護(hù)法的規(guī)定，其處理必須有特定的目的以及充分的必要性。對(duì)于各方共同產(chǎn)生的數(shù)據(jù)，則可以通過合理的利益分配機(jī)制，提高各方共享醫(yī)療數(shù)據(jù)的內(nèi)生動(dòng)力，推動(dòng)醫(yī)療數(shù)據(jù)的長(zhǎng)效利用。此外，應(yīng)當(dāng)重視技術(shù)解決方案，通過匿名化、去標(biāo)識(shí)化、聯(lián)邦學(xué)習(xí)等方法，增強(qiáng)醫(yī)療數(shù)據(jù)的利用價(jià)值，打破醫(yī)療數(shù)據(jù)的孤島。

強(qiáng)化患者知情同意權(quán)保護(hù)?；颊咧橥馐轻t(yī)療行為特別是侵入性醫(yī)療行為具有正當(dāng)性的前提。我國(guó)民法典第1219條規(guī)定：“醫(yī)務(wù)人員在診療活動(dòng)中應(yīng)當(dāng)向患者說明病情和醫(yī)療措施。需要實(shí)施手術(shù)、特殊檢查、特殊治療的，醫(yī)務(wù)人員應(yīng)當(dāng)及時(shí)向患者具體說明醫(yī)療風(fēng)險(xiǎn)、替代醫(yī)療方案等情況，并取得其明確同意。”患者對(duì)醫(yī)療人工智能應(yīng)用充分知情并同意使用，才能使人工智能輔助醫(yī)療行為具有正當(dāng)性。面對(duì)醫(yī)療人工智能的黑箱屬性，確立醫(yī)務(wù)人員的算法解釋義務(wù)至關(guān)重要。這種算法解釋義務(wù)應(yīng)當(dāng)是針對(duì)具體決策的解釋，而非針對(duì)系統(tǒng)功能的解釋，并且需要轉(zhuǎn)換為患者易于理解的要素，包括決策依據(jù)、數(shù)據(jù)來源、各要素的權(quán)重等。此外，醫(yī)務(wù)人員還應(yīng)當(dāng)擴(kuò)大告知的范圍，將醫(yī)療人工智能的質(zhì)量控制指標(biāo)告知患者，包括診療準(zhǔn)確率、信息采集準(zhǔn)確率、診療平均時(shí)間、重大并發(fā)癥發(fā)生率等，盡可能幫助患者了解各方情況。

合理分配醫(yī)療事故責(zé)任。醫(yī)療人員是否存在過失，是認(rèn)定醫(yī)療責(zé)任的核心要件之一。根據(jù)《最高人民法院關(guān)于審理醫(yī)療損害責(zé)任糾紛案件適用法律若干問題的解釋》的有關(guān)規(guī)定，醫(yī)務(wù)人員診療過失的判斷除適用當(dāng)時(shí)醫(yī)療水平標(biāo)準(zhǔn)外，還需依據(jù)法律、行政法規(guī)、規(guī)章及其他有關(guān)診療規(guī)范，同時(shí)綜合考慮患者病情的緊急程度、患者個(gè)體差異、當(dāng)?shù)氐尼t(yī)療水平、醫(yī)療機(jī)構(gòu)與醫(yī)務(wù)人員資質(zhì)等因素。這一判斷標(biāo)準(zhǔn)被稱作“合理醫(yī)生”標(biāo)準(zhǔn)。一方面，對(duì)于醫(yī)務(wù)人員來說，無論醫(yī)療人工智能多么智能，其只能是提供輔助診療的工具。這意味著醫(yī)務(wù)人員必須要對(duì)機(jī)器判斷進(jìn)行合理的再判斷，否則即存在醫(yī)療過失。對(duì)此，可以通過“合理醫(yī)生”標(biāo)準(zhǔn)來加以靈活判斷，即醫(yī)務(wù)人員在既有情況下是否盡到一位理性醫(yī)生應(yīng)當(dāng)盡到的注意義務(wù)，如是否運(yùn)用了自己的專業(yè)知識(shí)進(jìn)行直接驗(yàn)證，是否考慮了算法成熟度、數(shù)據(jù)質(zhì)量等間接因素。另一方面，雖然醫(yī)療人工智能常常以軟件形式出現(xiàn)，但在滿足一定條件時(shí)仍然可以適用產(chǎn)品責(zé)任。如果醫(yī)療人工智能的表現(xiàn)遠(yuǎn)低于醫(yī)務(wù)人員，如系統(tǒng)頻繁漏診明顯的病灶、開出的藥方經(jīng)常違背基本醫(yī)理，根本起不到應(yīng)有的輔助作用，那么可以認(rèn)定其存在產(chǎn)品缺陷，生產(chǎn)者需與醫(yī)療機(jī)構(gòu)共同承擔(dān)產(chǎn)品責(zé)任。