中醫(yī)擁抱人工智能,是千年中醫(yī)智慧和現(xiàn)代新質(zhì)生產(chǎn)力的結(jié)合,也是中醫(yī)藥現(xiàn)代化的技術(shù)和橋梁,必將為人類醫(yī)療健康領(lǐng)域注入新的動(dòng)力。然而,中醫(yī)和人工智能融合的快速發(fā)展也面臨著諸多風(fēng)險(xiǎn),必須準(zhǔn)確地識(shí)別、規(guī)范地運(yùn)用,依法構(gòu)建符合中醫(yī)藥特點(diǎn)、遵循中醫(yī)藥發(fā)展規(guī)律的治理體系,才能推動(dòng)人工智能技術(shù)在中醫(yī)藥領(lǐng)域的可持續(xù)發(fā)展。
“中醫(yī)藥+AI”的風(fēng)險(xiǎn)
技術(shù)風(fēng)險(xiǎn)
“中醫(yī)藥+AI”的健康發(fā)展依賴于安全規(guī)范的人工智能技術(shù)。如果數(shù)據(jù)不可靠,人工智能得出的結(jié)論也不正確。技術(shù)安全風(fēng)險(xiǎn)分為內(nèi)生與衍生兩種:內(nèi)生技術(shù)安全是指在新技術(shù)的迭代創(chuàng)新過(guò)程中,數(shù)據(jù)、算法、模型等不可避免會(huì)出現(xiàn)一些安全漏洞或新技術(shù)的天然缺陷;衍生技術(shù)的安全風(fēng)險(xiǎn)指的是即使新技術(shù)本身缺陷不影響運(yùn)行,但可能會(huì)被其他相關(guān)領(lǐng)域利用,使其產(chǎn)生安全風(fēng)險(xiǎn)。
倫理風(fēng)險(xiǎn)
“中醫(yī)藥+AI”在應(yīng)用中面對(duì)的倫理風(fēng)險(xiǎn)主要有:人機(jī)協(xié)作實(shí)時(shí)價(jià)值對(duì)齊困難、大模型幻覺(jué)、利益相關(guān)者不同的訴求未平衡、因數(shù)字鴻溝和算法偏見(jiàn)導(dǎo)致的醫(yī)療不公平等。出現(xiàn)這些問(wèn)題的原因很多,一是算法在研發(fā)和運(yùn)營(yíng)時(shí)往往有多個(gè)價(jià)值目標(biāo),這些價(jià)值目標(biāo)有可能會(huì)發(fā)生沖突,此時(shí)就需要考慮算法價(jià)值目標(biāo)的順位和取舍問(wèn)題;二是人工智能結(jié)合中醫(yī)藥的實(shí)踐應(yīng)用中涉及多方主體,需要平衡利益相關(guān)者之間的不同倫理訴求;三是在不同地域、不同社會(huì)群體由于缺乏資金、人才等,會(huì)在網(wǎng)絡(luò)空間體現(xiàn)出“醫(yī)療數(shù)字鴻溝”,難以被“中醫(yī)藥+AI”服務(wù)覆蓋。
法律風(fēng)險(xiǎn)
人工智能的侵權(quán)責(zé)任難以界明是“中醫(yī)藥+AI”存在的法律風(fēng)險(xiǎn)。中醫(yī)藥數(shù)據(jù)庫(kù)的應(yīng)用匯聚了大量中醫(yī)藥健康醫(yī)療數(shù)據(jù)和中醫(yī)藥傳統(tǒng)知識(shí)數(shù)據(jù),自然可能存在醫(yī)療數(shù)據(jù)泄露或者醫(yī)療信息被非法使用的風(fēng)險(xiǎn),因此中醫(yī)藥數(shù)據(jù)的合法合規(guī)使用是發(fā)展“中醫(yī)藥+AI”的關(guān)鍵和保障。
依法治理促進(jìn)“中醫(yī)藥+AI”健康發(fā)展
黨的二十屆三中全會(huì)也提出“建立人工智能安全監(jiān)管制度”,對(duì)人工智能的安全發(fā)展指明了方向。應(yīng)在“以人為本”和“患者賦權(quán)”的基礎(chǔ)上,構(gòu)建系統(tǒng)性依法治理機(jī)制。
前端賦權(quán):構(gòu)建“中醫(yī)藥+AI”的個(gè)體賦權(quán)體系
一是建立“中醫(yī)藥+AI”數(shù)據(jù)權(quán)利體系。我國(guó)目前沒(méi)有醫(yī)療數(shù)據(jù)權(quán)的相關(guān)立法,實(shí)踐中保護(hù)醫(yī)療數(shù)據(jù)主要以簽訂知情同意書(shū)、保密協(xié)議、對(duì)個(gè)人醫(yī)療數(shù)據(jù)進(jìn)行匿名化處理等方式,并不能確保患者的知情權(quán)都落實(shí),匿名化處理數(shù)據(jù)技術(shù)也存在一些缺陷。因此,應(yīng)當(dāng)建立醫(yī)療數(shù)據(jù)權(quán)利體系,加快相關(guān)領(lǐng)域、環(huán)節(jié)的立法,使醫(yī)療數(shù)據(jù)的權(quán)屬明確、授權(quán)程序合規(guī),追溯定責(zé)完備。
二是建立“中醫(yī)藥+AI”算法權(quán)利體系。針對(duì)算法“黑箱”的問(wèn)題,可將算法權(quán)利賦予患者,使患者有權(quán)對(duì)算法的運(yùn)行進(jìn)行監(jiān)督,就能夠減少風(fēng)險(xiǎn)。賦予患者算法權(quán)利,主要包括賦予患者算法解釋權(quán)和算法自動(dòng)化決策拒絕權(quán)。具體指醫(yī)務(wù)人員應(yīng)當(dāng)以可理解的方式向患者解釋人工智能醫(yī)療可能會(huì)出現(xiàn)的結(jié)果以及可能會(huì)影響的合法權(quán)益,同時(shí)應(yīng)當(dāng)明確告知患者有拒絕的權(quán)利。
中端監(jiān)管:強(qiáng)化“中醫(yī)藥+AI”的運(yùn)行監(jiān)管體系
對(duì)患者賦權(quán)只是一個(gè)為個(gè)體提供自主參與智能醫(yī)療的路徑,并不能完全消除“中醫(yī)藥+AI”所產(chǎn)生的各種風(fēng)險(xiǎn)。因此還需要建立運(yùn)行監(jiān)管體系,形成自我監(jiān)管、專門監(jiān)管、風(fēng)險(xiǎn)監(jiān)管三層監(jiān)管模式,全面保障“中醫(yī)藥+AI”的技術(shù)安全。
自我監(jiān)管主要是指“中醫(yī)藥+AI”的運(yùn)營(yíng)商應(yīng)當(dāng)確保算法合規(guī);專門監(jiān)管是指可設(shè)立“中醫(yī)藥+AI”的專門監(jiān)管機(jī)構(gòu),賦予其相應(yīng)的權(quán)力規(guī)范AI應(yīng)用;風(fēng)險(xiǎn)監(jiān)管是指采用分類方式,明確不同風(fēng)險(xiǎn)級(jí)別的監(jiān)管內(nèi)容、監(jiān)管措施和監(jiān)管流程。
后端追責(zé):完善“中醫(yī)藥+AI”的侵權(quán)追責(zé)體系
當(dāng)“中醫(yī)藥+AI”發(fā)生侵權(quán)時(shí),主要涉及醫(yī)療產(chǎn)品責(zé)任和醫(yī)療損害責(zé)任。因此,只有明確“中醫(yī)藥+AI”的法律客體地位,完善侵權(quán)責(zé)任規(guī)則體系,建立賠償分擔(dān)機(jī)制,才能更好地維護(hù)相對(duì)人的合法權(quán)益。此外,在中醫(yī)藥實(shí)現(xiàn)數(shù)字化轉(zhuǎn)型的過(guò)程中,對(duì)法律、政策、倫理、行業(yè)標(biāo)準(zhǔn)、監(jiān)管等手段應(yīng)立體化地系統(tǒng)運(yùn)用,才能應(yīng)對(duì)人工智能產(chǎn)生系統(tǒng)性的風(fēng)險(xiǎn),更好地為“中醫(yī)藥+AI”的安全發(fā)展保駕護(hù)航。
中醫(yī)藥的現(xiàn)代化之路應(yīng)是始終堅(jiān)持走中醫(yī)藥理論精髓和現(xiàn)代技術(shù)深度融合的中醫(yī)藥守正創(chuàng)新和傳承發(fā)展之路。立足“以人為本”的規(guī)范化應(yīng)用,堅(jiān)持依法依規(guī)的治理,是助力中醫(yī)藥實(shí)現(xiàn)數(shù)字化轉(zhuǎn)型,促進(jìn)“中醫(yī)藥+AI”健康發(fā)展的有力手段。