湖南嚴禁互聯(lián)網(wǎng)醫(yī)院用AI開處方,此前多地設“紅線” 律師:如個人使用致“誤診”AI不擔責
來源:紅星新聞 2025-02-23
近日,湖南省醫(yī)療保障局發(fā)布《關于進一步加強基本醫(yī)療保障定點零售藥店管理的通知》(以下簡稱《通知》),其中明確規(guī)定互聯(lián)網(wǎng)醫(yī)院嚴禁使用人工智能等自動生成處方,引發(fā)網(wǎng)友關注。
紅星新聞記者注意到,其實在3年前發(fā)布的《互聯(lián)網(wǎng)診療監(jiān)管細則(試行)》中,也有明確“處方應由接診醫(yī)師本人開具,嚴禁使用人工智能等自動生成處方”的規(guī)定。
有網(wǎng)友表示,禁止由人工智能開處方是理所應當?shù)氖虑椋t(yī)生需要對患者負責,如果把處方權交給人工智能,是對患者的不負責。
紅星新聞記者調(diào)查后發(fā)現(xiàn),雖然禁止由人工智能開處方,但是人工智能其實并沒有被“隔離”在醫(yī)院之外,人工智能技術已經(jīng)在很多醫(yī)院幫助醫(yī)生工作,特別是近期又有很多醫(yī)院宣布接入了DeepSeek。
2月23日,《醫(yī)改界》創(chuàng)始人、AI醫(yī)院運營管理研究院院長魏子檸接受紅星新聞記者采訪時表示,禁止人工智能開處方,并不是代表著禁止醫(yī)院使用人工智能工具來輔助醫(yī)生工作。人工智能在醫(yī)院可以幫助醫(yī)生看片子、整理資料,但患者的治療方案制定、如何用藥,還是要由醫(yī)生來做決定的。“100年以后什么樣子不好說,但是至少最近這幾十年人工智能只能是醫(yī)生的輔助,而不能代替醫(yī)生的工作。”
湖南明確禁止醫(yī)院用AI生成處方
多年前已有此類規(guī)定
根據(jù)湖南省醫(yī)保局此次發(fā)布的《通知》中,關于“規(guī)范定點零售藥店購藥處方”的內(nèi)容規(guī)定,互聯(lián)網(wǎng)醫(yī)院須按規(guī)定接入省醫(yī)保電子處方中心并進行電子處方流轉(zhuǎn),處方行為須嚴格執(zhí)行《關于印發(fā)互聯(lián)網(wǎng)診療管理辦法(試行)等3個文件的通知》和《關于印發(fā)〈互聯(lián)網(wǎng)診療監(jiān)管細則(試行)〉的通知》等有關規(guī)定,應與患者或患者家屬進行有效、充分的溝通問診,嚴禁使用人工智能等自動生成處方。
紅星新聞注意到,根據(jù)國家衛(wèi)健委、國家中醫(yī)藥局2022年發(fā)布的《互聯(lián)網(wǎng)診療監(jiān)管細則(試行)》中,就有多處對人工智能使用的限制規(guī)定,其中包括“醫(yī)師接診前需進行實名認證,確保由本人提供診療服務。其他人員、人工智能軟件等不得冒用、替代醫(yī)師本人提供診療服務”,此外“處方應由接診醫(yī)師本人開具,嚴禁使用人工智能等自動生成處方”。
北京一家三甲醫(yī)院心臟內(nèi)科的醫(yī)生告訴紅星新聞,醫(yī)院醫(yī)生開處方的時候是不會使用人工智能來進行輔助的,而購藥平臺在銷售處方藥的時候,線上醫(yī)生會開具電子處方。據(jù)其了解,這些也是由值班醫(yī)生在線開具的,不會出現(xiàn)使用人工智能來開具的情況,因為醫(yī)生要對自己所開具的處方負責。
不過該醫(yī)生也表示,規(guī)定“嚴禁使用人工智能等自動生成處方”也是制度上的進一步明確。“畢竟現(xiàn)在人工智能的應用比較多,很多醫(yī)院也在使用人工智能輔助醫(yī)生的工作。但是像開具處方、決定治療方案這種事情,還是需要由人來決定。”
多家醫(yī)院接入DeepSeek
醫(yī)生:多年前AI就能幫醫(yī)生看片子
紅星新聞注意到,近日有多家醫(yī)院或醫(yī)療機構表示,已經(jīng)接入DeepSeek等人工智能工具。
據(jù)“阜陽發(fā)布”本月21日消息,阜陽市人民醫(yī)院已與中國聯(lián)通阜陽市分公司達成合作,成功實現(xiàn)DeepSeek大模型私有化部署。其中包括使用DeepSeek分析海量病例,發(fā)現(xiàn)潛在疾病規(guī)律,助力診療方案優(yōu)化,同時實現(xiàn)文獻智能檢索,科研人員輸入關鍵詞,DeepSeek秒級匯總?cè)蜃钚卵芯砍晒6诨颊呔驮\方面,DeepSeek導診系統(tǒng)能通過自然語言處理技術理解患者描述的癥狀,推薦合適的科室和醫(yī)生,還可根據(jù)醫(yī)生排班和患者時間偏好,提供最優(yōu)預約選項等。在醫(yī)生診斷方面,病理切片通過DeepSeek識別,精準篩查癌細胞,減少人為誤差等。
西安一家大型三甲醫(yī)院的醫(yī)生向紅星新聞表示,使用人工智能輔助醫(yī)生工作并不是最近一兩年才開始的事情,“今年之前,我們醫(yī)院就已經(jīng)開始使用人工智能軟件來幫助醫(yī)生看片子了,這些工具可以幫助醫(yī)生發(fā)現(xiàn)容易被誤診的病灶,并進行標記和提示,從而降低誤診率。”
不過該醫(yī)生強調(diào),人工智能工具只是輔助手段和重要幫手,在全過程中最終來做決斷的還是醫(yī)生。
紅星新聞記者注意到,目前在小紅書、抖音等社交平臺上,有不少實名認證的醫(yī)生發(fā)布了使用DeepSeek查詢治療方案的評測視頻,其中多數(shù)給出了使用DeepSeek看病比較“靠譜”的測評結果。
例如北京大學深圳醫(yī)院胸外科主任謝遠財就測評了使用DeepSeek在肺結節(jié)診斷過程中的準確性和可靠性,醫(yī)生向DeepSeek輸入了一名典型患者的病理情況,并詢問如何處理、是否需要手術等問題。
謝遠財表示,DeepSeek給出的建議整體上還是比較全面的——實際上這名患者已經(jīng)觀察了兩三個月,后來進行手術證實是一個微小浸潤性腺癌;DeepSeek給出的建議和方案,基本上和醫(yī)生的建議相吻合,通過手術也證實了患者患有早期腫瘤的結論,“整體來說還是比較強大和周到的”。
DeepSeek給出建議后會提示“僅供參考”
專家:短時間內(nèi)無法替代醫(yī)生
紅星新聞記者23日使用DeepSeek咨詢了疾病的治療、藥物使用等問題,DeepSeek都給出了相應建議。不過,紅星新聞記者也注意到,DeepSeek在回答中會提示,給出的建議“僅供參考”并“請遵醫(yī)囑”。例如在詢問甲亢藥物使用方面,DeepSeek就表示,雖然給出建議,但是“請務必以醫(yī)生的處方為準”。
魏子檸在接受紅星新聞記者采訪時表示,人工智能是沒有處方權的,因此無論是法律法規(guī),還是根據(jù)國家、地方的相關規(guī)定,人工智能工具肯定是不能夠給患者開具處方的。而且真的按照人工智能開出的藥方去吃藥,出現(xiàn)問題的話人工智能也無法對患者負責,“因此這個口子是絕對不可能開的”。
魏子檸同時表示,人工智能如果合理運用,是可以成為醫(yī)生工作的有力助手的。“比如幫助醫(yī)生分析片子,或者分析一些檢驗報告、檢查,給醫(yī)生提供診療意見,以及病歷梳理等。”他說,“但是在這個過程中主導和做決定的肯定是醫(yī)生,DeepSeek等人工智能技術只能是一種輔助手段。100年以后什么樣子不好說,但是至少最近這幾十年人工智能只能是醫(yī)生的輔助,而不能代替醫(yī)生的工作。”
▲2024年2月21日,醫(yī)生在湖州市中心醫(yī)院放射科,在AI“助手”的輔助下對影像報告進行診斷確認 圖據(jù)視覺中國
河南澤槿律師事務所主任付建在接受紅星新聞記者采訪時表示,如果是個人使用DeepSeek“看病”,一旦出現(xiàn)“誤診”等情況,DeepSeek一方是無需擔責的,“DeepSeek已明確告知給出的處方僅供參考,不能作為直接的診療方案。并且DeepSeek只是一個人工智能軟件,只能作為一種醫(yī)療建議,處方在沒有經(jīng)過專業(yè)醫(yī)生的認可下不能作為專業(yè)的診斷方法。”
付建還表示,《藥品零售企業(yè)執(zhí)業(yè)藥師藥學服務指南》明確規(guī)定,執(zhí)業(yè)藥師可以通過計算機信息系統(tǒng)輔助開展處方審核及藥學服務,但不能完全由人工智能程序替代。因此醫(yī)生使用DeepSeek等作為診斷輔助是可以的,但是人工智能給出的內(nèi)容只能作為一種參考,如果醫(yī)生將Deepseek等給出的處方直接給患者使用,那說明醫(yī)生是認可這種治療方法的,如果發(fā)生醫(yī)療事故,是需要醫(yī)生承擔相應責任的。
北京藍鵬律師事務所主任張起淮向紅星新聞記者表示,以DeepSeek為代表的人工智能工具的輸出內(nèi)容僅可作為輔助參考,不能替代專業(yè)醫(yī)生的判斷。根據(jù)DeepSeek的用戶協(xié)議,其明確指出所提供的內(nèi)容僅供參考,不構成專業(yè)建議,且不對輸出內(nèi)容的準確性、完整性負責。在我國,醫(yī)療處方必須由具備資質(zhì)的醫(yī)療機構和專業(yè)醫(yī)生開具,因此如果患者自行按照DeepSeek的建議進行治療,而未經(jīng)專業(yè)醫(yī)生的確認,一旦出現(xiàn)問題,DeepSeek通常不承擔法律責任,患者需要自行承擔因使用該建議而產(chǎn)生的風險。
張起淮說,其實在政策層面上,很多地方此前也已為人工智能涉及的領域設置“紅線”,例如北京市衛(wèi)健委曾在2023年出臺政策要求醫(yī)生禁止使用AI生成處方,且人工智能軟件等不得冒用、替代醫(yī)師本人提供診療服務。這意味著,醫(yī)生在使用DeepSeek等智能工具輔助工作時,必須以嚴謹?shù)膽B(tài)度,根據(jù)病人的病情,結合自身專業(yè)知識做出決策,如果醫(yī)生違規(guī)使用人工智能開處方,一旦出現(xiàn)問題,醫(yī)生需要承擔相應的法律責任。
“人工智能的發(fā)展確實為就醫(yī)、看病帶來了便利,但作為個人,我們應審慎對待這些工具的建議,將其作為參考而非決策依據(jù)。當身體出現(xiàn)不適時,最明智的選擇仍然是前往正規(guī)醫(yī)院,接受專業(yè)醫(yī)生的診斷和治療。”張起淮說。
紅星新聞記者 付垚
編輯 郭宇 責編 李彬彬