首頁資訊【患者安全】人工智能機器人與患者隱私泄露風險

【患者安全】人工智能機器人與患者隱私泄露風險

來源：泰然健康網時間：2024年12月29日 07:20

Health Care Privacy Risks of AI Chatbots

編譯自：Genevieve P.?Kanter,? Viewpoint JAMA. July 6, 2023

隨著ChatGPT的首次亮相，臨床醫(yī)生和衛(wèi)生系統(tǒng)正在接受這位聰明、流利的同事，渴望他能幫助完成醫(yī)學中一些最吃力不討好的事情。人工智能(AI)驅動的聊天機器人（chatbot）已經通過了美國醫(yī)師執(zhí)照考試，而且可以毫無怨言地根據(jù)大量臨床事實，寫出結構化的醫(yī)療記錄，識別賬單代碼，并對患者所提的門戶信息做出回應，這看起來對于患者似乎是一個絕對的福音。

【健康保險流通和責任法案（HIPAA）與人工智能】

然而，所有技術的進步都存在一定的不確定性和風險，尤其是涉及到處理受保護的醫(yī)療健康信息(protected health information，PHI)技術時。盡管人們都知道在醫(yī)療相關領域中部署人工智能存在許多風險，但人工智能聊天機器人對患者隱私構成的風險是獨特的。

使用人工智能來預測患者風險和改善工作流程并不是什么新鮮事。幾十年來，醫(yī)院和衛(wèi)生系統(tǒng)都一直在與相關數(shù)據(jù)分析公司合作，以此來分析電子病歷記錄。人工智能一直在這些分析產品中不斷擴大應用。在與這些公司簽訂合同時，衛(wèi)生系統(tǒng)已經建立了完善的標準，以保護患者的健康信息。健康保險流通與責任法案（The Health Insurance Portability and Accountability Act ，HIPAA)允許醫(yī)療機構作為負責保護個人隱私的主體，與有資質的商業(yè)公司合作并簽訂協(xié)議，以此來確?；颊叩碾[私。

【患者的健康信息與人工智能聊天機器人】

人工智能聊天機器人的創(chuàng)新和風險不在于它的人工智能引擎，而在于它的聊天功能。會話聊天界面允許臨床醫(yī)生直接輸入不同的醫(yī)療關鍵詞，在幾秒鐘內就能生成醫(yī)療就診記錄，這些就診記錄可以作為患者醫(yī)療記錄的一部分，保險公司所需要的醫(yī)療信息，或患者就診后的最終病歷。例如，使用聽寫相關軟件實時所形成的醫(yī)患溝通記錄，會被實時傳輸?shù)饺斯ぶ悄芰奶旃ぞ咧腥??？梢粤⒓匆运璧闹饔^、客觀、評估和計劃(SOAP)格式生成令人滿意的病歷記錄，臨床醫(yī)生可以多次在聊天窗口中復制和粘貼這些就診的記錄，并附上檢查結果，以生成耗時的、事先授權的請求信息。

雖然將醫(yī)療信息粘貼到聊天界面的便利性很誘人，但臨床醫(yī)生和衛(wèi)生系統(tǒng)可能會無意中違反HIPAA，并因這些聊天機器人所查詢得到的信息而招致大量罰款和處罰。HIPAA禁止未經授權披露患者的健康信息，其中包括受保護實體持有或網絡傳輸?shù)摹皞€人可識別的健康信息”。這些信息包括任何可用于識別個人身份的信息，以及與他們的身體或精神健康、所提供的保健服務或為這些服務所支付相關的信息。許多常見的特殊識別信息，如姓或名、醫(yī)療記錄號、出生日期和居住城市，都構成患者的健康信息。

臨床醫(yī)生可能沒有意識到，通過使用ChatGPT，他們正在將信息提交給另一個組織，即擁有并支持該技術的人工智能開發(fā)公司。換句話說，臨床信息，一旦通過聊天窗口提交，就已經離開了其所在實體機構的限制，被上傳到聊天軟件所在公司運營的服務器上。鑒于人工智能開發(fā)公司可能尚未與任何醫(yī)療服務部門簽署商業(yè)合作協(xié)議，根據(jù)HIPAA規(guī)定，將患者的健康信息輸入聊天機器人是未經授權的披露。

請注意，這個問題與輸入聊天機器人的醫(yī)療信息可能被集中合并到機器人中，以此來訓練數(shù)據(jù)庫，并向該工具的其他用戶泄露的問題是分開的。這種患者的健康信息的潛在傳播是令人擔憂的，但人工智能開發(fā)者允許用戶選擇退出，并且不使用他們的內容來改進聊天機器人的性能，然而選擇退出并不能避免違反HIPAA。一旦患者的健康信息被輸入ChatGPT，就發(fā)生了未經授權的披露，并且無論用戶是否允許將醫(yī)療內容用于提高機器人的性能，醫(yī)療內容都已經在公司服務器上。

【臨床醫(yī)生和相關實體指南】

對臨床醫(yī)生來說，最迫切希望給他們指導的是避免向聊天機器人輸入任何包含患者的健康信息的信息。要做到這點實際上比聽起來要難得多。他們自己在日常交流、會面時的文字記錄中可能包含著一些善意的語言，比如“別擔心，林肯先生”，“這只是皮肉傷，我們會馬上治好你的”。這些都被認為是患者的健康信息。在這種情況下，隨便提到一個人的住處(“你在斯普林菲爾德的新住處怎么樣?”)也是患者的健康信息。舉幾個例子，病人的名字，包括昵稱，相關地理位置信息，以及入院和出院日期，都必須在將記錄輸入聊天工具之前將其刪除。類似地，在聊天機器人涉及帶有患者介紹和檢測結果信息的，在日常非正式咨詢查詢時都必須刪除所有標識性特殊性語言。

病歷記錄通常在其標題或頁邊空白處注明有醫(yī)療記錄編號、出生日期或社保賬號等信息。在使用任何聊天機器人之前，還必須系統(tǒng)地刪除這些標識符。即使在給保險公司的信息中，包括患者姓名和健康計劃受益人號碼，在生成人工智能信息文件之前，所有標識符都必須被刪除，然后再重新插入。

在所有這些情況下，美國衛(wèi)生與公眾服務部門(HHS)的規(guī)定可以提供指導。這些條例規(guī)定了至少18個相關標志性信息，這些標志性信息必須刪除，才能被認為是去標識的健康信息，因此不屬于患者的健康信息的定義。

盡管從聊天輸入中清除患者的健康信息的負擔落在了需要查詢病歷的臨床醫(yī)生身上，但所涉及的相關部門可以采取措施來搭建防止無意中泄露患者的健康信息的環(huán)境。至少，從現(xiàn)在開始，相關部門應該提供專門針對聊天機器人風險的培訓，并在每年度進行HIPAA的培訓。其他限制性更強的方法還包括，只允許接受過培訓的員工訪問聊天機器人，或者禁止網絡訪問聊天機器人。

【當患者的健康信息被披露后該怎么做？】

假設衛(wèi)生系統(tǒng)盡了最大努力，但還是有人無意中將患者的健康信息輸入了聊天機器人中。未經授權披露患者的健康信息被認為是違規(guī)行為，通常會向衛(wèi)生與公眾服務部的執(zhí)法部門——民權辦公室(OCR)報告。這可能會導致民權辦公室進行費時費力的調查，每次違規(guī)可能會處以100美元至50,000美元以上的罰款，每個受影響的患者都被視為單獨的HIPAA違規(guī)行為。違規(guī)行為也經常被要求公開披露。這可能導致集體訴訟和一般的名譽損害，更不用說失去病人的信任了。雖然直接傷害患者的情況很少，但一旦患者的健康信息被傳到公司的服務器上，就無法保證隱私，而且泄露的社保號碼等標識性信息可能導致隱私泄露。

但是，如果受保護的患者能夠通過HIPAA評估風險，證明患者的健康信息被泄露的可能性很低，則可以克服違約的假設—人工智能開發(fā)者確實有一個刪除賬戶和相關聊天信息的程序，但刪除可能需要30天。此外，如果聊天機器人提供商被告知患者的健康信息被泄露，并愿意聲明他們沒有使用、披露或查看信息，并且已刪除信息。這可能有助于克服HIPAA對違規(guī)行為的判斷。但目前尚不清楚這些公司將如何回應這些要求，它們可能無法或拒絕以這樣或那樣的方式發(fā)表任何聲明。無論如何，臨床醫(yī)生和他們的雇主都不希望承擔違反HIPAA責任的負擔。

【健康系統(tǒng)、HIPAA和人工智能聊天機器人的未來】

最終，面對人工智能聊天機器人入侵風險，衛(wèi)生健康系統(tǒng)必須決定是阻止臨床醫(yī)生使用這項技術，還是接受它。有一些事實證據(jù)表明，一些衛(wèi)生健康系統(tǒng)出于對違反HIPAA風險的警惕，正在禁止在工作中使用聊天機器人。雖然禁令可能是一種合理的短期策略，但它們可能難以執(zhí)行和維持。更有可能的長期情況是，人工智能聊天機器人的創(chuàng)新者將直接與醫(yī)療保健機構合作，實現(xiàn)人工智能聊天功能。根據(jù)商業(yè)合作協(xié)議，這些公司可以以符合HIPAA的方式接收和處理患者的健康信息內容，并可能根據(jù)需要開發(fā)算法，以此來刪除患者的健康信息。

人工智能聊天機器人是一種非常強大的工具，具有非常大的潛力，可以提高臨床護理的質量和效率。然而，當臨床醫(yī)生將這些新工具納入他們的實踐時，他們也必須對這些工具在患者醫(yī)療照護的其他方面(如患者隱私)構成的風險保持警惕。在有更安全的方式使用聊天機器人之前，臨床醫(yī)生和受保護的實體衛(wèi)生健康部門必須采取積極措施，防止未經授權的患者的健康信息泄露及其危害。

【作者】Genevieve P. Kanter，博士，南加州大學Sol Price公共政策學院衛(wèi)生政策與管理系。

翻譯：代濤重慶護理職業(yè)學院，重醫(yī)一院急診科

審校：肖明朝重慶護理職業(yè)學院，重醫(yī)一院泌尿外科

本文由“健康號”用戶上傳、授權發(fā)布，以上內容（含文字、圖片、視頻）不代表健康界立場?！敖】堤枴毕敌畔l(fā)布平臺，僅提供信息存儲服務，如有轉載、侵權等任何問題，請聯(lián)系健康界（jkh@hmkx.cn）處理。

網址: 【患者安全】人工智能機器人與患者隱私泄露風險 http://www.u1s5d6.cn/newsview896039.html