在 Healthcare Dive 虛擬活動(dòng)上發(fā)言的行業(yè)專家表示，醫(yī)療保健組織必須仔細(xì)審查人工智能工具、解決患者擔(dān)憂并關(guān)注標(biāo)準(zhǔn)和法規(guī)。

醫(yī)療保健機(jī)構(gòu)在采用人工智能工具方面面臨諸多障礙。提供商必須解決患者的擔(dān)憂，而付款人和其他生命科學(xué)公司則 在如何平衡效率承諾與偏見等道德問(wèn)題上苦苦掙扎。

他們這樣做都是因?yàn)槌兄Z人工智能將實(shí)現(xiàn)機(jī)械任務(wù)的自動(dòng)化、減少醫(yī)療支出和浪費(fèi)、讓臨床醫(yī)生有更多時(shí)間照顧患者并改變醫(yī)療保健行業(yè)。

然而，專家在11 月 19 日 由 Healthcare Dive 主辦的小組討論 會(huì)上表示，在生成式人工智能通過(guò) ChatGPT 受到公眾歡迎兩年多之后，醫(yī)療保健領(lǐng)域仍在追趕如何監(jiān)管、測(cè)試和實(shí)施這些工具的步伐。

以下是八位醫(yī)療保健專家就組織在實(shí)施人工智能時(shí)應(yīng)考慮的事項(xiàng)以及如何制定標(biāo)準(zhǔn)和法規(guī)提出的建議。

供應(yīng)商如何審查人工智能工具

在決定是否集成 AI 工具時(shí)，提供商應(yīng)采取的第一步是評(píng)估將使用該工具的臨床環(huán)境。梅奧診所平臺(tái)醫(yī)療總監(jiān) Sonya Makhni 表示，并非每種工具都適合診所中的每項(xiàng)任務(wù)。

“一種人工智能算法可能非常適合我的臨床環(huán)境，但可能不適合其他環(huán)境，反之亦然，”馬赫尼 說(shuō)?！搬t(yī)療系統(tǒng)需要了解……要尋找什么，他們需要了解患者群體，這樣他們才能自己做出明智的決定。”

她補(bǔ)充說(shuō)，盡管提供商必須評(píng)估人工智能工具，但由于算法和模型難以理解，他們?cè)诜治鲞@些工具時(shí)面臨著巨大的障礙。

“我們的勞動(dòng)力已經(jīng)很緊張了，”馬赫尼 說(shuō)?！拔覀冋娴牟荒苤竿總€(gè)人都去獲得數(shù)據(jù)科學(xué)或人工智能碩士學(xué)位，才能解釋解決方案?！?/p>

為了解決這一問(wèn)題，服務(wù)提供商在評(píng)估人工智能工具時(shí)應(yīng)該向公共和私人聯(lián)盟（如非營(yíng)利性 健康人工智能聯(lián)盟 ）尋求指導(dǎo)原則。

“我們已經(jīng)學(xué)到了很多關(guān)于解決方案應(yīng)該遵循哪些原則的知識(shí)，”馬赫尼說(shuō)。“所以，安全性、公平性、實(shí)用性、透明度、可解釋性、隱私性，你知道，當(dāng)我們審視人工智能解決方案時(shí)，我們應(yīng)該用這些東西作為視角?！?/p>

解決患者顧慮

一旦提供商決定整合人工智能工具，他們就會(huì)面臨另一個(gè)潛在的絆腳石：他們的患者。

隨著人工智能工具越來(lái)越受歡迎，患者對(duì)醫(yī)生辦公室使用的技術(shù)表示了保留意見。去年，60% 接受調(diào)查的美國(guó)成年人告訴皮尤研究中心， 如果他們的醫(yī)療服務(wù)提供者依賴人工智能 進(jìn)行醫(yī)療護(hù)理，他們會(huì)感到不舒服。

為了讓患者更舒服，普羅維登斯醫(yī)療系統(tǒng)首席醫(yī)療信息官莫林·沙阿表示，臨床醫(yī)生應(yīng)該 強(qiáng)調(diào)，目前人工智能只起到純粹的支持作用。

沙阿說(shuō)：“從很多方面來(lái)說(shuō)，人工智能實(shí)際上是一種為 醫(yī)生提供決策支持的更好方式，這樣他們就不會(huì)錯(cuò)過(guò)任何細(xì)節(jié)，或者可以提出建議?！?/p>

盡管人工智能工具才剛剛開始受到大眾的歡迎，但患者可能會(huì)因?yàn)橹廊斯ぶ悄茉卺t(yī)療領(lǐng)域早已存在而感到更加安心。

大西洋健康系統(tǒng)首席醫(yī)療信息官 Aarti Ravikumar 指出，人工胰腺或閉環(huán)混合胰島素泵等變革工具已成為胰島素依賴患者的“游戲規(guī)則改變者”。

“所有這些工作都是使用人工智能算法完成的，” 拉維庫(kù)馬爾說(shuō)。“所以我們的醫(yī)療設(shè)備或電子病歷中嵌入了人工智能工具，而且這種做法已經(jīng)持續(xù)了很長(zhǎng)時(shí)間?！?/p>

“這些工具都不會(huì)讓臨床醫(yī)生脫離這種互動(dòng)或醫(yī)療決策，”拉維庫(kù)馬爾說(shuō)。“如果我們到了自動(dòng)化決策并將臨床醫(yī)生從決策過(guò)程中移除的階段，我認(rèn)為我們肯定必須做出更多解釋?！?/p>

解決錯(cuò)誤和偏見

每個(gè)組織在集成 AI 模型時(shí)都必須解決小問(wèn)題。但在醫(yī)療保健領(lǐng)域，風(fēng)險(xiǎn)更高，因?yàn)槠姾突糜X(jué)，或者 AI 工具產(chǎn)生虛假或誤導(dǎo)性信息，都可能導(dǎo)致患者護(hù)理中斷。

醫(yī)療服務(wù)提供者并不是唯一一個(gè)面臨偏見的醫(yī)療機(jī)構(gòu)。 付款人因使用人工智能工具拒絕提供醫(yī)療服務(wù)而遭到強(qiáng)烈反對(duì) ，科技公司也被指責(zé) 開發(fā)了加劇現(xiàn)有醫(yī)療差距的工具 。

谷歌云醫(yī)療保健全球總監(jiān) Aashima Gupta 表示，對(duì)于生成式人工智能公司來(lái)說(shuō)，讓人類參與其 中至關(guān)重要，包括來(lái)自專家、護(hù)士或臨床醫(yī)生等用戶的反饋。

古普塔說(shuō)：“對(duì)我來(lái)說(shuō)，這種反饋輸入將使人工智能在特定用例中更加有效?！?/p>

人工智能公司還應(yīng)該徹底測(cè)試他們的模型。在谷歌，專門的團(tuán)隊(duì)試圖通過(guò)詭計(jì)來(lái)破解人工智能工具，比如試圖提示問(wèn)題的錯(cuò)誤答案。她補(bǔ)充說(shuō)，穩(wěn)健的開發(fā)和讓人類參與其中與控制錯(cuò)誤“齊頭并進(jìn)”。

然而，咨詢公司麥肯錫的合伙人 杰西·蘭姆表示，雖然組織應(yīng)該對(duì)錯(cuò)誤和偏見保持謹(jǐn)慎，但人工智能工具可能代表著嘗試減輕醫(yī)療保健偏見的機(jī)會(huì)。

“在引入人工智能之前，醫(yī)療保健系統(tǒng)中存在大量偏見，對(duì)吧？所以我們必須記住，我們并不是從一個(gè)完美的地方開始的，”蘭姆說(shuō)。“我們實(shí)際上可以使用人工智能，并使用一些有意識(shí)的監(jiān)控來(lái)實(shí)際改善我們?cè)卺t(yī)療保健偏見方面所處的一些現(xiàn)狀，我認(rèn)為這實(shí)際上是一個(gè)巨大的機(jī)會(huì)。”

她補(bǔ)充道：“談到使用人工智能時(shí)，我們總是談?wù)撈妿?lái)的下行風(fēng)險(xiǎn)，但實(shí)際上我認(rèn)為這也有很大的好處，可以減輕我們?cè)谙到y(tǒng)中看到的一些現(xiàn)有偏見?！?/p>

制定醫(yī)療保健人工智能的法規(guī)和標(biāo)準(zhǔn)

當(dāng)醫(yī)療保健組織正在決定是否實(shí)施人工智

能時(shí)，聯(lián)邦政府和私人財(cái)團(tuán)正在努力解決如何對(duì)其進(jìn)行監(jiān)管。

盡管聯(lián)邦政府在嘗試規(guī)范這些工具方面取得了逐步進(jìn)展，包括通過(guò) 制定規(guī)則 ，但該行業(yè)的標(biāo)準(zhǔn)仍處于早期階段。

美國(guó)衛(wèi)生與公眾服務(wù)部技術(shù)政策助理部長(zhǎng)兼代理首席人工智能官米基·特里帕蒂 (Micky Tripathi) 表示，與兩年前人工智能成為主流時(shí)相比，人工智能的采用速度很快，這加大了政府制定監(jiān)管法規(guī)的壓力。

特里帕蒂表示，展望未來(lái)，政府和私營(yíng)企業(yè)之間的合作至關(guān)重要。

他說(shuō)：“這里將會(huì)有一個(gè)成熟過(guò)程，我認(rèn)為這個(gè)過(guò)程將是一個(gè)公開且私密的事情?！?/p>

Tripathi 還想知道，什么時(shí)候法規(guī)才能迫使私營(yíng)企業(yè)采用自己的工具標(biāo)準(zhǔn)和認(rèn)證。在該行業(yè)的另一個(gè)領(lǐng)域，政府 為電子健康記錄公司提供申請(qǐng)自愿認(rèn)證的標(biāo)準(zhǔn) 。

“例如，什么因素會(huì)促使普羅維登斯醫(yī)療集團(tuán)等機(jī)構(gòu)感到有必要使用或獲得某種認(rèn)證或某種批準(zhǔn)……來(lái)自提供某些 AI 模型驗(yàn)證服務(wù)的組織？”他說(shuō)?！澳壳?，對(duì)于開發(fā)這些解決方案的開發(fā)人員或?qū)嵤┻@些解決方案的提供商組織來(lái)說(shuō)，這僅僅是一筆純粹的成本?！?/p>

普羅維登斯首席戰(zhàn)略和數(shù)字官 Sara Vaezy 表示，雖然聯(lián)盟可以為人工智能提供高級(jí)框架，但組織也需要開放標(biāo)準(zhǔn)來(lái)幫助從基層解決臨床人工智能用例。

Vaezy 說(shuō)：“我們需要類似于在互操作性方面取得的所有進(jìn)展的開放標(biāo)準(zhǔn)?！?/p>

“如今的挑戰(zhàn)是，聯(lián)盟與我們的工作進(jìn)展相差甚遠(yuǎn)，我們需要迅速縮小差距。我認(rèn)為我們可以做到這一點(diǎn)的方法之一是通過(guò)創(chuàng)建開放標(biāo)準(zhǔn)，”她補(bǔ)充道。

咨詢公司 Virtue 創(chuàng)始人兼首席執(zhí)行官 Reid Blackman 表示，培訓(xùn)提供商需要與制定標(biāo)準(zhǔn)同時(shí)進(jìn)行。它還可以幫助填補(bǔ)與人工智能相關(guān)的法規(guī)或治理方面的空白。

“你可以做很多工作來(lái)教育普通醫(yī)生、護(hù)士等，讓他們了解這些風(fēng)險(xiǎn)是什么，”他補(bǔ)充道。

布萊克曼說(shuō)：“培訓(xùn)是必不可少的一部分，我不想說(shuō)是護(hù)欄，但它是確保事情不會(huì)出錯(cuò)的重要組成部分。”

免責(zé)聲明：

本文所發(fā)布的內(nèi)容和圖片旨在傳播行業(yè)信息，版權(quán)歸原作者所有，非商業(yè)用途。如有侵權(quán)，請(qǐng)與我們聯(lián)系。所有信息僅供參考和分享，不構(gòu)成任何投資建議。加密貨幣市場(chǎng)具有高度風(fēng)險(xiǎn)，投資者應(yīng)基于自身判斷和謹(jǐn)慎評(píng)估做出決策。投資有風(fēng)險(xiǎn)，入市需謹(jǐn)慎。

關(guān)注我們，一起探索AWM！

2024-12-03

2024-11-17

2024-11-16

相關(guān)知識(shí)

人工智能在醫(yī)療健康領(lǐng)域中的應(yīng)用
人工智能在醫(yī)療健康領(lǐng)域的應(yīng)用及挑戰(zhàn)
人工智能大模型在醫(yī)療健康領(lǐng)域的深度應(yīng)用
人工智能在老年醫(yī)療中的應(yīng)用探索.pptx
人工智能在遠(yuǎn)程醫(yī)療中的應(yīng)用：智能化的遠(yuǎn)程健康監(jiān)護(hù)
守護(hù)人類健康：人工智能賦能醫(yī)療領(lǐng)域創(chuàng)新應(yīng)用
醫(yī)療領(lǐng)域的十大人工智能應(yīng)用場(chǎng)景：重塑醫(yī)療健康的未來(lái)
那些應(yīng)用于健康醫(yī)療領(lǐng)域的人工智能技術(shù)
醫(yī)療保健領(lǐng)域的人工智能: 使用案例和技術(shù)
人工智能在醫(yī)療健康領(lǐng)域的革新應(yīng)用

網(wǎng)址: 【人工智能】8 位專家探討人工智能在醫(yī)療保健領(lǐng)域的應(yīng)用 http://www.u1s5d6.cn/newsview810280.html