首頁資訊【人工智能】8 位專家探討人工智能在醫(yī)療保健領(lǐng)域的應(yīng)用

【人工智能】8 位專家探討人工智能在醫(yī)療保健領(lǐng)域的應(yīng)用

來源：泰然健康網(wǎng) 時間：2024年12月26日 00:16

在 Healthcare Dive 虛擬活動上發(fā)言的行業(yè)專家表示，醫(yī)療保健組織必須仔細(xì)審查人工智能工具、解決患者擔(dān)憂并關(guān)注標(biāo)準(zhǔn)和法規(guī)。

醫(yī)療保健機構(gòu)在采用人工智能工具方面面臨諸多障礙。提供商必須解決患者的擔(dān)憂，而付款人和其他生命科學(xué)公司則在如何平衡效率承諾與偏見等道德問題上苦苦掙扎。

他們這樣做都是因為承諾人工智能將實現(xiàn)機械任務(wù)的自動化、減少醫(yī)療支出和浪費、讓臨床醫(yī)生有更多時間照顧患者并改變醫(yī)療保健行業(yè)。

然而，專家在11 月 19 日由 Healthcare Dive 主辦的小組討論會上表示，在生成式人工智能通過 ChatGPT 受到公眾歡迎兩年多之后，醫(yī)療保健領(lǐng)域仍在追趕如何監(jiān)管、測試和實施這些工具的步伐。

以下是八位醫(yī)療保健專家就組織在實施人工智能時應(yīng)考慮的事項以及如何制定標(biāo)準(zhǔn)和法規(guī)提出的建議。

供應(yīng)商如何審查人工智能工具

在決定是否集成 AI 工具時，提供商應(yīng)采取的第一步是評估將使用該工具的臨床環(huán)境。梅奧診所平臺醫(yī)療總監(jiān) Sonya Makhni 表示，并非每種工具都適合診所中的每項任務(wù)。

“一種人工智能算法可能非常適合我的臨床環(huán)境，但可能不適合其他環(huán)境，反之亦然，”馬赫尼說?！搬t(yī)療系統(tǒng)需要了解……要尋找什么，他們需要了解患者群體，這樣他們才能自己做出明智的決定?！?/p>

她補充說，盡管提供商必須評估人工智能工具，但由于算法和模型難以理解，他們在分析這些工具時面臨著巨大的障礙。

“我們的勞動力已經(jīng)很緊張了，”馬赫尼說。“我們真的不能指望每個人都去獲得數(shù)據(jù)科學(xué)或人工智能碩士學(xué)位，才能解釋解決方案?！?/p>

為了解決這一問題，服務(wù)提供商在評估人工智能工具時應(yīng)該向公共和私人聯(lián)盟（如非營利性健康人工智能聯(lián)盟）尋求指導(dǎo)原則。

“我們已經(jīng)學(xué)到了很多關(guān)于解決方案應(yīng)該遵循哪些原則的知識，”馬赫尼說。“所以，安全性、公平性、實用性、透明度、可解釋性、隱私性，你知道，當(dāng)我們審視人工智能解決方案時，我們應(yīng)該用這些東西作為視角?！?/p>

解決患者顧慮

一旦提供商決定整合人工智能工具，他們就會面臨另一個潛在的絆腳石：他們的患者。

隨著人工智能工具越來越受歡迎，患者對醫(yī)生辦公室使用的技術(shù)表示了保留意見。去年，60% 接受調(diào)查的美國成年人告訴皮尤研究中心，如果他們的醫(yī)療服務(wù)提供者依賴人工智能進(jìn)行醫(yī)療護(hù)理，他們會感到不舒服。

為了讓患者更舒服，普羅維登斯醫(yī)療系統(tǒng)首席醫(yī)療信息官莫林·沙阿表示，臨床醫(yī)生應(yīng)該強調(diào)，目前人工智能只起到純粹的支持作用。

沙阿說：“從很多方面來說，人工智能實際上是一種為醫(yī)生提供決策支持的更好方式，這樣他們就不會錯過任何細(xì)節(jié)，或者可以提出建議。”

盡管人工智能工具才剛剛開始受到大眾的歡迎，但患者可能會因為知道人工智能在醫(yī)療領(lǐng)域早已存在而感到更加安心。

大西洋健康系統(tǒng)首席醫(yī)療信息官 Aarti Ravikumar 指出，人工胰腺或閉環(huán)混合胰島素泵等變革工具已成為胰島素依賴患者的“游戲規(guī)則改變者”。

“所有這些工作都是使用人工智能算法完成的，” 拉維庫馬爾說?！八晕覀兊尼t(yī)療設(shè)備或電子病歷中嵌入了人工智能工具，而且這種做法已經(jīng)持續(xù)了很長時間。”

“這些工具都不會讓臨床醫(yī)生脫離這種互動或醫(yī)療決策，”拉維庫馬爾說。“如果我們到了自動化決策并將臨床醫(yī)生從決策過程中移除的階段，我認(rèn)為我們肯定必須做出更多解釋。”

解決錯誤和偏見

每個組織在集成 AI 模型時都必須解決小問題。但在醫(yī)療保健領(lǐng)域，風(fēng)險更高，因為偏見和幻覺，或者 AI 工具產(chǎn)生虛假或誤導(dǎo)性信息，都可能導(dǎo)致患者護(hù)理中斷。

醫(yī)療服務(wù)提供者并不是唯一一個面臨偏見的醫(yī)療機構(gòu)。付款人因使用人工智能工具拒絕提供醫(yī)療服務(wù)而遭到強烈反對，科技公司也被指責(zé) 開發(fā)了加劇現(xiàn)有醫(yī)療差距的工具。

谷歌云醫(yī)療保健全球總監(jiān) Aashima Gupta 表示，對于生成式人工智能公司來說，讓人類參與其中至關(guān)重要，包括來自專家、護(hù)士或臨床醫(yī)生等用戶的反饋。

古普塔說：“對我來說，這種反饋輸入將使人工智能在特定用例中更加有效?！?/p>

人工智能公司還應(yīng)該徹底測試他們的模型。在谷歌，專門的團(tuán)隊試圖通過詭計來破解人工智能工具，比如試圖提示問題的錯誤答案。她補充說，穩(wěn)健的開發(fā)和讓人類參與其中與控制錯誤“齊頭并進(jìn)”。

然而，咨詢公司麥肯錫的合伙人杰西·蘭姆表示，雖然組織應(yīng)該對錯誤和偏見保持謹(jǐn)慎，但人工智能工具可能代表著嘗試減輕醫(yī)療保健偏見的機會。

“在引入人工智能之前，醫(yī)療保健系統(tǒng)中存在大量偏見，對吧？所以我們必須記住，我們并不是從一個完美的地方開始的，”蘭姆說?！拔覀儗嶋H上可以使用人工智能，并使用一些有意識的監(jiān)控來實際改善我們在醫(yī)療保健偏見方面所處的一些現(xiàn)狀，我認(rèn)為這實際上是一個巨大的機會?！?/p>

她補充道：“談到使用人工智能時，我們總是談?wù)撈妿淼南滦酗L(fēng)險，但實際上我認(rèn)為這也有很大的好處，可以減輕我們在系統(tǒng)中看到的一些現(xiàn)有偏見?！?/p>

制定醫(yī)療保健人工智能的法規(guī)和標(biāo)準(zhǔn)

當(dāng)醫(yī)療保健組織正在決定是否實施人工智

能時，聯(lián)邦政府和私人財團(tuán)正在努力解決如何對其進(jìn)行監(jiān)管。

盡管聯(lián)邦政府在嘗試規(guī)范這些工具方面取得了逐步進(jìn)展，包括通過制定規(guī)則，但該行業(yè)的標(biāo)準(zhǔn)仍處于早期階段。

美國衛(wèi)生與公眾服務(wù)部技術(shù)政策助理部長兼代理首席人工智能官米基·特里帕蒂 (Micky Tripathi) 表示，與兩年前人工智能成為主流時相比，人工智能的采用速度很快，這加大了政府制定監(jiān)管法規(guī)的壓力。

特里帕蒂表示，展望未來，政府和私營企業(yè)之間的合作至關(guān)重要。

他說：“這里將會有一個成熟過程，我認(rèn)為這個過程將是一個公開且私密的事情?！?/p>

Tripathi 還想知道，什么時候法規(guī)才能迫使私營企業(yè)采用自己的工具標(biāo)準(zhǔn)和認(rèn)證。在該行業(yè)的另一個領(lǐng)域，政府為電子健康記錄公司提供申請自愿認(rèn)證的標(biāo)準(zhǔn) 。

“例如，什么因素會促使普羅維登斯醫(yī)療集團(tuán)等機構(gòu)感到有必要使用或獲得某種認(rèn)證或某種批準(zhǔn)……來自提供某些 AI 模型驗證服務(wù)的組織？”他說。“目前，對于開發(fā)這些解決方案的開發(fā)人員或?qū)嵤┻@些解決方案的提供商組織來說，這僅僅是一筆純粹的成本。”

普羅維登斯首席戰(zhàn)略和數(shù)字官 Sara Vaezy 表示，雖然聯(lián)盟可以為人工智能提供高級框架，但組織也需要開放標(biāo)準(zhǔn)來幫助從基層解決臨床人工智能用例。

Vaezy 說：“我們需要類似于在互操作性方面取得的所有進(jìn)展的開放標(biāo)準(zhǔn)?！?/p>

“如今的挑戰(zhàn)是，聯(lián)盟與我們的工作進(jìn)展相差甚遠(yuǎn)，我們需要迅速縮小差距。我認(rèn)為我們可以做到這一點的方法之一是通過創(chuàng)建開放標(biāo)準(zhǔn)，”她補充道。

咨詢公司 Virtue 創(chuàng)始人兼首席執(zhí)行官 Reid Blackman 表示，培訓(xùn)提供商需要與制定標(biāo)準(zhǔn)同時進(jìn)行。它還可以幫助填補與人工智能相關(guān)的法規(guī)或治理方面的空白。

“你可以做很多工作來教育普通醫(yī)生、護(hù)士等，讓他們了解這些風(fēng)險是什么，”他補充道。

布萊克曼說：“培訓(xùn)是必不可少的一部分，我不想說是護(hù)欄，但它是確保事情不會出錯的重要組成部分。”

免責(zé)聲明：

本文所發(fā)布的內(nèi)容和圖片旨在傳播行業(yè)信息，版權(quán)歸原作者所有，非商業(yè)用途。如有侵權(quán)，請與我們聯(lián)系。所有信息僅供參考和分享，不構(gòu)成任何投資建議。加密貨幣市場具有高度風(fēng)險，投資者應(yīng)基于自身判斷和謹(jǐn)慎評估做出決策。投資有風(fēng)險，入市需謹(jǐn)慎。

關(guān)注我們，一起探索AWM！

2024-12-03

2024-11-17

2024-11-16

網(wǎng)址: 【人工智能】8 位專家探討人工智能在醫(yī)療保健領(lǐng)域的應(yīng)用 http://www.u1s5d6.cn/newsview810280.html