依賴人工智能搜索引擎獲取藥物信息存在風險

未知英文科技與健康

2024-10-14 20:00:00閱讀時長3分鐘1228字

人工智能搜索引擎藥物信息風險準確性可讀性患者安全醫(yī)療保健專業(yè)人員

新研究發(fā)現搜索引擎引入的人工智能工具阻礙用戶獲取清晰準確有用的藥物治療信息

一項新的研究發(fā)現，搜索引擎引入的人工智能工具阻礙了用戶找到有關藥物治療的清晰、準確和有用的信息。

患者不應依賴由人工智能驅動的搜索引擎和聊天機器人獲取信息，一項新研究指出。

這項發(fā)表在《英國醫(yī)學雜志質量與安全》上的研究發(fā)現，大量有關藥物治療的搜索答案不準確，且可能有害。有些答案也過于復雜，難以理解。

去年 2 月，搜索引擎開始使用由人工智能驅動的聊天機器人，其承諾改善搜索結果并提供更全面的答案。但研究人員稱，這些基于互聯網數據集訓練的聊天機器人能夠產生虛假信息和無意義或有害的內容。

來自德國和比利時大學的研究人員，使用具有人工智能聊天機器人功能的必應助手，探究了 2020 年美國最常開的 50 種藥物相關查詢的聊天機器人答案的可讀性、完整性和準確性。他們審查了研究數據庫，并咨詢了藥理學專家醫(yī)生，以確定患者最常向醫(yī)療保健專業(yè)人員提出的藥物問題。

聊天機器人針對每種藥物被詢問了 10 個問題，共生成 500 個答案。問題涵蓋藥物用途、作用機制、使用說明、常見副作用和禁忌。

專家評估了傷害的可能性。通過計算弗萊希閱讀難易度評分來評估聊天機器人答案的可讀性，該評分用于估計理解特定文本所需的教育水平。分數范圍在 0 到 100 之間，分數越低越難讀，91 分及以上被認為容易。

為評估聊天機器人答案的完整性和準確性，研究人員將其回答與 drugs.com 提供的藥物信息進行比較，這是一個為醫(yī)療保健專業(yè)人員和患者提供的經過同行評審且最新的藥物信息網站。

然后，七位藥物專家使用顯示低準確性或完整性或對患者安全有潛在風險的 20 個聊天機器人答案的子集，評估了如果患者遵循聊天機器人的建議可能造成傷害的可能性。

他們使用了醫(yī)療保健研究與質量局（AHRQ）制定的傷害量表來評估患者安全事件。專家根據經過驗證的框架估計了可能造成傷害的可能性。

平均弗萊希閱讀難易度評分略高于 37，這意味著許多讀者會難以理解這些答案。

對于每種藥物提出的 10 個問題，平均有 5 個問題得到了最高完整性的回答，而問題 3（服用藥物時我需要考慮什么？）的平均完整性最低，僅為 23％。

聊天機器人的陳述在 26％的答案中與參考數據不匹配，完全不一致的占 3％。

對 20 個答案的子集評估顯示，只有 54％被評為與科學共識一致。超過三分之一（39％）與科學共識相矛盾，而其余 6％沒有既定的科學共識。

在這些答案中，患者遵循聊天機器人的建議可能造成傷害被評為高度可能的占 3％，中度可能的占 29％，而三分之一被判斷為不太可能或根本不可能造成傷害，如果遵循的話。

研究人員寫道：“在這項橫斷面研究中，我們觀察到具有人工智能聊天機器人的搜索引擎對患者問題的回答總體上是完整和準確的。”

他們補充說：“然而，聊天機器人的答案大多難以閱讀，并且反復缺乏信息或顯示不準確，可能威脅到患者和藥物安全?！?/p>

他們認為，一個主要的缺點是聊天機器人無法理解患者問題背后的潛在意圖，并補充道：“盡管它們有潛力，但對于患者來說，咨詢他們的醫(yī)療保健專業(yè)人員仍然至關重要，因為聊天機器人可能并不總是生成無錯誤的信息。在有更高準確率的搜索引擎可用之前，建議謹慎使用人工智能驅動的搜索引擎?！?/p>

（全文結束）

相關知識

人手一個AI健康助手！大模型時代的搜索引擎「蛻變」
醫(yī)學信息學在藥物副作用監(jiān)測中的應用探索
醫(yī)療票據OCR+智能理算規(guī)則引擎 助力健康險實現核賠理算自動化
藥物依賴是指（）
健康生活：依賴快餐加工食品風險！
上?！叭斯ぶ悄?”行動：建設人工智能藥物研發(fā)平臺等
人工智能
青少年手機依賴：評估、風險因素及防治
這兩個有啥關系? 搜索引擎還得借助網站購物平臺吧
在“錯誤健康信息”時代，如何做個智性人？

網址: 依賴人工智能搜索引擎獲取藥物信息存在風險 http://www.u1s5d6.cn/newsview1226259.html