AI 被列为 2025 年顶级技术危害AI Tagged as the Top Tech Hazard of 2025

环球医讯 / AI与医疗健康来源:www.healthleadersmedia.com美国 - 英语2024-12-06 22:00:00 - 阅读时长3分钟 - 1137字
尽管人工智能(AI)在医疗领域的应用备受关注,但其潜在的风险和治理难题使其成为 2025 年顶级技术危害。宾夕法尼亚州的非营利组织 ECRI 在其年度十大医疗技术危害名单中将 AI 列为首位,强调了数据偏差、幻觉和缺乏适当治理等问题。
AI2025年医疗技术危害家庭医疗技术网络安全患者安全医疗保健不良数据治理监督
AI 被列为 2025 年顶级技术危害

位于宾夕法尼亚州的非营利组织 ECRI 已经连续近 20 年发布年度十大医疗技术危害名单。由于从不良数据中得出有偏见的结果、产生幻觉或偏离主题的潜力,AI 被视为未来一年的顶级技术危害。2025 年的名单中,家庭医疗技术位居第二,而通过易受攻击的供应商带来的网络安全问题则位列第三。

尽管 AI 在医疗保健领域的炒作达到了顶峰,但其不确定的治理和潜在的滥用也使其成为 2025 年的顶级技术危害。ECRI 报告指出,输入 AI 算法的不准确或不完整数据可能导致不同的健康结果或不当反应,以及幻觉和数据漂移。报告称:“未能投资并强调持续监控的医疗保健领导者可能会忽视这些疏漏,从而威胁到患者的安全。”

此外,报告还指出,如果组织对 AI 解决方案抱有不切实际的期望,未能定义目标,提供不足的治理和监督,或未能充分准备数据以供 AI 应用程序使用,AI 解决方案可能会产生令人失望的结果。“底线是,过度信任 AI 模型并对其输出进行适当的审查可能会导致不适当的患者护理决策。”研究人员总结道,“AI 作为一种高级工具,可以协助临床医生和医疗保健人员,但前提是人类决策必须始终处于护理过程的核心。防止伤害需要在将任何 AI 解决方案纳入医疗保健运营或临床实践中时仔细考虑。”

家庭医疗保健继续在名单上名列前茅,反映了行业对远程患者监测和“医院在家”策略的兴趣,以及越来越多希望在家安度晚年的老年人口。“对于许多患者来说,家庭医疗保健是一种吸引人的替代医院治疗的方法。”报告指出,“但在家中提供护理存在独特的关注点,特别是当患者或家庭成员负责操作复杂的医疗设备时。诸如呼吸机、透析机和输液泵等设备通常在临床监督下用于急性护理环境,但越来越多地被用于家庭环境中。”

研究人员总结道:“最小化伤害风险需要为家庭用户提供成功操作、维护和故障排除设备所需的支持。这包括预见用户可能面临的挑战,并选择与患者和使用环境相匹配的设备。”

名单上的其他项目包括:

  • 易受攻击的技术供应商和网络安全威胁
  • 劣质或欺诈性的医疗设备和用品
  • 补充氧气引发的火灾风险
  • 麻醉机默认报警限值过低
  • 药物订单临时暂停处理不当
  • 输液管管理不善
  • 有害的医用粘合产品
  • 输液系统事件调查不彻底

网络安全在名单上排名第三,紧随其后的一年中,数据泄露和勒索软件攻击经常占据医疗保健头条。去年,“勒索软件对医疗保健部门的重大威胁”排名第 6,仅几个月后就发生了毁灭性的 Change Healthcare 攻击。报告指出:“医疗保健组织可以通过在服务采购过程开始时彻底审查供应商、建立冗余、进行事件响应测试和制定恢复程序来减轻第三方风险。”

埃里克·威克伦德是《HealthLeaders》创新内容经理兼高级编辑。


(全文结束)

大健康
大健康