医疗保健行业在过去几十年在自动化上投入了数十亿美元，但对许多人来说，人工智能并未带来预期的效率或财务回报。麻省理工学院（MIT）的最新研究发现，95%的组织报告其人工智能项目迄今为止投资回报率为零。
造成这一问题的关键驱动因素之一是许多解决方案和工作流程是脱节的。医疗保健组织在缺乏问责制的情况下投资自动化，并实施了缺乏可靠运行所需上下文的人工智能系统。这些工具不仅没有减少摩擦，反而可能增加行政负担，同时使组织面临可能影响生命的错误风险。
人工智能是一种工具。人类负有问责。但我们可以通过优先考虑数据完整性、人工监督和持续学习，将问责制构建于人工智能系统中。当人工智能保持诚信并在医疗保健工作流程中充当连接器时，临床医生的时间得以释放，准确性得到保障，收入也受到保护。
数据完整性是问责式人工智能的关键
为使这些系统保持诚信，医疗保健组织必须确保其数据得到良好治理和充分上下文化。如今，许多医疗保健组织缺失这一上下文。当临床和操作数据存储在互不沟通的独立点解决方案或遗留电子健康记录系统（EHRs）中时，人工智能代理无法获得生成准确可靠输出所需的适当上下文。使用仅基于部分数据运行的人工智能代理就像戴着眼罩驾驶，在医疗保健领域，每个决策都带来真实后果，猜测不是选项。
数据互操作性是问责式人工智能的起点。当医疗保健组织统一点解决方案中的数据时，人工智能能够全上下文运作，简化工作流程并减少行政摩擦。同时，患者体验得到改善。
平衡人工智能与人工监督
人工智能在医疗保健中的成功整合需要技术与人类专业知识之间的正确平衡，而代理式人工智能（agentic AI）正在改变医疗保健所需的人工监督水平。自主系统能够主动行动并管理复杂流程，例如标记缺失的预防性护理任务或提交事先授权请求，但这并不意味着人工监督不再必要。人类专家必须作为战略监督者和最终决策者参与，将医疗专业人员的时间归还给患者护理和类似高价值工作。通过结合人工智能的分析能力与人类的专业知识和同理心，医疗保健组织可以创建一个赋能患者和临床医生的系统。
通过持续学习强化人工智能的判断力
医疗保健行业随着新法规、临床指南的更新以及患者期望的演变而不断变化。一个负责任的AI工具能够通过持续学习和反馈流程与行业同步发展。
持续学习赋予人工智能做出明智决策所需的真实世界临床、技术和情感上下文。工作人员可以通过反馈强化适当且合规的人工智能输出，从而加强人工智能性能，避免“有能力但无上下文”的常见陷阱。例如，在使用AI医疗编码员时，人工审核员应审查AI的输出并提供反馈，以训练AI达到高精度。持续学习不仅确保准确性，还能使人工智能工具对临床医生更易用。通过反馈，使用环境监听抄写员的临床医生可以训练AI以他们偏好的风格格式化临床笔记，使AI更无缝地融入工作流程。
持续学习创建了一个有价值的反馈循环，提高速度和质量。来自临床医生和工作人员的持续反馈可以强化人工智能的判断力，使其更快、更可靠地执行任务。
问责制是新的人工智能衡量标准
保持人工智能的诚信不是为了减缓创新，而是为了构建支持临床医生、患者和整个医疗保健的系统。医疗保健的未来将由那些拥抱AI驱动的连接工作流程同时保持人类专业知识的组织塑造。当人工智能负责任、具有上下文感知且集成良好时，各方受益：组织减少低效率并保护收入，患者体验更顺畅的护理获取和更快的批准，临床医生有更多时间做他们受训要做的事：照顾患者。
（图片来源：Getty Images）
阿贾伊·塞加尔（Ajai Sehgal）
阿贾伊·塞加尔现任IKS Health首席人工智能官，负责领导该组织的企业级人工智能愿景和战略，利用数据、分析和先进技术加速创新、改善结果并扩大在整个医疗生态系统中的影响力。作为经验丰富的领导者，其职业经历横跨初创公司到财富100强企业（Fortune 100），阿贾伊最近担任梅奥诊所（Mayo Clinic）首任首席数据与分析官，在那里他推动利用超过一个世纪的临床数据来推动突破性医疗创新并提升患者护理。他还在梅奥诊所数字健康中心担任数字技术主席。
阿贾伊的全球领导经验包括在EagleView、Hootsuite和The Chemistry Group担任高级技术职务，负责数据与分析、软件工程、IT、安全和运营。职业生涯早期，他在加拿大皇家空军服役16年，之后加入微软，在将Expedia发展为全球最大旅行社的过程中发挥了关键作用。作为负责任的人工智能创新的坚定倡导者，阿贾伊继续在更广泛的技术社区中担任导师和顾问。
【全文结束】
