我们已经进入了一个对人工智能（AI）狂热的时代。健康计划高管面临着来自供应商的各种解决方案，这些方案声称能够利用AI进行创新和提高效率。高管们面临来自会员、提供者、监管机构和股东的压力，要求在采用AI的同时负责任地实施。
Tom Martin, M.A., MBA
在某些方面，健康计划几十年来一直在通过数据处理和预测分析等活动使用AI来评估人群健康风险。如今，AI技术已经显著发展，提供了新的机会，同时也带来了新的风险。本指南旨在帮助健康计划领导者导航AI市场，并深入探讨对其组织和成员真正重要的内容。
AI准备：风险和收益
尽管AI有可能提高效率、简化流程并提供有价值的见解，但它也伴随着需要谨慎管理的风险。领导者必须考虑数据使用、法规遵从性、网络安全漏洞以及可能的工作流程和劳动力动态中断。AI可以显著减少手动处理时间，改善决策，并以更大的灵活性扩展运营。以下图表概述了关键风险和收益，以帮助组织制定平衡的AI策略，最大化价值同时减轻潜在隐患。
每个健康计划都是独特的，最终会根据特定用例的不同权衡风险和收益。我们开发了一个强大的框架，用于评估组织准备情况，确保AI解决方案不仅无缝集成到现有工作流程中，还保护会员的安全和公平。
AI准备：实施的关键考虑因素
Eric Levine, M.P.H.
Viju Shamana
医疗保健领域的AI采用并非一刀切。健康计划必须导航复杂的安全部署、控制和认证，以满足州和联邦层面的严格监管要求。除了根据《健康保险可携带性和责任法案》（HIPAA）保护受保护的健康信息外，AI还必须确保安全、准确且符合政策的交互——抵制操纵并防止可能导致严重后果的错误信息。例如，医疗建议护栏有助于防止未经授权或误导性的指导。
AI的实施需要在多个维度上仔细评估。除了提高效率和节省成本的承诺外，AI还引入了与数据安全、合规性、临床准确性以及伦理相关的风险。领导者必须采取结构化的方法，确保AI解决方案与组织目标、法规要求和运营工作流程保持一致。
为了指导决策，以下框架提供了关键考虑因素，涵盖重要类别：战略对齐、数据完整性、伦理合规性、临床验证、集成、供应商透明度、财务和法律影响以及变更管理。通过主动解决这些因素，健康计划可以制定负责任的AI策略，最大化收益并减轻风险。
战略对齐和商业案例
关键考虑因素
- 我们用AI解决什么问题？我们希望通过AI实现什么？（例如，节省成本、加快流程、提高输出）
- 这个AI解决方案如何与我们的医疗机构的使命、价值观和战略目标保持一致？
- 我们是否进行了成本效益分析以证明投资这个AI工具的合理性？
- AI系统是否比现有工作流程有明显优势？
- AI系统是否会带来新的能力？
- 我们的组织在AI实施方面的风险容忍度是多少？对于某些业务部门或功能（例如，面向会员或提供者的功能与后台功能），我们是否更加风险规避？
数据完整性和AI模型性能
关键考虑因素
- 用于训练此AI模型的数据集是什么？
- AI是在真实世界的索赔、医疗记录和其他医疗数据集上训练的，还是在通用和/或合成数据上训练的？
- AI模型是否会使用特定计划的数据进行训练？如果是，有哪些保护措施来确保保密性？
- 模型的性能是否在不同患者群体中得到验证以确保准确性？
- AI多久更新或重新训练一次以保持性能，随着新医疗数据的出现？
- 模型是否存在已知的局限性或偏见？如果存在，如何解决？
- 内部和AI供应商处有哪些网络安全措施来防止数据泄露？
伦理和合规考虑
关键考虑因素
- AI是否符合HIPAA和其他数据隐私法规？
- 当前是否有任何联邦或州法规限制我们在此功能中使用AI？
- 供应商能否解释AI是如何做出决策的（可解释性与黑盒AI）？
- 如何确保AI系统不会在患者护理建议中引入偏见？
- 这个AI系统是否会引起公平问题，可能使某些患者群体处于不利地位？
- 供应商是否有护栏和第三方验证其AI系统，以确保与AI代理和生成式AI解决方案的无误通信？
临床验证和患者安全
关键考虑因素
- AI解决方案是否经过独立、同行评审的验证研究？
- AI的错误率是多少？与人类判断相比如何？
- 如果AI系统提供不正确或误导性的建议，可能会有哪些风险？
- 如何在AI驱动的决策中维持人工监督？
- AI供应商是否进行了临床试验或试点研究以证明其安全性和有效性？
集成和工作流兼容性
关键考虑因素
- AI系统是否可以轻松集成到现有的电子健康记录系统、理赔处理系统等？
- AI是否会改进工作流程，还是会增加复杂性并给员工带来负担？
- AI将如何融入医生、护士和管理人员当前的决策过程中？
- AI是否提供实时洞察，还是需要后期处理延迟？
供应商透明度和支持
关键考虑因素
- AI供应商是否对其技术、方法和训练数据透明？
- 提供哪些客户服务以进行故障排除和持续改进？
- 供应商是否为AI解决方案提供持续监控和更新？
- 如果AI系统失败或产生错误结果，应急计划是什么？
财务和法律问题
关键考虑因素
- 总成本是多少，包括许可、培训和维护？
- 预期的成本节约或其他收益是什么？如何衡量和监控这些收益？
- 如果AI建议导致医疗错误，会有哪些责任问题？
- 是否有适当的问责措施来减轻AI的错误？
- 我们是否与供应商签订了明确的合同，规定数据所有权、AI性能保证和合规措施？
培训和变更管理
关键考虑因素
- 如何培训临床医生、护士和员工有效使用AI？
- 从员工或会员那里可能会遇到哪些对AI采用的阻力？
- 我们是否有变更管理策略以确保顺利实施？
- 是否会有任何审计过程来监控和纠正AI功能的性能？
当健康计划领导者导航复杂的AI采用领域时，平衡和深思熟虑的方法至关重要。健康计划高管应仔细权衡收益与风险，以作出与其组织使命和价值观一致的明智决策。优先考虑战略对齐、数据完整性和患者安全，使健康计划领导者能够负责任地利用AI，推动创新，同时保持以会员为中心的价值观、信任和医疗保健中的道德诚信。
Tom Martin, M.S., MBA 是DRG Claims Management的客户关系副总裁。Eric Levine, M.P.H. 是Avalere Health的副主管。Viju Shamana 是Ushur的AI实验室副总裁。
(全文结束)
