药品福利管理机构（PBM）在药物福利管理中越来越多地使用人工智能（AI）工具，这是一项涉及费用、折扣和返利计算的高度交易密集型职能，旨在为计划发起人和参与者管理成本。虽然AI可以使PBM更高效地运营并优化定价以帮助降低药品成本，但这项新技术也为雇主（作为健康计划发起人）带来了若干数据隐私、监管和合同风险。本文旨在解释计划发起人如何识别潜在危险信号，并在享受AI为医疗成本和行政管理带来的优势的同时避免潜在责任。
您的PBM的AI使用如何影响您的健康计划
PBM与医疗计划发起人之间的关系由行政服务协议（ASA）约束，该协议授权PBM管理处方药项目。如今，越来越多的ASA包含明确授权PBM在服务交付中利用AI的条款。
然而，这些条款通常过于宽泛，赋予PBM自行决定使用AI的巨大自由裁量权。这种结构引发了一系列数据隐私问题，包括：
- 如果AI的使用导致可诉讼的损害，最终由谁承担风险？
- AI将执行哪些裁决功能？
- PBM在管理计划时将在哪些方面部署AI，而不是依赖传统管理方法？
- 何时允许将AI作为运营增强手段使用，何时因其对患者隐私构成威胁而被禁止？
- 计划发起人如何避免承担PBM的AI策略带来的责任？
- 计划发起人如何保护自身及其参与者免受AI相关事件的影响？
计划发起人谈判或续签ASA的关键建议
幸运的是，这些担忧中的许多都可以在您的ASA中得到解决。ASA应谨慎起草，以避免赋予PBM单方面决定在何处、何时以及如何应用AI的权力。
在谈判ASA条款时，您应考虑争取加入以下条款：
1. 禁止AI用于裁决性决策。 如果AI在决定福利认定方面发挥作用，则会给计划发起人带来严重风险。如果AI不当拒绝承保，参与者可能对发起人提起诉讼。因此，如果PBM提议使用AI，ASA应明确声明AI不得用于做出或实质性影响不利的福利决定、承保拒绝、利用审查结果或定价决策。
2. 限制使用受保护健康信息（PHI）训练AI工具和模型。 为了最大化效率，AI依赖于持续引入大量数据集以变得更“聪明”并优化性能。然而，不应使用不知情或不情愿的计划参与者的受保护健康信息（PHI）来训练AI系统。ASA应明确界定PBM如何使用PHI来“训练”其AI模型的限制。计划发起人还应确认，管理PBM关系的业务伙伴协议（BAA）明确将AI模型训练列为允许用途，或者最好直接禁止。如果确实要使用PHI，则应遵循常见的数据保护原则（例如去标识化、匿名化、假名化等）。
3. 将AI使用风险转移给PBM。 最终，如果PBM选择使用AI，他们这样做是因为他们认为这会给其业务带来好处。作为交换，如果出现问题，他们应承担风险。在ASA中加入以下措辞：“任何AI或生成式AI的使用均构成供应商对监管合规性和适用性的声明”，这有助于保护计划发起人。此外，发起人还应明智地加入赔偿条款，将任何与AI错误相关的成本置于PBM身上。
您现在可以采取的三项主动措施
医疗领域AI的使用是一个快速发展的领域，其后果尚未完全显现。然而，不可否认的是，监管环境正在追赶部署该技术的企业。因此，政策制定者必将开始在AI影响健康的领域采取更有力的行动。
在此期间，计划发起人可以采取以下步骤，以保持在AI相关发展的前沿：
- 保持开放的沟通渠道。 了解您的计划的PBM是否以及如何应用AI，以及他们的战略愿景和战术应用在短期、中期和长期内涉及哪些内容。
- 建立稳健的AI导向政策和程序。 您的企业可能已经在探索将AI用于自身目的，或者您与之交易的其他供应商使用AI来提供服务。建立围绕AI使用的护栏是可取的。
- 聘请外部专家。 美国数据保护最显著的特征之一是缺乏统一的规则和法规。联邦、州和地方政府都在这一领域进行了立法。可以假设针对AI的类似模式也将随之而来。数据保护律师的职责是关注该领域的发展，然后与您的组织合作，设计、制定和部署合规的最佳实践。
【全文结束】