管理式药房专业人员在实施人工智能工具时应关注哪些关键监管考虑？
我认为管理式药房专业人员在人工智能监管方面应该考虑的主要问题有几个。数据隐私显然是一个大问题，关于将受HIPAA保护的信息加载到大型语言模型中如何与这些要求互动的问题尚未解决。这不是公开信息，对吧？它不是公共数据，但根据这些程序的使用性质，它可能会进入一个数据集，该数据集正在为不应接收受保护信息的其他实体提供数据。我认为这更多是一个合同问题，因此他们应仔细审查合同，并明确组织参数，确定哪些类型的信息可以输入到人工智能驱动的程序中。
从责任角度来看，我所交谈的人们似乎认为它将遵循当前的系统，即主要责任在于提供者一方。如果一个人工智能程序通过患者门户或电话向患者提供了错误信息，那么提供者的办公室和提供者本人是否承担责任？或者是否有部分或全部责任可能位于供应商身上？对此，我见过的早期猜测是，那些比我更了解这个问题的人认为它将遵循当前的提供者方责任。我认为有可能会发生变化。这是一种新技术，过去比类似的系统更多地由供应商驱动。我不想排除供应商可能承担部分责任的可能性，但到目前为止，责任似乎主要落在提供者身上。
组织如何确保管理式药房中使用的人工智能算法透明、公平且无偏见？
这不仅限于人工智能。我认为你不能100%地说你的数据集没有偏见。这是一个不断审查和完善你所使用的任何人工智能系统中的数据的过程，无论是用于预先授权还是患者客户服务应用。我认为在早期阶段，这将取决于这些实体的严格人工审查。随着时间的推移，随着软件的改进，人们对其更加熟悉，这可能会变得容易一些，但我认为患者——即使人工智能的风险不比人为错误更大——人们对人为错误的维度更为放心。如果我在与支付方组织或提供者交谈，我会强调在网站上列出某种框架，让患者能够访问并确切了解你是如何使用这些数据的。[这]可能值得披露哪些其他实体接收了部分数据，最后，承诺进行严格的监督和持续自我改进，我认为这将大大缓解患者的担忧。
(全文结束)
