超过三分之一的美国公民表示，他们会向人工智能大型语言模型寻求医疗建议。像ChatGPT和Claude这样的LLMs，可以针对几乎任何问题提供海量信息。但这些信息总是正确的吗？
无论问题是在谷歌上提出的，还是更常见地，人们将脱敏的医疗记录上传到ChatGPT中，获取准确的健康建议都可能具有挑战性。
亚当·罗德曼博士说：“人们只是简单地用谷歌搜索，然后使用LLMs。至于他们具体如何使用人工智能，我们了解一些方法，但肯定还不能说出有多大比例的人会复制他们的记录或影像。这一点目前还不得而知。但据传闻，这个比例很高——我的患者一直都在这么做。”
罗德曼是贝斯以色列女执事医疗中心卡尔·J·夏皮罗教育研究中心的人工智能项目主任，也是哈佛医学院的助理教授。他还是一名普通内科医生和顶尖的医疗AI研究员。
《医疗IT新闻》最近与他进行了交谈，讨论了患者使用AI来管理自身健康所涉及的好处和坏处。
问：《21世纪治愈法案》保障了患者获取其病历的权利。您建议，患者与其费力地翻阅所有这些信息，不如移除可识别身份的信息，将剩余部分上传至AI聊天机器人，以总结他们寻找的内容或就数据提出问题。您认为有多少患者具备足够的技术能力，知道如何从患者门户下载所有健康数据，然后完成您建议的所有操作？
答： 没有。《21世纪治愈法案》是一项了不起的法律，其意图也很好。但我们知道，只有极少数患者实际注册了门户，更不用说具备下载其病历的技术能力了。这需要高度的数字健康素养。
随着技术为患者提供更多有益的东西，它会扩大懂行者和不懂行者之间的差距。看看我的患者，有些人可以做到，但也有很多患者没有这种能力。他们中的很多人没有门户访问权限，甚至不知道有门户访问这回事。大多数人甚至从未注册过门户。
LLMs面临的挑战之一是，它们可能极具帮助性，但它们并不真正智能。如果你有效地提出了错误的问题，以错误的方式使用它们，你就可能得到无用甚至有害的信息。
这里有两个方面：我知道如何使用门户吗？我擅长提示LLMs，并知道如何作为患者与它们交流吗？我不认为这些是很多人具备的技能。
我与使用LLMs的患者交谈。如果他们使用LLMs并向我展示结果，我就会与他们讨论应该如何利用AI。我的假设是，在基础层面上，这种知识非常匮乏，并且存在安全风险。医疗行业需要接受这种情况正在发生，并努力教育人们采用最安全的方式去使用它。
问：您认为患者会信任AI聊天机器人，并上传他们的私人医疗数据吗？即使可识别身份的数据已被移除。他们会不会仍然相信聊天机器人能以某种方式将数据与用户联系起来？
答： 当涉及到AI时，“信任”真的很有趣，因为总的来说，信任度相对较低，包括在医疗领域。非常有意思的是，对于AI和数字干预，如果它是医生工作流程的一部分，或者能与您的医生进行连接，那么信任度会急剧上升。我们在远程医疗干预中就看到了这一点。
但是，不，人们对AI的信任度很低。我可以告诉你，我并不完全信任那些AI公司。这就是为什么如果你要这么做，你需要尽可能地去除可识别身份的信息。在这个国家，我们有像HIPAA这样的机制。我希望看到医疗机构为他们的患者创建机构级的聊天机器人，这些机器人会承载来自医疗系统的信任度。
这比“我是否信任AI”更复杂。它实际上是“我是否信任由特定机构使用的AI”。我们同情任何说“我不信任OpenAI”或“我不信任xAI来处理我的健康数据”的人。这是一个合理的观点。
但是，我们已经信任医疗系统来处理我们的健康数据。所有数据都已经存储在云端，并且有业务伙伴协议。这才是我的期望。但目前这种情况并未发生，这就是为什么人们在使用公共聊天机器人。
问：请解释一下患者使用AI寻求医疗建议时的‘网络疑病症’现象。患者和医生可以做些什么来克服这个问题？
答： “网络疑病症”并不新鲜。一些量化网络疑病症的早期论文来自2008年和2009年。网络疑病症是一种存在于LLMs之外的现象。
所以，想想搜索引擎的页面排名是如何运作的。它试图猜测你想要什么。因此，如果你搜索一些良性症状，比如“我头痛”，第二个链接可能会指向导致头痛的危险原因。那个算法会提供你担心的事情。
类似的现象也发生在LLMs中。公司已经加入了大量的安全措施。但在早期，ChatGPT 4可以告诉你一些疯狂的事情，比如你得了癌症。它现在不再那样做了。实际上，它已经变得好多了。
但是，如果你潜意识里担心某事，你仍然会引导模型朝那个方向去，就像本世纪初谷歌搜索引擎算法的工作方式一样。关于网络疑症令人沮丧的一件事是，虽然这是一个技术问题，但也是一个人性问题。
它利用我们的焦虑，而模型会捕捉到这一点。我喜欢的是，因为这种情况经常发生，这很可能是我需要与患者讨论的最常见事情：他们开始对AI中的信息变得非常担忧。除了告诉人们这是一种现象，并且模型有倾向去弄清楚你在担心什么之外，你几乎无法采取任何措施来缓解它。
这是一个早在LLMs出现之前就存在的问题，而且它不会消失。它甚至在搜索引擎出现之前可能就已经存在了。我们只是没有一个好的词来形容它。
问：对于医院、医疗系统和诊所的临床和IT领导者，就患者使用AI寻求医疗建议这一问题，您能给出最重要的建议是什么？
答： 我有一个非常具体的建议。传统的IT供应商习惯于将健康科技视为医院购买的、通过纯粹采购流程获得、并具有可知故障点的东西。我们正处在一个人们自带健康IT的世界。医生自带健康IT；患者也自带健康IT —— LLMs。
这对医疗IT人员来说确实令人不安。我能理解原因。但这就是我们生活的新世界。如果我们想以某种方式减轻风险，我们实际上必须拥抱这项技术，并将其引入我们的医疗系统。因为如果我们不这样做，人们就会自行其是。
关注Bill的健康IT报道，请访问LinkedIn: Bill Siwicki
发送邮件至:
《医疗IT新闻》是HIMSS媒体的出版物。
即刻观看：AI与临床工作流中的模型上下文协议
【全文结束】