在放射科扫描上多一双眼睛，反复检查是否有前列腺癌的迹象。一个绿灯告诉外科医生何时可以安全地对创伤患者进行手术。一个提醒系统，查找并标记那些需要跟进的结果。
人工智能已经涌入主流，进入个人生活、课堂作业和工作会议——因此，它在医生办公室和急诊室中出现也就不足为奇了。
根据一份联邦简报，全美医院对人工智能工具的使用正在快速增长。2023年，66%的医院在电子病历系统中使用了预测性AI工具。一年后，这一数字上升到了71%。
随着人工智能渗透到现代世界的几乎每一个方面，一些医疗应用与我们已有的工具类型直接平行。例如，许多医生正在使用AI工具来聆听、转录和总结他们与患者的会诊。医疗机构使用自动排程工具来处理患者的预约和取消。
这些管理工具虽然并非最令人兴奋，但被证明极为重要。通过减少医疗提供者的工作量，这些工具可以帮助抑制医生倦怠——这是一个困扰医疗领域多年的问题。
但在医学领域，还有更动态、也更具争议的应用。
人工智能工具也可用于临床流程和决策，直接与患者或患者的护理计划交互。那些最密切参与这些工具开发和实施的人们感到兴奋。他们说，AI可以提供如此多的安全网，以防止医疗提供者犯错误，并帮助人员不足的急诊科更有效地响应对患者的需求。
这些工具中许多已经在北德克萨斯州的医院中使用或正在开发中。
最对医疗保健中的人工智能感到兴奋的人们将其描述为“变革性”技术。
随着人工智能日复一日地发展，医疗领导者——包括德克萨斯州的领导者——的核心问题不再是他们是否会在医疗机构中使用这项技术。现在的问题是他们如何确保这项技术改善患者护理，而不是危及它。
注意事项
各种类型的人工智能工具都带有注意事项。
ChatGPT，最受欢迎的面向消费者的AI工具之一，在网页底部写有注意事项。“ChatGPT可能会犯错，”信息中说。“检查重要信息。”谷歌的AI工具也在侧边栏中包含了注意事项。“生成式AI仍在发展中，信息质量可能有所不同。”
当用户寻求帮助重写电子邮件或优化待办事项清单时，AI的错误或幻觉可能不会产生改变生活的后果。然而，当AI工具应用于医疗诊断和决策时，风险要高得多。
这就是为什么医生和其他医疗领导者强调，AI工具在其进化的现阶段，是为了协助医疗专业人员——而不是取代他们。
Xiaoqian Jiang——研究员，休斯顿德克萨斯大学健康科学中心医疗保健安全人工智能中心主任——表示，许多现有工具在处理简单的医疗案例时表现良好。但对于复杂案例，情况并非如此。
“我认为我们正处于边缘，但我们目前拥有的许多模型实际上仍未达到专家的水平，”江说。“很多时候，复杂的情况仍然需要人类判断。”
即使运行良好的工具也可能犯错或产生错误的关联，而人眼也许能在造成任何损害之前将其排除。
然而，人工智能正在快速发展，并且在很多方面，它正在现有规则和法规的边界之外发展。
北德克萨斯大学健康科学中心沃斯堡分校的临终关怀和老年医学医生Ryan Choudhury博士说，他认为人工智能已经超过了政府和安全法规。
“感觉政府在立法和指导这方面的发展方向上落后了大约五年，”Choudhury说。
一些健康专家指出责任法是保护机制之一。
从法律角度来看，医生仍然对他们提供的护理负责，无论他们使用什么外部工具。
Angela Clark是泌尿外科研究与教育基金会的主管。该基金会由Pat Fulgham博士创立，他是一名泌尿科医生，在达拉斯德州健康长老会医院执业了35年。
Clark和Fulgham表示，医生的法律责任是一种内置的保护机制，防止提供者过度依赖AI工具。
“提供者仍然对他们诊断的任何情况负责，”Clark说。
“或者未能诊断，”Fulgham补充道。
即使有这些关于AI的注意事项，专家表示有无数种方式可以让工具帮助医生更好地完成工作。而且，AI支持者说，有些事情这些工具甚至比人类医生做得更好。
应用
即使只看临床和患者护理应用，AI工具的潜在用途也远远超出任何一篇文章所能涵盖的范围。
但达拉斯-沃斯堡的医生和医疗领导者给出了一些他们重点关注的例子，以让人们了解AI在美国医疗体系中可能扮演的日益重要的角色。
Fulgham说，有AI工具可以二次检查放射学扫描，识别人类放射科医生可能遗漏的风险因素。他说，这有助于确保前列腺癌的准确诊断。
“它并不是要取代放射科医生，”Fulgham说，“但可能会指出一些对他们来说不明显的东西。”
类似地，有些工具可以检查活检，并帮助病理学家确定患者癌症的侵袭程度。这些信息随后可用于制定治疗计划。
Parkland Health（达拉斯县的公立医院系统）的首席健康官Brett Moran博士指出了另一个即将实施的工具，其根源在于他亲眼所见的一个问题。
莫兰说，多年前，一位患者因胸痛来到急诊室。医护人员让患者去做CT扫描，主要是为了寻找血栓。扫描没有发现血栓，但患者肺部有一个小结节。除了胸痛之外，工作人员告诉患者，他应该对这个结节进行随访。
“在急诊室的混乱中，”莫兰说，“患者没有意识到这一点。”患者没有去做后续扫描。
一年后，患者被收治到莫兰的护理中。患者患了癌症，那时已经扩散到全身。
“这是一个我们太经常看到的故事，它真的让我很困扰，也让我难以忘怀，”莫兰说。“这不是一个医生失败，这是一个系统失败。”
Parkland现在有一个团队，根据放射科医生和其他医疗提供者提出的标志，手动跟进患者。但是，当提供者正在治疗特定问题并努力应对大量患者时，他们可能会忘记重新检查扫描并标记不相关的问题。
“我们需要的是更自动化的解决方案，”莫兰说。
莫兰说，很快，Parkland将启动一个由Parkland临床创新中心构建的AI工具。该工具将查看医学扫描的解释，并标记患者可能错过的潜在后续检查。
这是AI能够发光发热的一个领域。
该工具不一定比医疗提供者更准确或更聪明——但它不知疲倦。它不会忘记重新检查扫描。它不会被整理大量文件的枯燥工作所动摇。它不会因为重复而疲倦。
这也是一个工具或过程随着技术发展而演变到包含AI的例子。
Parkland Health的首席数字信息官Joe Longo和Parkland的首席数据官James Gaston表示，该医疗系统已经使用多种AI工具。
其中一些，例如当患者即将出现心脏骤停时向提供者发出警报的早期预警系统，已经使用了多年。该系统的原始版本在首次推出时并不被称为“人工智能”，但现在它属于这一类。
该系统以及其他Parkland和Parkland临床创新中心正在开发的工具的目标，是解决医院中的实际问题。AI工具有能力做各种各样的事情。但是，如果这些工具在不存在问题的地方提供解决方案，那么它们对医疗系统来说就不太有用。
“目前所有供应商都在胡乱尝试，”Gaston说。“我们努力不只是花钱并对AI感到兴奋；我们努力确保为组织和我们的患者提供价值。”
现实与“炒作周期”
当医疗领导者试图解释AI的潜在影响时，他们使用概括性的术语。
几位与《达拉斯晨报》交谈的健康专家将其与电子健康记录相比较，电子健康记录大约在15年前被广泛采用。从纸质记录到数字记录的过渡对政府和卫生组织来说是一项巨大的工程。
Parkland的Longo则回溯得更远一些。
“我会把它比作互联网的出现，”他说。
有些人担心AI在医疗领域的变革力量可能被夸大了，至少根据目前使用的技术来看是这样。明尼苏达大学公共卫生学院的研究员和助理教授Paige Nong表示，大多数在用的工具属于管理和运营方面，而不是患者护理。
“关于AI有太多的公开炒作和兴奋，”Nong说，“面向公众的说法往往与医疗系统中实际发生的情况有些脱节。”
那些面向患者的工具也有理由谨慎：例如，一个仍在开发中的工具听起来可能对医院有惊人的帮助。但如果它实际上不起作用，那么它可能反而会让事情变得更糟，而不是改善。
Nong指出了一个臭名昭著的例子。大型医疗记录公司Epic Systems推出了一种声称可以预测脓毒症的工具。脓毒症是身体对严重感染的极端且危及生命的反应，是住院患者面临的重大威胁。
但是，当记者和研究人员调查该工具时，他们发现它并不像宣传的那样有效。（Epic Systems后来根据STAT News的调查后续报道改进了该工具。）
休斯顿UTHealth的江也亲身经历过类似的例子。
在一次脓毒症预测工具的竞赛中，他看到一些模型使用患者是否在半夜抽血作为首要预测指标。但半夜抽血不会导致脓毒症；它反而表明医疗提供者已经对患者的健康感到担忧。
“这不是生物学特征，而是人为产物，”江说。“可能是护士们已经意识到了，否则没有人会去床边抽血。”
Longo本人也知道陷入“炒作周期”的可能性。但他认为围绕医疗AI的兴奋不仅仅如此。
“我并不是一个会对新事物过度兴奋的人，”Longo说，他提到了最近的区块链热潮，并指出他对该技术的兴奋提出了质疑。
“每隔一两年，人们就会对某些新技术感到兴奋，”他说。“机器学习和AI，这是第一个让我觉得‘这项技术有潜力变得变革性’的东西。”
【全文结束】