由于人工智能的引入，医疗行业正在迅速发生变化。这些技术已经将决策权从护士手中转移到机器人身上。迈克尔·肯尼迪（Michael Kennedy）在圣地亚哥的一家神经重症监护室工作，他认为人工智能可能会摧毁护士的直觉、技能和培训。结果是患者被更多的机器监控，而看到他们的人却越来越少。以下是迈克尔的故事，由伊索贝尔·科克雷尔（Isobel Cockerell）讲述给Coda。为了清晰起见，这段对话经过编辑和压缩。
每天早上大约6:30，我从位于圣地亚哥市中心的家中乘坐有轨电车前往工作的医院——拉霍亚（La Jolla）。南加州的公共交通并不发达，但我是那个奇怪的人，喜欢乘坐公共交通工具。它快捷、方便，而且我不用支付停车费，非常棒。一个典型的班次是12小时，加上交接班和完成所有记录的时间，实际上会变成13小时，所以你会在那里待很长时间。大多数时候，我上班时并不期待灾难——当然偶尔会发生，但通常我只是去做一份普通的工作，做一些常规的事情。
我在神经重症监护室工作。我们的大多数患者刚刚接受了肿瘤或中风的神经外科手术。这里并不是一个快乐的地方。我看到很多需要长期康复的人，他们需要重新学习基本技能，比如如何握笔、如何走路。脑损伤后，这些能力会丧失，恢复过程非常漫长。我们看到的是患者最糟糕的一面，但看不到他们的进步。如果我们幸运的话，几个月后可能会听说他们完全康复了。这是一个很少有即时满足感的环境。
作为一名护士，你经常会依赖直觉。这种直觉体现在患者说话的方式，或者你从他们外貌中得到的感觉。我认为这是机器无法做到的。然而，近年来，我们看到越来越多的人工智能技术悄悄进入医院。
我早上7点到达医院。我工作的医院外观看起来非常未来主义——这是一座高层建筑，全是玻璃和曲线设计。它获得了许多建筑奖项。这座建筑是由高通公司的亿万富翁创始人欧文·雅各布斯（Irwin Jacobs）资助的。我认为医院由一位科技亿万富翁拥有，这对他们如何看待技术和如何全身心投入技术有着巨大影响。
他们总是希望走在技术的最前沿。因此，当有新的技术出现时，他们会立即采用。我认为这就是他们为什么如此全身心投入人工智能的原因之一。一开始，我们并没有称之为人工智能。最初发生的是这些新创新悄悄进入了我们的电子病历系统。它们是一些工具，用于监测患者治疗过程中特定步骤是否被执行。如果某一步骤被遗漏或未完成，AI会发送警报。这非常原始，目的是防止患者漏诊。
然后在2018年，医院从电子病历公司Epic购买了一个新程序。这个程序可以预测所谓的“患者急性度”——基本上是每位患者所需的护理工作量。这是我们护理中非常重要的测量指标，用于确定患者的病情严重程度和所需资源。在最基本的层面上，我们将患者分类为低需求、中需求或高需求。在AI引入之前，我们基本上填写了一份问卷，问一些关于患者需要多少药物的问题。这些药物是静脉注射的吗？是压碎的吗？是否有中心静脉导管还是外周静脉导管？等等。这些问题决定了患者是低需求、中需求还是高需求。我们会根据这些信息来决定人员配置。如果有很多高需求患者，我们需要更多的人手；如果主要是低需求患者，我们可以少配一些人手。我们自己回答这些问题，感觉我们有控制权，有自主权。
但有一天，这一切都被夺走了。医院在没有通知工会、护士或代表的情况下，购买了这个AI驱动的程序。他们开始使用它，并发了一封电子邮件说：“嘿，我们现在使用这个了。”新程序使用AI从患者的病历中提取信息，然后给出一个特殊的评分。突然间，这个程序就在医院后台运行了。
问题是，我们不知道这些数字来自哪里。这感觉像是魔法，但不是好的那种。它会给出一个分数，比如240，但我们不知道这意味着什么。没有明确的低需求、中需求或高需求的分界线，使得这个评分实际上毫无用处。结果是，它剥夺了我们为患者辩护的能力。我们不能指着一个分数说：“这个患者太重了，我需要单独关注他”，因为这些数字不再帮助我们做出这样的判断。它们不告诉我们患者是低需求、中需求还是高需求，只是给出了一个没人能理解的随机评分。
我们觉得这个系统的设计是为了剥夺床边护士的决策权，剥夺我们决定所需人员配置的权力。这是第一件事。
今年早些时候，医院收到了雅各布斯家族的大额捐款，并聘请了一位首席AI官。当我们听到这个消息时，警报响起——“他们要全面投入AI了”，我们互相说道。我们了解到他们推出了一种名为“环境记录”的scribe技术。他们宣布将在我们医院的医生中试点这个项目。这项技术基本上会记录你与患者的互动，然后像ChatGPT或大型语言模型一样，自动生成笔记或“文档”。
对此有很多明显的担忧，人们的第一反应是：“天哪，这就像大规模监视。他们会监听患者说的每一句话，我们做的每一件事。他们会追踪我们。”这不是他们第一次试图追踪护士。虽然我的医院没有这样做，但美国其他医院使用跟踪标签来监控护士进入房间的次数，以确保达到某些指标。这就好像他们不相信我们会真正照顾患者。我们向同事发放传单，试图教育他们“环境记录”实际上意味着什么。我们要求与首席AI官会面。他淡化了很多事情，说：“不，不，不，我们听到了你们的意见。我们和你们在一起。我们只是开始，这只是个试点。”很多人都翻了个白眼。
他说他们采用这个程序是因为医生的倦怠。确实，记录是医生工作中最繁琐的部分之一，他们讨厌做这件事。引入AI工具监测患者的理由总是说这会让我们的生活更轻松，但在我的经验中，医疗保健领域的技术很少能让事情变得更好。它通常只是加快了生产线的速度，让我们更努力地工作，以便最终雇用更少的人。“效率”是硅谷的一个流行词，但在医疗保健领域，把这个词从你的脑海中抹去。当你优化效率时，你是在消除冗余。但在患者生命攸关的情况下，你实际上想要冗余。你希望系统中有额外的松弛，希望医院里有多双眼睛盯着患者。当你试图将一切都简化为一个人依赖的机器来执行决策时，就只有一双眼睛盯着患者了。这可能是高效的，但通过创造效率，你也创造了许多潜在的故障点。所以，效率并不像科技男们想象的那么高效。
理想情况下，他们认为技术会减轻繁琐的任务，让我们能够专注于患者互动，而不是花时间在电脑后面打字。
但是，谁会认为记录患者说的每一句话并将数据存储在第三方服务器上是个好主意呢？这太疯狂了。我需要保证这个系统是100%安全的——尽管没有什么是绝对安全的。我们都希望摆脱记录要求，更多地陪伴患者。
有一个正确的方法来做这件事。人工智能并不是不可避免的，但它来得很快。有一天，ChatGPT还只是一个新奇事物，现在一切都变成了AI。我们被它淹没。
近年来，另一种进入我们医院的人工智能技术是AI驱动的警报系统。这些警报会在我们完成某些任务时提醒我们，比如检查败血症。这些警报通常不太有用，或者时机不对。目标是防止患者漏诊——这显然是医疗保健中的噩梦场景。但我认为这个系统并没有按预期工作。
我认为真正的目标并不是为每个人提供安全保障——我认为实际上是加快我们的速度，让我们看更多的患者，将每次就诊时间从15分钟减少到12分钟，再到10分钟。又是效率。
我相信这些警报的最终目标是接管医疗保健。告诉我们应该如何工作，而不是让医院花钱培训护士，让他们发展批判性思维、经验和直觉。所以我们基本上只是成为机器的操作员。
作为一名资深护士，我已经学会了识别模式，并根据我看到的情况预测潜在的结果。新护士还没有这种直觉或预见性；发展批判性思维是他们培训的一部分。当他们经历不同的情况时，他们会开始本能地理解这一点。
在未来，有了AI，全天候提醒他们如何工作的警报，新一代护士可能不会发展出同样的直觉。批判性思维被转移到了别处——机器。我相信科技领导者设想的世界是，他们可以破解人类疾病的密码，并基于算法自动化一切。他们只是把我们看作是可以解决的机器。
这篇文章的艺术作品是在罗德岛设计学院由Marisa Mazria Katz教授的一门课程中创作的，该课程与艺术探究和报道中心合作。
(全文结束)
