西雅图消防部门未经公众披露使用AI分析911医疗呼叫
作者：丹尼尔·比克曼
《西雅图时报》
西雅图——在过去的两年多时间里，一家丹麦公司的AI技术一直在未经西雅图居民知晓的情况下监听他们的911医疗急救电话。
西雅图消防部门（SFD）一直在使用该公司的AI技术帮助调度员决定哪些呼叫者不需要紧急响应。
| 注册：智能工具，战略选择：急救医疗系统将AI投入实际应用
Corti公司的技术提示调度员将某些911患者转接到由护士值守的得克萨斯呼叫中心，而不是立即派遣救护车。该技术会分析患者所说的话，并在某些情况下通过弹窗提醒提示调度员。
消防部门在5月下旬确认，这一做法既没有向呼叫者披露，也没有经过公众审查，而此时距离《西雅图时报》开始询问这一问题已经过去了两个月。
此外，消防部门官员无法解释他们如何衡量该技术的成功程度，也无法说明他们与Corti公司当前的合同情况，这让居民们更加困惑。
"这家公司可能成为西雅图911呼叫者体验的一部分，而他们却毫不知情，这引发了严重的担忧，"华盛顿大学法学教授、该校技术政策实验室联合主任瑞安·卡洛（Ryan Calo）表示，"我在多个层面上感到忧虑。"
消防部门方面表示，尽管该部门是全国首批尝试该技术的911机构之一，但在现场呼叫中使用AI技术时采取了保守方法。
"调度员仍然拥有最终决定权，"负责资源管理的助理消防队长克里斯·伦巴德（Chris Lombard）表示，"即使收到AI提示，调度员仍可决定如何处理每个911呼叫。"
"每个911呼叫的决定...都是由经过培训的SFD调度员根据SFD的协议做出的，"Corti公司的一位发言人在上周写道，这距离《西雅图时报》要求采访已过去两个多月，"Corti的角色是支持这项工作，而不是取代或覆盖临床判断。"
尽管Corti一直在使用居民的呼叫来为SFD训练其AI，但该公司表示它并不拥有西雅图的数据，且被禁止使用它来训练其他客户的AI模型。伦巴德表示，患者的机密信息没有风险。
然而，一些专家表示，该部门在医疗呼叫中秘密使用AI的做法引发了关于透明度、隐私和问责制的问题，特别是因为西雅图的911护士热线也存在问题。
该护士热线由该市的救护车承包商American Medical Response管理，不受SFD通常要求救护车快速到达的标准约束。《西雅图时报》今年早些时候报道称，被转接到护士热线的呼叫者可能被迫等待数小时才能等到救护车来接他们。该市没有追踪这些等待时间。
在《西雅图时报》报道了护士热线问题后，包括一名911呼叫者疑似错误死亡的事件，市长凯蒂·威尔逊（Katie Wilson）和市议员鲍勃·凯特尔（Bob Kettle）承诺将重新审视该系统。然而，他们尚未采取行动，而AI的参与可能会使情况更加复杂。
"AI似乎正在提示调度员将某些呼叫转接到护士热线，"来自华盛顿大学的卡洛说，"被错误地引导到911环境之外的人有权知道发生了什么。"
尽管AI助手在医生办公室和客服电话中越来越常见，但拥有西雅图患者倡导咨询服务机构的谢丽尔·考夫曼（Cheryl Kauffman）补充说，"我无法想象"西雅图的普通民众会猜到AI参与了他们的911呼叫。
"我认为我不完全反对在911呼叫中使用AI的想法，"华盛顿大学技术法律和公共政策诊所负责人、隐私和网络安全律师杰万·哈特森（Jevan Hutson）说，"但治理需要与风险相匹配，而目前的治理并未与风险相匹配。"
长期合作关系
根据公司报告，消防部门与Corti的关系可以追溯到疫情之前。那时，Corti开始监听西雅图的呼叫，以测试其检测心脏骤停症状的能力。
来自丹麦的研究显示，Corti的人工智能比人类调度员更快地在紧急呼叫中检测心脏骤停，尽管假阳性率高于调度员。
2019年，SFD和Corti签署了一份数据共享协议。
协议中写道："Corti正在开发一种可以分析声音、聆听语调、过滤背景噪音等的AI应用程序。通过机器学习，该应用程序通过聆听实际呼叫来训练自己，识别重要因素并持续改进其模型。为此，访问911呼叫来构建知识库是至关重要的。"
助理消防队长伦巴德表示，大约在那个时期，消防官员使用定制的Corti软件重建了他们的911接听流程。伦巴德说，他们最初仅将Corti的AI用于已完成呼叫的质量保证检查。
"SFD的人工员工只能审查该部门911医疗呼叫的一小部分，而AI可以快速检查更多'以确保我们每次都在问正确的问题'，"伦巴德说。
据该公司称，波士顿急救医疗服务部门也类似地使用Corti的AI进行911医疗呼叫的质量保证。
Corti自称是"医疗保健AI平台"，在寻求拓展美国业务的同时，多次大肆宣传其在西雅图的工作。其CEO曾写道："在西雅图等城市，AI自2019年以来已集成到紧急调度系统中，提供实时、数据驱动的支持。"
现在SFD正在淡化AI的角色。伦巴德表示，该部门直到最近才开始在实时911呼叫中使用AI，而且仅与救护车承包商的护士热线相关联。
实时提示
护士热线旨在通过为有低级别问题的911呼叫者提供其他选择（如远程医疗和社区诊所）来减轻紧急服务的压力。但实际上，护士热线也使西雅图的救护车承包商得以规避责任。
2022年，退休人员帕梅拉·霍根（Pamela Hogan）在拨打911并被转接到护士热线后，等待了超过10小时才等到救护车。根据American Medical Response与西雅图签订的合同，这种情况是可以接受的。霍根从未获得护理，后来被发现死在她的公寓里，她的遗产现在正在提起诉讼。
适用于霍根案件的放宽救护车响应标准仍然适用于护士热线——而AI现在也成为其中的一部分。
伦巴德表示，SFD从2023年12月开始使用实时AI提示，帮助调度员更一致地识别要转接到护士热线的911呼叫。
Corti的AI现在监听所有911医疗呼叫，当它检测到认为应该转接到护士热线的呼叫时，会向调度员发送消息。
伦巴德说，忽略建议提示的调度员不会受到惩罚。
西北健康法律倡导者非营利组织的联合执行董事艾米丽·布赖斯（Emily Brice）表示，这很重要，因为应该始终有一个处于"审查链末端"的人类来做出关于护理的决定。她说，如果调度员被激励与AI保持一致，这种情况可能会被削弱。
根据2024年Corti的一份新闻稿，SFD医疗总监迈克尔·赛尔（Michael Sayre）将911呼叫转接到护士热线增加50%归功于该公司的"尖端技术和实时提示"。
一位消防部门发言人在5月下旬澄清说，实际增幅为32%，Corti的一位发言人补充说，这符合SFD的协议。
尽管赛尔希望AI提示能让调度员更一致地使用护士热线，而不是以不同比率使用，但据活动报告称，他在去年的一次研讨会演讲中表示，这种情况并未发生。
赛尔仍然持积极态度。
"这项工作面临真正的挑战，但我们现在已经验证了这个AI系统可以工作。下一步是将其用于更高危急程度的呼叫，"赛尔在2025年研讨会报告中表示。
"我们才刚刚开始，"他补充道，"已经在使用的医疗技术可以彻底改变我们提供护理的方式。"
益处与风险
西雅图使用AI可能通过帮助消防官员完善他们的呼叫接听实践和更快地对患者进行分诊，使911呼叫者受益。
根据年度报告，SFD对Corti如此看好，以至于去年为来自海岸警卫队、达拉斯、阿拉斯加和台湾的访客举办了该公司技术的参观和演示。
Corti在2024年的一段宣传视频中引用了SFD首席调度员希尔顿·阿尔蒙德（Hilton Almond）的话："Corti不仅仅是我们使用的AI解决方案，它是一种合作，我们每天都在努力拯救更多生命。"
然而，华盛顿大学计算机科学教授、该校安全和隐私研究实验室联合主任弗朗齐斯卡·罗泽纳（Franziska Roesner）表示，由于缺乏大量公开信息，很难评估呼叫者是否受益。
威尔逊市长在1月上任后于5月4日发布的愿景文件中表示，该市使用AI"需要仔细考虑对我们的劳动力和环境的影响，以及对隐私和偏见的仔细分析。"
但伦巴德助理消防队长表示，911医疗呼叫者未被告知他们的呼叫正在被AI监控。消防部门网站上没有公开声明。该部门没有指标与公众分享，说明AI是如何改善或未改善西雅图911呼叫者的结果的。
SFD无法分享他们向Corti支付的详细账目。目前的年度总成本约为26万美元。
"不清楚这是坏事，但也不清楚这是好事，"罗泽纳说，"我认为我们需要了解更多。"
罗泽纳补充说，AI研究揭示了根据种族、性别和社会经济阶层进行有偏见治疗的潜在可能。
"我不知道他们是如何考虑这一点的，"她说。
SFD对AI的使用尚未根据西雅图的监控条例进行评估，该条例要求审查可能引发社会正义担忧的观察或分析个人的技术。
华盛顿大学隐私和网络安全律师哈特森对此感到困惑。尽管911呼叫长期以来一直被记录并且是半公开的——患者的医疗信息可能被删除——但哈特森表示，AI增加了复杂性。
"我不知道如何逃避监控审查，"他说。
来自华盛顿大学技术政策实验室的卡洛指出，西雅图可能不喜欢消防部门使用AI的人实际上无法避免它，因为在处理医疗紧急情况时没有替代方案。
"当你拨打911时，你是因为必须才这么做的，"他说。
展望未来
根据最近的调查，许多医生对医疗保健中的AI持乐观态度，许多人已经在工作中使用一些AI。
但华盛顿大学计算机科学博士生索汉·加迪尔（Soham Gadgil）表示，该技术可能受到错误、幻觉和其他问题的困扰，他共同撰写了一篇关于医疗AI透明度的最新论文。
加迪尔说，呼叫者和SFD需要知道AI如何使用他们的信息做出建议以及其表现如何。
伦巴德助理消防队长在《西雅图时报》询问公众意识后表示，SFD将从现在开始公开其AI使用情况。例如，他说，该部门计划为响应医疗紧急情况的消防员部署AI记事功能。
"我们正在通过整个城市流程运行它，"他说。
市长发言人被问及AI和911时说，威尔逊政府"目前正在制定一个面向公众的框架，以规范未来AI的使用和治理"。
"我们还将制定一个框架，评估先前授权的AI使用是否继续反映我们的价值观，以人类福祉为中心并服务于公共利益，"发言人说。
负责市议会公共安全委员会的凯特尔对SFD使用AI一事未予评论，称他需要"做一些尽职调查"。
比尔·施赖尔（Bill Schrier）曾领导西雅图的信息技术部门，他认为尽管一些居民担心，但AI将在紧急分诊中逐渐普及，"因为它将改善服务"。
但AI批评者凯文·德·利班（Kevin De Liban）警告说，对于预算紧张的地方政府来说，可能会有一条滑坡。
"在某个时候，你将与AI语音代理交谈，"而不是人类，德·利班说，他的非营利组织TechTonic Justice为AI时代的低收入人群发声。
这并非不可能。斯诺霍米什县和基察普县的911机构最近开始使用AI代理接听非紧急线路。斯诺霍米什机构也在紧急呼叫中使用AI副驾驶。
© 2026 《西雅图时报》
访问www.seattletimes.com
由Tribune内容代理有限责任公司分发
【全文结束】