人工智能已在育空地区部分诊所使用数月之久——据该地区卫生部门称，这些工具已成为医疗提供者宝贵的资源。
但其他人认为，政府采纳人工智能的速度太快，未能充分理解其对患者的潜在影响。
该地区已部署了两款AI工具：Heidi，它能倾听医患之间的对话并生成文字记录和关键要点；以及Spotlight，它利用这些临床记录自动填充转诊表格和其他文书工作。
这些服务只能在获得患者同意的情况下使用。临床医生应在每次预约开始时与患者确认。
育空政府综合健康服务主任阿莱西娅·斯托布（Alethea Stobbe）表示，她已从提供者那里听到关于这些工具在诊所中运行情况的积极反馈。
"由于医生在诊疗过程中不必同时做记录，他们实际上可以更专注于自己的患者，"她说。
但其公司提供AI采纳建议的马库斯·卡斯蒂略（Marcus Castillo）质疑为何在诊所使用AI的政策指南尚未制定的情况下就采用了这些工具。
"如果你不知道自己在AI工具方面做什么，尤其是处理如此敏感的事务时，你将会犯错误，"他说。
Spotlight的创始人奇拉格·贾德瓦尼（Chirag Jadhwani）告诉加拿大广播公司（CBC），他创建该工具的目标正是帮助临床医生避免这种情况。在怀特霍斯为育空政府工作期间，他收到来自孟买家人的噩耗。
"我的祖母是与我母亲一起抚养我的人之一，"他说。"当她去世时，原因是她的转诊被延误并退回，因为她的档案中存在错误。"
这段经历促使他尝试寻找解决方案。
"我辞掉了工作，开始冷不防地打电话给医院、危机热线，以及所有在医疗系统中进行转诊和管理转诊的人，"他说。
他了解到，该地区的门诊诊所提供者需要多达四次就诊才能完成一名患者的转诊包，且需要三小时来完成文书工作。作为回应，贾德瓦尼与杰弗里·辛顿（Geoffrey Hinton，被誉为"AI教父"）共同创立的研究机构Vector合作设计了软件。
"现在，只需两下点击，草稿就准备好了供审查，"他说。
斯托布表示，这有助于填补育空地区医疗保健系统中的一个关键缺口，该系统严重依赖临时医生和护士，他们可能不熟悉该地区内外的所有转诊选项。
她说，高达60%的临床医生现在定期使用AI听写工具Heidi，90%使用Spotlight。这两款工具已在加拿大各地使用，Spotlight目前已在安大略省、不列颠哥伦比亚省、美国两个州和英格兰的诊所部署。
Heidi收集的育空信息存储在魁北克的服务器上，并在10天后自动删除。Spotlight将服务器放置在诊所内，并依靠虚拟专用网络而非第三方基于云的存储。
报告发现医疗AI工具会产生"幻觉"
今年5月，安大略省审计长雪莉·斯宾斯（Shelley Spence）发布了一份报告，发现供医生使用的AI工具提供了不正确和不完整的信息，或表现出"幻觉"。报告还发现评估和测试过程中存在重大漏洞。
斯托布承认育空地区的提供者曾看到Heidi生成错误信息，但她说，一旦他们要求该工具不要做假设，只使用临床诊疗中讨论的信息，错误就显著减少。她说政府在部署该软件前完成了隐私影响和安全威胁风险评估。
审计长的报告还详细说明了安大略省采购过程中的问题，称这可能导致选择那些AI工具"产生不准确或有偏见的医疗记录"或"缺乏足够的保护来保障个人健康信息"的供应商。
育空政府的采购过程规避了对各种AI供应商的评估，并于去年直接向Heidi和Spotlight颁发了奖项。这种情况只有在紧急情况或合同低于一定成本门槛等特殊情况下才能进行。卫生部门未回应CBC的更多信息请求。
斯宾斯为安大略省提出了多项建议，例如在实施AI系统前进行强制性现场演示以确保其有效性，以及进行强制性培训以确保用户了解风险。
"我们不是说停止进步，"斯宾斯说。"我们只是说，围绕环境建立管控措施，确保我们不会盲目推进那些不起作用的东西。"
Heidi的发言人未在截止日期前回复置评请求，但将CBC引向其网站上概述公司对安全和性能承诺的部分，其中部分内容写道："当工作公开进行时，临床AI评估的标准会更快提高。"
在育空地区，自去年推出这些工具以来，评估阶段一直涉及使用真实患者。关于此次推广的报告现已完成。育空政府尚未发布该报告。
"医疗系统压力巨大"
"作为临床医生，我们大量的时间最终都花在了重复性任务上，"温哥华家庭医生普内特·塞思（Puneet Seth）博士说，他表示自己是临床实践中听写工具的早期采用者。"医疗系统压力巨大。"
今年4月，卡尼宣布削减加拿大卫生转移支付，该支付用于省级和地区医疗保健系统，以及削减包括紧急治疗基金在内的项目，该基金资助育空地区的多个项目。
西方大学生物伦理学副教授肯·柯克伍德（Ken Kirkwood）担心AI可能被用来证明进一步削减医疗支出是合理的。
"当政府未能充分资助医疗保健时，可能会出现一种情况，即看似的好处和必要性实际上是人为制造的，"他说。
斯托布表示，临床医生应审查AI生成的记录和文书的准确性，并补充说提供者对任何错误负责。
但柯克伍德担心这将责任推给了已经过度工作的医生。他表示AI工具在部署前应像其他药物或医疗设备一样经过严格的测试。
贾德瓦尼表示，他的公司已投入大量精力确保患者安全和保密。
"但使用Spotlight等工具确实存在风险——归根结底它是软件，可能会出错，"他说。"我们的目标是，与其花费三、四个小时完成文书工作，我们可以将其缩短到10分钟。"
【全文结束】