人工智能工具已经开始进入医生办公室，并为医疗保健带来许多潜在的好处。但随着规则的缺乏和众多问题的出现，人工智能可能会引入哪些风险呢？
阿尔伯塔省已经使用AI医疗记录工具
泰勒·兰伯特 * CBC新闻 * 发布于：2025年2月12日 东部时间上午4:00 | 最后更新：2025年2月12日
人工智能在医学中的应用日益增多，许多医生已经在实践中采用面向患者的工具。（图片来源：Shutterstock）
你的医生可能有一个新的助手，它不是人类。
人工智能在医学和医疗服务中并不是新鲜事物。但随着大型语言模型AI（如ChatGPT）迅速变得更强大，医生们越来越多地在实践中采用面向患者的工具。
然而，AI也伴随着自身的一系列风险和挑战，而在医疗环境中这些风险和挑战尤为严重。
“当然，AI可以有许多用途，”卡尔加里大学的助理教授兼卫生政策专家洛里安·哈德卡斯尔说。“但我认为我们始终需要考虑在护理质量和准确性方面的权衡。”
阿尔伯塔省医院试点AI记录工具
目前在阿尔伯塔省使用的一种AI工具是医疗“记录员”，它可以在咨询期间记录医生和患者之间的对话，并生成书面摘要。
这类工具因其能够减少医生的行政工作量而受到欢迎，从而节省他们花在额外患者身上的时间。
尽管存在多个商业示例，但阿尔伯塔省卫生服务局（AHS）开发了自己的AI记录员，以减轻对患者数据共享给私人公司的担忧。
该工具最初由红鹿市急诊科医生迈克尔·韦尔登博士创建，他有工程背景。从那时起，它发展成为艾伯塔大学、AHS和加拿大医学会之间的联合项目，并获得了100万加元的资助。自2024年11月以来，AI记录员已在现实世界中投入使用，作为试点项目的一部分。
一位AHS发言人表示，约有15名急诊科医生在红鹿医院、艾伯塔大学医院和皇家亚历山德拉医院使用该工具。试点项目将持续到2026年6月，没有更广泛推广的时间表。
根据使用条款，医生必须在将生成的摘要复制粘贴到患者的医疗记录之前进行审核。数据不会离开AHS服务器。
“听起来AHS在尝试减轻这一领域的法律问题方面做了很多努力，”哈德卡斯尔说。“我猜我可能有的一个问题是，我们真的在彻底审查这些AI生成的笔记吗？还是有些人只是浏览一下或根本不仔细审查？我们是否会因这些工具生成的笔记而影响准确性？”
然而，医生们发现这些工具非常有用。2024年受安大略省政府委托的一项研究发现，使用AI记录员的医生每周减少了三小时的下班后行政工作时间，并改善了工作与生活的平衡。
“他们给我们发邮件，打电话，告诉我们诸如‘今天我笑得更多了’……或者‘我已经执业30年了，这是第一次周六属于我自己的时间’，”卡尔加里Mikata Health的联合创始人梅根·诺兰说，该公司开发基于AI的医疗工具，包括记录员。
“这非常令人兴奋。我认为这确实可以改变我们在医疗系统中面临的挑战。”
知情同意问题
医生在使用AHS记录员前必须获得患者同意。
阿尔伯塔省医师和外科医生学院关于AI的“职业建议”文件指出，“至少，患者应该了解涉及数据完整性、偏见和隐私的潜在风险。”
虽然该文件代表的是指导而非专业标准，但CPSA发言人通过电子邮件表示，它鼓励医生“在实践中使用AI工具时行使最佳判断，告知患者任何已知风险，并确保提供的护理符合我们实践标准中的期望。”
当被问及患者是否在不知晓任何潜在风险的情况下同意医生使用AI记录员会符合知情同意的标准时，CPSA表示“这取决于具体情况。”
对于AHS记录员的试点，医生被提供了一个简短的脚本，供与患者沟通使用。该脚本提到患者的信息可能用于质量改进，并且拒绝同意不会影响护理。它未提及偏见或错误等风险。
哈德卡斯尔指出，许多关于负责任使用AI的问题尚未得到司法解释。
“我们有很多关于手术、诊断测试等的知情同意的司法解释，解释法院所谓的重大风险……但这不同，因为这是一个记录工具，本质上，通常我们不需要患者对医疗程序的方面进行同意。”
阿尔伯塔省卫生部长阿德里安娜·拉格朗日的发言人表示，政府认识到“围绕AI的明确和有意义的知情同意的重要性”，包括“确保患者充分了解这些工具的工作原理以及他们的数据将如何使用。”
阿尔伯塔省卫生部未回答有关当前商业AI工具使用指南的问题，也未回答有多少医生目前使用这些工具或如何处理AI错误的问题。
负责接管初级护理责任的Primary Care Alberta未回应CBC新闻关于AI的问题。
缺乏法规
AHS在医疗AI领域有很多同伴。
2024年5月，阿尔伯塔创新公司——一家省级王室公司——宣布为医疗AI的研究和开发提供近1000万加元的资金。其中，艾伯塔大学获得了近400万加元，用于开发建议生成AI工具和评估AI驱动的阿片类药物过量预测。
Mikata Health获得了80万加元用于开发其AI记录员，诺兰表示他们试图认真对待这一新兴概念。
“这个关键的新兴概念，我认为像我们这样的公司需要像对待隐私和安全一样认真对待，这就是负责任的AI开发的概念，”诺兰说。
“这是一个更高的标准，既因为你将AI纳入产品中，也因为你服务于医疗行业。这是我们看待它的方式。”
在使用这些工具之前，医生必须向信息和隐私专员办公室（OIPC）提交隐私影响评估（PIA），详细说明可能出现的个人隐私风险。
OIPC以前公开列出这些评估，但由于处理PIA方式的变化，公共登记册在2024年9月底停止更新。OIPC告诉CBC新闻，公共登记册的未来正在审查中。
目前，阿尔伯塔省没有专门监管AI使用的法律。省政府自2024年初以来一直在制定法规，但发言人未回应何时这些法规可能最终确定的问题。
针对医生使用AI工具是否有足够的法规或法律透明度的问题，阿尔伯塔省医学会表示不同意。
“环境通常不够清晰，让普通医生有信心使用AI工具，不过如果医生认真审查和编辑记录，AI记录员的风险可能小于其他可能的应用，”发言人通过电子邮件表示。
建立对Dr. AI的信任
AI在医疗保健中的作用只会继续增长。它已被用于医学研究以寻找潜在的疾病治疗方法。阿尔伯塔省的一个试点项目很快将把AI添加到现有的MRI机器中，以提高效率。
诊断AI已经存在，哈德卡斯尔和诺兰都指出，在某些情况下，它已经被证明比人类医生更准确。然而，许多人仍然持怀疑态度。
“仍然有一种……我不知道如何描述它，除了对AI进行诊断感到不适，”诺兰说。“这似乎违背直觉。”
她希望有健全的法规来指导医疗AI的负责任开发。随着时间的推移，人们逐渐适应AI，这可能会推动AI走向她认为可以拯救生命的地方。
“我认为这非常积极，”诺兰说。“我对这些机会非常乐观。”
(全文结束)
