一项新研究警告，全球医疗系统正在加速进入人工智能辅助医疗领域，但其伦理和监管框架的适应速度却跟不上这一进程。分析表明，即使是拥有相对先进治理体系的司法管辖区，仍然面临着患者权利、算法偏见、隐私保护、责任认定、人类监督，以及临床医生可能过度依赖自动化建议等未解决的问题。
这项题为《指导政策制定者将更好的人工智能伦理融入医疗监管——来自新加坡的经验》的研究发表在《Journal of Clinical Medicine》(临床医学杂志)上。该研究以新加坡为详细案例，声称全球面临的挑战不仅仅在于各国是否制定了人工智能规则，而在于这些规则是否与医学伦理、专业职责、患者保护以及临床护理的现实情况相整合。
医疗AI监管正在扩展，但伦理整合仍然薄弱
人工智能系统已经被用于或正在测试用于筛查、分诊、诊断支持、转诊管理、影像分析、风险预测、治疗规划和工作流程优化。各国政府已通过新的策略、指导文件、风险分类和医疗器械规则作出回应。然而，该研究认为，这一不断增长的监管体系仍留下了一个核心问题未解决：许多框架仍然支离破碎。
研究人员以新加坡为例，展示了这种碎片化如何甚至在一个组织良好的监管环境中出现。新加坡已经制定了关于医疗AI、软件医疗器械、远程医疗产品和新兴健康技术的指导方针。它还拥有涵盖医生、护士、牙医、药剂师、助产士和辅助医疗专业人员的职业道德准则。根据该研究，问题在于这些文件并不总是清楚地解释AI特定责任如何与现有临床职责相连接。
这个问题可能对其他国家也很熟悉。医疗AI处于医学、数据治理、产品安全、数字基础设施、职业道德和患者权利的交汇点。为软件开发者编写的规则可能无法告诉临床医生如何与患者讨论AI的使用。职业道德准则可能保护了保密性，但对在去标识化数据上训练的机器学习模型却几乎没有提及。医疗器械审批流程可能评估了技术性能，但在文化敏感性、技能退化或患者自主权方面提供的指导较少。
该研究将新加坡的规则与医疗AI中的九大主要风险进行了对比：有效性与可靠性、公平性与歧视、隐私与保密性、机器家长式作风、价值多元性、责任、信任、解释与合理性，以及非人化或专业技能退化的风险。这些风险不仅限于新加坡，对于任何采用AI的国家来说，这些都是核心治理问题。
研究结果表明，广泛的伦理原则现在在许多AI框架中都很常见。各国政府经常提到公平、透明、安全、责任、可靠性和以患者为中心的设计。但更难的任务是将这些原则转化为明确的操作职责。医疗系统需要知道谁负责检查偏见，谁决定AI工具是否足够安全可以部署，临床医生何时应覆盖AI输出，是否应告知患者AI的使用，以及如何调查危害。
新加坡的框架总体上与全球标准一致，包括美国、欧盟、英国、澳大利亚、中国、巴西和日本所采用的方法。但研究人员发现，这种一致性并不能自动创造实际清晰度。一个系统可能包含许多相关文件，但仍会在政策、临床实践和患者体验之间留下空白。
患者参与和文化敏感性至关重要
最重要的空白之一是患者参与。许多医疗AI框架将系统描述为以患者为中心，但该研究认为，除非监管机构解释患者意见应如何影响开发和部署，否则这一短语可能会变得模糊。患者不应仅在AI系统已经设计好后才被咨询。他们的观点应帮助塑造工具优化的方向、哪些结果重要、哪些风险可以接受，以及部署后应如何处理反馈。
这尤其重要，因为医疗AI可能影响非常个人化的决策。AI系统可能影响转诊、治疗优先级、临床风险评分，或在慢性病、生育护理、心理健康、残疾支持和临终关怀等领域的建议。在这些环境中，患者价值观可能与技术准确性同样重要。
该研究警告说，患者参与也必须具有代表性。如果开发人员和监管机构仅咨询数字熟练、健康素养高或联系紧密的患者群体，他们可能会错过老年患者、残障人士、低收入社区、移民、少数语言群体以及获得医疗服务有限的患者的担忧。这一风险在全球范围内都存在，尤其是在数字健康工具扩展速度超过公众参与机制的国家。
文化敏感性是另一个全球性问题。新加坡的多元化人口使这个问题变得明显，但这一原则适用于所有卫生系统。在一个环境中训练或验证的AI工具，如果忽视当地价值观、语言、家庭角色、健康信念和社会条件，可能在另一个环境中无法合乎伦理或有效运作。一个技术上强大的系统，如果不符合其所服务的社区，仍可能失败。
该研究还挑战了可解释性应始终作为伦理AI核心标准的假设。可解释性很重要，特别是对于审计、错误审查、法律责任和高风险决策。但研究人员辩称，合理性有时可能更为重要。在医疗保健中，如果工具的使用可以通过证据、患者利益、风险管理以及对患者价值观的尊重来证明是合理的，即使其内部推理无法完全解释，它在伦理上也是可接受的。
偏见、隐私和责任正成为全球压力点
偏见仍然是医疗AI中最棘手的问题之一，因为医疗数据反映了真实医疗系统的不平等。如果某些社区历史上获得的护理较少、诊断较晚、转诊较少或文档质量较低，这些模式可能会嵌入机器学习模型中。AI随后可能在看似中立的情况下复制不平等的治疗。
该研究使用新加坡来检验这一问题如何在实践中出现，但这一问题具有全球性。在不完整或不平等数据集上训练的AI系统可能对某些种族群体、年龄组、性别、社会经济阶层或患有罕见疾病的患者表现不佳。在存在区域、种族、语言或收入差距的国家，风险可能更大。
研究人员辩称，监管机构需要为有偏见的AI制定更明确的规则。完全消除偏见可能是不可能的。因此，伦理问题不仅在于偏见是否存在，而在于与现有实践相比，该工具是改善还是恶化了现实世界的护理。一个有偏见的AI系统可能仍然产生比有偏见的人类系统更好的结果，但如果在没有监控的情况下部署，它也可能加深不平等。
这在效用和公平之间创造了艰难的权衡。一个工具可能总体上改善早期检测，但仍在不同群体之间产生不均匀的结果。监管机构需要实用方法来决定此类工具是否应获得批准、限制、重新设计、监控或撤回。该研究认为，医疗系统需要伦理比例工具，帮助决策者权衡利益、危害、公平、隐私、获取和公众信任。
隐私挑战也在变化。传统的隐私框架通常关注可识别的个人数据，但AI可以从看似匿名的数据中推断出敏感信息。医疗图像、临床笔记、遗传数据、可穿戴设备数据和医院记录可能会揭示种族、疾病风险、社会背景或身份的模式，即使明显的标识符已被移除。
该研究警告说，这削弱了已识别和去识别数据之间的界限。新加坡被引用为一个例子，其中现有的数据保护方法可能无法充分解决AI创建的重新识别风险。但更广泛的教训适用于任何在机器学习环境中依赖旧隐私概念的国家。
医疗系统可能需要更强大的技术保障、更严格的数据共享规则，以及对AI启用的重新识别或监控的更清晰限制。仅靠合同保障可能不够，因为强大的模型可以从大型数据集中提取敏感信号。当医院、政府、保险公司和私营技术公司寻求使用健康数据进行AI开发时，这一点尤为重要。
责任是另一个未解决的全球压力点。当AI辅助决策伤害患者时，责任可能会分散在多个行为者之间。临床医生可能使用了建议，医院可能购买并部署了系统，开发者可能设计了模型，监管机构可能已经批准了它，而供应商可能在部署后更新了它。
这种责任分配可能使患者得不到明确答案，临床医生得不到明确保护。在一种情况下，医生可能因遵循AI建议而受到责备，而在另一种情况下则因忽视它而受到责备。医院可能认为批准就足够了，而开发者可能辩称在临床场所发生了误用。该研究认为，政府必须在AI深深嵌入常规护理之前明确责任。
随着自适应AI系统的出现，这一挑战变得更加严重。一些模型可能会随着时间的推移而改变，因为它们遇到新数据、不同人群或更新的工作流程。在验证期间表现良好的工具在部署后可能表现不同。这意味着监管批准不能被视为一次性检查点。各国需要生命周期监督、上市后监测、性能审计和明确的审查触发器。
该研究还建议建立经批准的AI和机器学习医疗设备的公共登记册。新加坡有一个更广泛的医疗器械登记册，但研究人员认为，专门的AI/ML列表将提高透明度。此类登记册也可以支持公众信任，使患者能够了解哪些工具已经通过监管审查。
职业道德准则也需要修订。许多医疗道德框架是在AI成为临床决策的一部分之前编写的。它们涉及保密性、同意、专业判断和患者福利，但可能没有解释当AI产生诊断、风险评分或治疗建议时，这些职责如何适用。
人类监督必须保持有意义
该研究警告说，医疗AI可能会以两种相反的方式重塑专业行为。一些临床医生可能过度依赖AI输出，这是一个被称为自动化偏见的问题。另一些人可能因为不信任或恐惧而拒绝AI建议，这是一个被称为技术偏见的问题。两者都可能损害患者护理。
自动化偏见可能导致临床医生错过警告信号、忽略矛盾证据或过快接受机器生成的输出。技术偏见可能会阻止患者从准确且经过充分验证的工具中受益。研究人员辩称，医疗系统必须培训专业人员批判性地使用AI，而不是被动或防御性地使用。
这是一个全球性问题，因为许多AI治理框架要求人类监督，但没有定义有意义的监督需要什么。如果临床医生不了解工具的限制、没有时间审查其输出，或者没有挑战它的权力，那么"人在回路中"是不够的。监督必须融入临床工作流程、培训、问责系统和机构文化中。
该研究认为，不同的工具需要不同级别的监督。低风险的管理工具可能需要较少的人工审查。高风险的诊断或治疗系统可能需要密切监督。直接影响患者自主权、预后或重大治疗决策的工具可能需要更强的解释和合理性。
技能退化是另一个令人担忧的问题。如果AI接管重复的临床任务，专业人士可能会失去重要技能。这一风险已经在影像学、内窥镜检查、筛查和临床决策支持等领域进行讨论。更好的方法是确定必须保留哪些技能、哪些任务可以安全地自动化，以及临床医生应如何在AI支持的环境中保持能力。
该研究还警告不要将AI系统视为道德主体。信任应该放在负责开发、批准、部署和使用AI的人和机构身上。AI工具应该针对可靠性、安全性、性能和临床价值进行评估。不应鼓励患者相信系统理解他们、关心他们或承担道德责任。
总的来说，AI可以帮助减少延误、改善诊断、支持临床医生、扩大获取范围并使医疗系统更高效。但如果没有更强有力的治理，它也可能加深差异、削弱问责、暴露私人健康数据、使患者困惑并侵蚀临床技能。
【全文结束】