应对医疗保健中人工智能的道德、监管和实施障碍：低资源环境下实现包容性数字健康的路径——一项范围综述Frontiers | Navigating ethical, regulatory, and implementation barriers to AI in healthcare: pathways toward inclusive digital health in low-resource settings—a scoping review

应对医疗保健中人工智能的道德、监管和实施障碍：低资源环境下实现包容性数字健康的路径——一项范围综述

艾瑞巴·沙希德 ¹, F. N. U. 尼莎 ², 扎伊拉·阿扎尔 ³, 特赫里姆·拉乌夫 ⁴, 埃拉夫·伊曼·伊沙克 ⁵, 高拉夫·坎萨尔 ⁶, 马利克·奥拉通德·奥杜约耶 ⁷*, 奥卢瓦佩卢米·伍米·阿德尼吉 ⁸, 约瑟夫·康特 ⁹

¹ 卡拉奇金纳信德医科大学内科与外科系，巴基斯坦卡拉奇

² 贾姆肖罗拉奇医学与健康科学大学内科与外科系，巴基斯坦贾姆肖罗

³ 巴基斯坦国防部ML&C司，巴基斯坦拉瓦尔品第

⁴ 拉合尔法蒂玛·金纳医科大学内科与外科系，巴基斯坦拉合尔

⁵ 伊斯兰堡瓦蒂姆医学院内科系，巴基斯坦伊斯兰堡

⁶ 帕蒂亚拉政府医学院内科与外科系，印度帕蒂亚拉

⁷ 医学研究圈研究部，刚果民主共和国戈马

⁸ 杨百翰大学应用健康系BYU Pathway Worldwide，美国雷克斯堡，爱达荷州

⁹ 新墨西哥大学公共行政学院，美国阿尔伯克基，新墨西哥州

摘要

背景： 人工智能有潜力彻底改变中低收入国家的医疗保健服务，然而其快速应用带来了复杂的道德、监管和实施挑战。本综述调查了这些障碍，并识别了在资源有限环境中支持公平、包容性AI部署的新兴策略。

方法： 遵循PRISMA范围综述扩展指南，在PubMed、Scopus和Cochrane Library中进行了系统文献检索（2000–2025年），并结合全球卫生政策报告。检索采用人群、概念和背景框架，以识别涉及中低收入国家AI治理的研究。共分析了60篇涉及道德、监管或实施问题的文献，涵盖基于WHO和OECD框架的三个领域：治理、隐私和AI应用。

结果： 研究显示，仅有7.4%的中低收入国家通过了国家AI战略。证据表明，超过60%部署在中低收入国家的AI模型依赖非代表性数据集，增加了上下文偏差。在纳入的60项研究中，25项聚焦于伦理，17项关注监管空白，18项关注实施。研究发现劳动力准备程度存在差距，不到10%的机构提供结构化AI培训。来自巴西和印度的案例研究说明了如何通过上下文敏感设计应对这些障碍。

结论： 成功的AI整合需要上下文敏感的设计、参与式治理和能力建设。本范围综述指出了关于可操作化的实证研究的关键空白，并建议从数字依赖转向本地创新生态系统。

亮点

• 绝大多数中低收入国家缺乏正式的国家AI战略，在监管监督和伦理治理方面存在关键空白。
• 超过60%部署在中低收入国家的AI工具依赖高收入国家数据集，而本地训练的模型预测有效性高出25%–30%。
• 不到10%被审查的中低收入国家卫生机构提供结构化AI培训，凸显了阻碍可持续整合的劳动力和基础设施缺陷。

1 引言

人工智能是指一组允许机器和计算机模拟人类智能的技术。AI已成为各行业的变革力量，医疗保健是最重要的领域之一。AI进入医院和诊所代表了医疗服务提供和管理方式的范式转变。AI通过协助医生、替代行政任务和增强医学知识，能够转变医生工作流程和患者护理。

发展中国家是指年人均国民总收入不超过11,905美元的国家。在发展中国家，农村居民的平均预期寿命和健康状况普遍低于城市居民。贫困是最大的社会决定因素之一。获得合格医疗保健的机会有限是健康状况不佳的直接原因。公共卫生支出低、医疗保险覆盖率低、福利待遇有限、卫生专业人员和设施短缺、卫生工作者缺乏培训、交通困难等都导致发展中国家农村地区医疗保健质量低下。在发展中国家，城乡卫生服务不平等是一个严重问题，其中合格医疗服务提供者短缺是农村地区医疗保健不可用和低质量的主要原因。

研究表明，计算机辅助或AI医疗技术的应用可以改善发展中国家农村地区的医疗保健结果。许多中低收入国家信息基础设施和移动计算能力的同步进步带来了希望：AI可能有助于应对全球健康领域的独特挑战，并加速实现健康相关的可持续发展目标。一系列基本问题被提出：关于AI驱动的健康干预措施，以及传统上用于对新技术的伦理和循证决策的工具、方法和保护措施是否能应用于AI。事实上，尽管AI通过其帮助人们延长寿命和过上充实生活的主要目标具有巨大潜力，但它也可能被误用或滥用造成伤害。例子包括威权政权用来压制异见的秘密监视系统、军事化杀人机器人，以及训练数据中存在的歧视和偏见被转化为AI决策中的歧视。

其他担忧包括AI导致隐私缺乏、透明度不足、个人数据被误用，以及随着数据可以秘密收集而可能丧失知情同意；人类接触和同理心的丧失，以及缺乏问责和法律责任。鉴于这些挑战的跨学科性、规范性和政策驱动性，我们选择范围综述方法来综合不同背景下的伦理、监管和实施视角。

2 方法

2.1 研究设计与理由

本研究采用范围综述设计，以审视中低收入国家AI驱动的医疗保健系统中的数据治理和隐私。选择范围综述是因为它是绘制新兴多学科领域中证据性质和范围的最合适方法。本研究按照系统综述和荟萃分析首选报告项目扩展的范围综述指南进行。与叙述性综述不同，该方法遵循系统化方案来识别研究空白并组织异质性证据——包括政策文件和同行评议研究——这些证据无法定量合并。

2.2 检索策略与资格标准

为确保方法严谨性，本研究以人群、概念和背景框架为指导：

• 人群：资源受限环境中的医疗保健系统、服务提供者和患者。
• 概念：包容性AI面临的伦理、监管和实施障碍。
• 背景：中低收入国家。

在PubMed、Scopus和Cochrane Library中进行了检索（2000–2025年）。25年范围经过特意选择，以提供纵向基线，捕捉从早期电子健康基础设施到近期生成式AI激增的转变。虽然检索窗口较宽，但最终纳入的60项研究反映了2015年之前中低收入国家正式治理文献的极端稀缺。2000–2010年间的大多数历史记录聚焦于健康记录数字化，而非自主算法的伦理治理，这解释了为何大多数结果在全文审查中因缺乏政策或治理重点而被排除。来自WHO、世界银行和OECD的灰色文献被纳入以捕捉全球标准。

概念框架：研究结果按三个领域组织——治理、隐私和AI应用——这些来自WHO的AI健康伦理与治理指南和OECD的AI原则。该框架确保与全球标准一致，并为综合不同类型的证据提供结构化视角。

2.3 研究选择与数据综合

最终综合共纳入60项研究。这一最终数量经过严格验证，以确保结果和讨论中的一致性。数据提取聚焦于识别具体背景下的障碍以及当前中低收入国家政策中缺失的结果。根据范围综述标准，未进行单个研究的正式质量评估，因为目标是绘制该领域的广度而非验证具体的临床效果。

3 结果

3.1 证据来源的选择

在四个数据库和灰色文献中的初步检索共产生1,365条记录（1,245条来自数据库，120条来自政策报告）。去除315条重复记录后，剩余1,050条唯一引文进行标题和摘要筛选。在初步筛选阶段，根据预定义的排除标准（如与医疗保健无关或非中低收入国家背景）排除了820条记录。因此筛选出230篇文献进行全文检索和资格评估。在全文审查中，170项研究因不符合特定纳入标准而被排除——主要是由于聚焦于纯粹的技术算法描述而无治理分析，或发表在2000年之前。最终，60项研究满足所有标准并纳入最终的范围综述综合。系统筛选过程见PRISMA流程图（图1）。每篇纳入文献的详细特征和主题焦点见补充表1。

图1 PRISMA流程图（略）

3.2 纳入文献的特征

在60篇纳入文献中（总结于补充表1），大多数发表于2018–2024年间，反映了AI在全球健康领域应用的近期激增。地理上，证据分布在撒哈拉以南非洲、南亚和拉丁美洲。在设计上，综述包括同行评议的实证研究、政策框架和案例报告。

4 综合结果

60篇文献的结果按三个领域组织：治理、隐私和AI应用，基于WHO和OECD的数字健康治理框架。在这一语料库中，25项研究涉及伦理与治理，17项涉及监管框架，18项聚焦于实施和AI应用。这一结构化综合确保了与全球数字健康监管标准的一致性。

4.1 AI驱动卫生系统中的伦理挑战

在医疗保健中实施AI的关键限制之一是训练数据集中各种人群的代表性不足，从而加剧了现有的社会和种族差距。这损害了模型在不同患者群体中的准确性和可靠性。全球综述的证据显示，确保数据多样性和以公平为中心的设计可以减少医疗保健提供中的系统性偏见。

在低识字率环境中，由于语言、教育和技术障碍，获得知情同意往往很困难。此外，跨境健康数据传输中的AI使用由于隐私法律和薄弱保障措施带来了显著风险。在没有协调一致的法规或执法能力的情况下，中低收入国家的人群面临数据误用或剥削的风险增加。

尽管AI在医疗保健中的作用显示出增强临床决策的巨大潜力，但问责仍是一个主要挑战。开发者、临床医生和患者的多重角色使得责任归属困难。当前法律和监管框架缺乏对问责的明确定义，尤其是当决策由不透明或黑箱算法做出时。结果，这种不清晰损害了AI在医疗保健中的透明度和伦理使用。此外，不透明的AI模型增加了法律和道德不确定性，使得难以将不良后果归责。见表1：中低收入国家AI驱动卫生系统中的伦理挑战。

表1 中低收入国家AI驱动卫生系统中的伦理挑战（略）

4.2 监管与政策挑战

发展中国家采纳AI的核心挑战之一是缺乏全面的卫生领域AI国家战略。虽然许多高收入国家已制定了清晰的AI国家框架，但许多中低收入国家缺乏指导框架和战略规划来引导负责任部署。根据截至2022年的政策分析报告，仅有7.4%的中低收入国家通过了正式的国家AI战略，非洲的采纳率尤其低（54个国家中仅有4个），而全球仅有15.2%的国家拥有针对AI的立法，约60.3%的全球国家缺乏AI在医疗保健中的基础设施。虽然几个中低收入国家仍在制定AI专门法律，但现有框架如南非的《个人信息保护法》和印度的《数字个人数据保护法》（2023）目前为这些地区的隐私领域提供了主要法律基础。此外，采用在高收入国家数据上训练的AI模型往往无法捕捉中低收入国家的独特背景，导致有效性差、偏见和不公平结果。基础设施和验证框架的缺失增加了风险。

治理是确保AI技术道德、透明、负责和适应的基本框架。虽然许多国家已实施全系统AI治理政策，但缺乏稳健的治理体系。许多研究建议治理应该是多学科的，涉及临床医生、伦理学家、法律顾问和患者。这些政策包括持续的审计和风险评估。

缺乏透明度和自主决策造成了责任空白，使得在患者伤害事件中谁应被问责变得不明确——是临床医生、开发者、机构还是监管者。这种不确定性削弱了可靠性，特别是在低资源环境中采纳此类不透明系统时，凸显了需要强有力的监管框架以超越责任并建立明确的护理合规以创造透明度。见表2：AI实施的监管与政策障碍。

表2 AI实施的监管与政策障碍（略）

4.3 实施挑战

尽管AI和数字健康在全球健康中显示出巨大潜力，但其实施面临各种技术、科学、基础设施、伦理和社会文化挑战，尤其是在中低收入国家。见表3：中低收入国家中的实施挑战。

表3 中低收入国家中的实施挑战（略）

中低收入国家的主要障碍之一是资源限制。由于资源稀缺和财政约束，AI技术未被优先分配资源，直接影响其在医疗保健中的开发、设计和整合。在评估赞比亚糖尿病视网膜病变筛查AI模型的准确性时，Bellamo指出了实施中的两大障碍：可负担性和可用性。在资源不足的环境中，即使像AI这样有益的技术也可能因财务成本、缺乏最佳电信网络、互联网可用性不足和电力短缺而变得不切实际。

软件算法的持续升级、测试以及监测AI系统以确保所有硬件组件正常工作的财务成本进一步加剧了这一问题。随着AI医疗保健的最新进展，来自政府、产业和学术界的初始投资正在增加；然而，AI系统的长期可持续性仍不确定。需要足够的商业激励来采纳和优化这一技术；然而，没有可持续的财务模型，即使最有前途的技术也可能无法产生影响力。成功部署AI驱动技术需要大量投资来加强资源、基础设施和潜在培训，以支持新的干预措施。

中低收入国家AI驱动医疗保健的另一个关键挑战是卫生专业人员缺乏AI培训。这一知识和教育空白不仅延伸到临床医生，也延伸到政策制定者、AI开发者乃至个体患者。他们之间缺乏合作为有效采纳和理解这些技术构成了重大障碍。AlBahar等人的一项研究指出，缺乏适当培训以及获得技术支持的机会不足是约旦医院实施临床决策支持系统的主要挑战。培训不足导致劳动力无法管理或有效使用AI工具，这强调了充分培训和专业能力对这些技术理解的重要性。

像收集和标注数据这样耗时的任务也可能构成障碍，尤其是考虑到医疗保健人员的工作安排繁忙。AI在医学中的有效实施还需要临床医生对AI的信任和接受，并融入现有医疗系统。AI技术可能因担心未来会取代医疗专业人员而面临抵制。许多医疗专业人员也可能因培训不足而难以信任自动化系统。这种不熟悉和理解不足可能导致难以依赖AI解决方案。在中国农村接受采访的22名临床医生对AI驱动的临床决策支持系统表示怀疑，例如与当地背景不匹配以及系统的透明度和可信度。中国的另一项研究表明，一些用户认为AI聊天机器人产生的诊断不准确。

Frimpong（弗林蓬）全面概述了文化对各国AI使用的影响。在非洲，与AI相关的主要担忧包括岗位流失和社会经济鸿沟。在南非和肯尼亚，AI发展引发了对西方强国依赖加深、隐私侵犯以及本地数据暴露给外国风险等担忧。在拉丁美洲，人们对政府监控、隐私和人权侵犯普遍感到忧虑。在巴西，政治腐败和对政府的不信任进一步影响了AI的文化接受度，同时人们担心AI可能加剧性别不平等、边缘化社区并对土著语言产生负面影响。

AI实施的一个重要挑战是语言限制。一个医学词汇在不同的语境中可能具有不同的含义。即使AI系统能识别一个单词的不同含义，它可能仍难以确定其发生的上下文。为解决此问题，AI必须使用包含多样化本地人群的数据进行训练，并适配本地语言以更好地理解上下文。

以结肠镜检查为例，Carrell（卡雷尔）等人描述了将自然语言处理系统应用于异构环境的各种挑战。主要挑战包括构建自然语言语料库的困难、不同的记录结构以及特异的语言内容。这在低资源环境中可能会被放大，因为手写的健康记录进一步增加了构建可用自然语言语料库的复杂性。此外，大语言模型的最新发展带来了关于“幻觉”以及中低收入国家本地语言代表性不足的额外风险，因此需要对生成式AI工具在低资源系统的特定社会文化背景下进行稳健的验证。

5 讨论

本范围综述综合了不同中低收入国家背景下的伦理、监管和实施见解，强调概念一致性而非详尽的证据覆盖。研究发现，AI在医疗保健多个领域具有显著的变革潜力，尤其是在中低收入国家——这些国家的医疗保健系统服务不足且负担过重。AI技术越来越多地被用于资源受限环境，以弥合医疗服务提供、诊断和疾病监测方面的关键差距。AI与远程医疗的整合为解决农村地区医疗可及性提供了有前景的解决方案，提供先进的诊断工具、预测分析和个性化治疗建议，从而赋能本地提供者决策支持，减少延误并改善治疗结果，同时减少不必要的临床就诊并减轻机构负担。

AI驱动的医学诊断因其成本效益和对基础设施、设备及专业人员的依赖最小而取代了传统系统。此外，可以实现更快的诊断过程和高准确度。在疾病监测方面，AI通过分析来自多种来源的数据（如搜索趋势和电子健康记录）实现早期检测、实时监测和高效资源分配，以预测早期疾病爆发并发出自动警报。

AI预测分析在传染病控制中的应用日益增多。将机器学习模型与流行病学和气象数据整合以预测登革热爆发，使公共卫生当局能够采取必要的预防措施，更有效地分配资源，尤其是在脆弱地区。

在中低收入国家医疗保健环境中应用AI的关键考虑因素之一是本地开发工具与进口工具之间的明确区别。本地定制工具基于区域特定数据构建，与本地医疗基础设施和疾病特征一致，提供卓越的可解释性、上下文契合度和成本效益，特别是在低资源环境中。相比之下，从高收入国家改编的进口工具基于数据集和临床流程，这些在中低收入国家中无法很好地转化，从而引发数据兼容性和模型泛化性的担忧。

5.1 将结果与包容性原则联系起来

结果中识别的主题集群——伦理（3.1）、监管（3.2）和实施（3.3）——显示了中低收入国家中数字依赖的循环。为从这些障碍转向可行的框架，我们提出四项包容性AI原则。这些原则并非独立于结果，而是对数据的直接回应。例如，“上下文敏感性”原则（4.2.1）是对文献中发现的“算法偏见”（3.1.1）和“上下文偏见”（3.2.1）的必要回应。同样，“开源与节俭创新”（4.2.3）为克服像Bellamo（贝拉莫）在赞比亚的研究中识别出的“基础设施赤字”（3.3.1）提供了战略路径。

5.2 包容性与公平性AI的原则

AI的上下文敏感性是指将AI模型适应并有效整合到本地社会文化、疾病模式和现有卫生系统中。这确保AI解决方案是适当的，即AI解决方案与本地人群在人口统计和疾病特征上匹配。一个重要问题出现在当使用高收入国家数据训练的AI模型被部署到中低收入国家时，影响其在临床实践中的采纳和有效性。这种现象也被称为上下文偏见，其定义为在高收入国家创建的算法被部署到具有不同健康背景、人口统计、健康风险和治疗决策的中低收入国家。一项研究评估了一个高收入国家制造的AI模型在越南一家医院的有效性，发现该模型在被用于与其训练环境不同的环境时性能显著下降。因此，有必要构建使用本地数据集训练的算法AI模型。这确保了在不同环境中的相关性、有效性和可用性。

为确保上下文敏感性，需要学术界、临床实践和产业界的合作，以创建技术上合理且临床相关的模型。本地利益相关者必须参与数据收集、验证和监管，以及法律框架的制定。

所有相关利益相关者，包括医疗保健专业人员、AI专家和社区成员，必须参与AI解决方案的设计和实施。医生和AI开发者需要协同努力，以优化临床环境中的AI工具。医生提供对疾病、症状和患者医疗保健需求的更深入理解，而AI开发者拥有设计和实施AI工具所需的技术技能。多学科方法将产生在临床世界中更有效和可行的工具。

随着AI融入医学，医生有必要培养基本技能，如数据分析、统计和AI伦理。为教育卫生专业人员AI，医学院和住院医师课程必须更新，包括算法和数据集理解以及信息学培训。培训本地AI人才对于确保技术符合当地社会文化规范的需求是必要的。必须建立高收入国家与中低收入国家之间的战略伙伴关系，高收入国家提供资金和投资以确保AI在中低收入国家的实施。

考虑到中低收入国家的基础设施差距，可能关注的领域应包括投资于强大的互联网网络、提供电子健康记录以及建设国家级电子健康基础设施。为应对日益增长的计算能力和容量需求，应加入联合项目并从IT公司获取资金。应与本地和国际软件开发者签订协议，提供开源许可和免费培训其产品，以降低财务成本和教育障碍。高收入国家与中低收入国家之间需要在开源平台、移动应用和数字健康方面建立战略伙伴关系，以寻求更具成本效益的解决方案。应鼓励国家研究和创新，以生成文化上合适且社会可接受的AI解决方案。

电子病历是患者和人群健康信息的数字版本，可以帮助解决中低收入国家数据获取和存储的问题。OpenMRS就是在肯尼亚使用的一个系统，用于改善母婴健康数据的完整性。云计算是另一种用于数据存储和处理的高性价比应用。通过使用远程服务器，中低收入国家能够获得以前无法达到的计算能力。它促进了即使缺乏足够IT基础设施的环境中的AI实施。中低收入国家中手机的广泛使用也有助于实现健康目标，并在资源不足的环境中传递有针对性的健康信息。

OpenMRS的实施反映了治理领域和原则4.2.3（开源创新），通过构建可持续的国家级电子健康基础设施。

本地创新生态系统包括本地AI人才、产业、研究机构、临床医生、政府和政策制定者。强大的本地生态系统使AI发展符合国家利益和本地健康优先事项。它减少对外部力量的依赖，创造就业机会，建设本地能力，并实施上下文敏感的干预措施。Alami（阿拉米）等人也强调了负责任的本地领导参与，包括所有利益相关者，是可持续和包容性AI的五个基石之一，指出促进他们之间的有效合作对于开发稳健的AI技术是必要的。

与高收入国家的合同协议也可以帮助促进教育和培训，通过发展新的专业协会增强本地临床医生的能力。

5.3 公民社会与患者的作用

公民社会、患者个体和社区团体在AI开发和部署的所有阶段都发挥着积极且不可估量的作用。Bazzano（巴扎诺）描述了AI如何成为公共卫生的强大工具，前提是参与式方法和社区参与。社区参与对于AI的公平分配、防止伤害和促进透明度至关重要。这种参与确保AI不会加剧健康差距，并避免偏见风险。

公众对AI的投入对于促进透明度和有效减轻AI的有害影响至关重要；然而，对其工作原理、演化能力和资源需求的充分了解不足可能会阻碍社会和个人的有意义参与。Sieber（西贝尔）等人将公众参与AI分为五个不同主题：作为政府自动化自然副产品的参与、通过AI媒介促进的参与、作为量化过程的参与、作为信任技术治理的参与，以及作为真正有意义参与的参与。这五个主题描述了公民参与AI的各种方法。参与可能作为政府自动化的副产品自然产生，或者通过AI工具和聊天机器人收集公共数据，从而促进参与式设计。它通常可能被简化为可量化的数据，或者更重要的是，通过具体引用透明度、问责、开放数据素养和隐私来建立信任和获得对AI的接受。最后一个主题呼吁更真实、更有抱负的方法，即关注赋能公民、共同设计和共同生产。这种基层参与对于减轻我们当前中低收入国家框架审查中发现的透明度和问责差距至关重要。（参见表4 包容性AI开发：指导原则与行动）

表4 包容性AI开发：指导原则与行动（略）

这种方法是对我们结果中识别的“黑箱”不透明性和责任空白的批判性回应。通过走向有意义的参与，中低收入国家可以从被动接受进口技术转变为积极参与公平的本地创新生态系统。

6 原则在行动中的案例

为验证讨论部分提出的框架，以下案例说明了理论原则如何被操作化以解决现实世界的实施障碍。

6.1 巴西：预测性疫情管理

巴西约拥有美洲报告登革热病例的一半。自1986年开始官方国家报告后的30年里，报告了超过1100万疑似病例和超过5000例确认死亡。此期间感染率和死亡率均上升。统计时间序列预测工具，如季节性自回归综合移动平均模型，采用数据中心的思路，利用登革热的高度自相关特性来预测未来发病率。

机器学习模型也被应用于不同背景下预测登革热，通常整合气候数据。在Andersson（安德森）等人的一项研究中，登革热风险在巴西里约热内卢被更精细地评估。作者使用基于航空和街景图像的卷积神经网络来预测社区水平的登革热风险。评估了机器学习模型在巴西200多个城市提前一个月预测登革热的潜力。比较了不同算法，包括决策树集成方法、神经网络、支持向量回归和季节性朴素基线模型。研究表明，不同模型在不同城市表现最佳，而基于每月登革热病例训练的随机森林模型整体表现最优。他们能够利用2007年至2019年的数据提前一个月预测巴西城市的每月登革热病例。

此案例代表AI应用领域，并体现了原则4.2.1（上下文敏感性）。SARIMA和随机森林模型使用本地流行病学和气象变量进行训练，以确保区域准确性，展示了上下文特定应用如何减轻中低收入国家中数据不匹配的风险。

6.2 印度：结核病筛查算法

印度拥有世界上最大的结核病负担，占每年380万“缺失病例”的四分之一以上，这些病例未被诊断。这一差距主要是由于缺乏准确、快速且成本效益高的结核病筛查和诊断工具。现在，随着数字胸片的出现，使用计算机辅助检测软件解释胸片进行肺结核检测的兴趣重新燃起。2018年，一种具有肺结核检测能力的新型商用CAD软件qXR（Qure.ai，印度孟买）获得了CE认证。据该公司称，该软件与所有放射学信息学系统兼容，易于整合到放射学工作流程中，可在10毫秒内处理一张胸片。该研究中肺结核的验前概率为34%。qXR检测微生物学确诊肺结核的AUC为0.81（95% CI: 0.78, 0.84）。同时最大化qXR敏感性和特异性的阈值为0.818。使用0.818阈值，qXR的敏感性为71%（95% CI: 66%, 76%），特异性为80%（95% CI: 77%, 83%）。

qXR的实施同时涉及治理和实施领域，并体现了原则4.2.3（节俭创新）。通过确保与现有放射学IT系统兼容并在10毫秒内处理图像，它绕过了我们结果中识别出的基础设施和专业人才短缺，展示了节俭创新如何在低资源环境中弥合治理差距。见表5 中低收入国家AI案例示例。

表5 中低收入国家AI案例示例（略）

为解决隐私领域问题，南非的POPIA和印度的《数字个人数据保护法》的监管基准可作为实用模型。它们与原则4.2.2（参与式设计）一致，将透明度和用户同意要求嵌入法律架构，确保数字健康扩展不会在资源有限环境中损害患者权利。

7 未来方向与研究空白

AI在不发达国家医疗保健系统中的使用日益增多，提出了特定的实施、伦理和法律问题。除了批判性反思，问题解决还需要主动策略，填补当前空白并确定未来研究方向。

7.1 上下文感知的AI开发

大多数AI健康应用是在高资源环境中开发的，这限制了它们在中低收入国家的性能和适应性。AI系统必须适应本地流行病学特征、语言多样性、卫生系统能力和社会文化背景。这需要强大的本地人口数据库和涉及一线工作人员及社区利益相关者的参与式设计程序。必须进一步研究方法，以开发不仅技术上可靠，而且社会和环境上完善的AI系统。

7.2 性别与公平导向的算法审计

根据Obermeyer（奥伯迈耶）等人的研究，当前AI系统已显示出复制甚至放大现存种族、性别和社会经济偏见的倾向，导致不同的健康结果。迫切需要系统性的算法审计，特别关注交叉性和公平性。#### 7.3 AI伦理与法律的协同发展

中低收入国家的一个显著监管障碍是缺乏能够随AI进步而同步发展的灵活法律框架。法律常常要么滞后，要么设立宽泛的禁令阻碍创新。通过伦理学家、法律学者、公共卫生专家和技术专家等多方利益相关者参与，共同制定伦理标准和法律文件至关重要。未来研究应探索如何将适合具体情境的伦理概念，如问责、公正和团结，纳入既具有赋能性又具有保护性的立法框架中。

全球关于AI和数字健康的讨论大部分被北方国家的机构和叙事所主导。这种不平衡可能加剧知识边缘化和数字依赖。关键步骤包括去殖民化数字健康研究、资助区域卓越中心以及鼓励南南合作。必须赋予本地研究人员、技术专家和立法者权力，使其能够领导创新并设定研究优先事项，以创建真正包容、伦理且可持续的AI驱动卫生系统。在改革研究资助时，全球南方应优先考虑能力建设和长期合作。

8 局限性

本综述有若干局限性应予以承认。首先，作为一项范围综述，该方法有意采用非穷尽方式，依赖有目的地识别代表性且有影响力的文献，而非全面的系统性检索。因此，一些相关研究或政策文件可能未被捕捉。其次，本综述仅限于英文出版物，这可能导致来自中低收入国家以其他语言发表的本地证据代表性不足。第三，本综述主要依赖二手文献和政策分析，未应用正式偏倚风险或质量评估工具；相反，来源可信度基于同行评审状态、机构权威性和相关性进行概念性评估。最后，所纳入研究和政策来源中报告的定量数据反映了异质性的背景和方法，应被视为指示性趋势而非精确或普遍可推广的估计。尽管存在这些局限性，范围综述方法为塑造中低收入国家卫生系统中公平AI部署的伦理、监管和实施挑战提供了有价值的概念性和政策相关见解。

9 结论

为从数字依赖转向包容性卫生系统，中低收入国家必须将本综述中确立的四项包容性AI原则付诸实施。具体而言，优先考虑上下文敏感性（原则4.2.1）确保AI根据本地数据进行校准，而培养本地创新生态系统（原则4.2.4）则减少对外部技术的依赖。采用参与式设计（原则4.2.2）和开源创新（原则4.2.3）为弥合已识别的基础设施差距提供了必要路径。

AI在改善发展中地区医疗保健服务方面前景广阔，但除非结构性、伦理和监管障碍得到解决，其影响将仍然受限。算法偏见、数据保护薄弱和问责不清等挑战与脆弱的法律体系和资源不足的卫生基础设施相互交织，可能导致更严重的不平等而非进步。可持续的进步需要技术适应当地环境，由区域专家共同创造，并与公共卫生优先事项保持一致。法律和政策框架必须嵌入公平、透明和问责，同时通过专业培训、技术教育和包容性治理对本地能力进行投资，确保数字工具服务于真实的社区需求。

有意义的转型取决于跨境合作、公平资助和积极的公众参与。经过深思熟虑的设计和负责任地实施，AI可以加强卫生系统并推动全民健康覆盖；但在没有保障措施的情况下引入，则有强化排斥的风险。目标不仅仅是采用新技术，而是以维护公共卫生中的公正、包容和共同责任的方式将其整合。

声明

数据可用性声明

本研究中的原始贡献已包含在文章/补充材料中，进一步查询可直接联系通讯作者。

作者贡献

AS：撰写初稿、可视化、项目管理、验证、方法学。FN：审阅与编辑。ZA：撰写初稿。TR：审阅与编辑。EI：审阅与编辑。GK：撰写初稿。MO：软件、监督、方法学、审阅与编辑、概念化、撰写初稿、调查、可视化、项目管理、资金获取、数据管理、资源、形式分析、验证。OA：审阅与编辑。JC：审阅与编辑。

资金

作者声明本工作及其发表未获得财务支持。

利益冲突

作者声明本工作是在不存在任何可能被解释为潜在利益冲突的商业或财务关系下进行的。

生成式AI声明

作者声明本稿件未使用生成式AI。本文中随图提供的任何替代文本均由Frontiers借助人工智能支持生成，并已尽力确保准确性，包括在可能情况下由作者审阅。如发现任何问题，请与我们联系。

出版者注

本文中的所有主张仅代表作者本人，不一定代表其所属组织、出版商、编辑和审稿人的观点。本文中可能被评估的任何产品或制造商可能提出的任何主张均未得到出版商的保证或认可。

补充材料

本文的补充材料可在线获取：

（此处删除网址，保留文本说明）

【全文结束】