人工智能正大规模影响医疗服务的提供方式，我们所有人都有责任确保这一过程安全且无偏见，前沿人工智能与医学领域的研究者如此主张。
人工智能通过提高诊断准确性、简化治疗流程和个性化患者护理，正在革新医疗保健。预测性健康软件和医学图像分析系统等工具处于这些创新的前沿。在瑞士及全球，医院正面临日益严峻的财务挑战。当由医学专家妥善管理和操作时，人工智能技术可能通过加速诊断、筛查、报告和决策制定来降低成本。通过人类与人工智能的协同合作，我们希望此类机构能够更高效地管理资源，更有效地应对财务压力。
但在临床环境中部署人工智能会引发关于可靠性和公平性的关键问题。尽管人工智能常被视为“黑箱”解决方案，但必须审视其开发和使用过程中可能产生的偏见。人工智能系统能否真正为所有患者提供平等的护理？
为何产生人工智能偏见
偏见可能在人工智能开发的不同阶段悄然潜入，例如问题设定、数据收集和算法设计环节。
数据来源：人工智能中最常见的偏见来源是训练数据，这些数据代表用于教导人工智能模型如何决策的信息。如果训练数据未能涵盖所有人群或包含历史偏见，人工智能模型很可能重复这些问题。例如，用于分析胸部X光片的人工智能系统已显示出偏见，尤其影响女性、黑人患者和低收入个体，因为这些群体在训练数据中代表性不足。另一个例子涉及检测皮肤癌（如黑色素瘤）的人工智能工具，它们主要基于浅肤色个体的图像进行训练，可能导致对深肤色患者准确率降低。
模型构建：人工智能模型的结构也可能导致偏见。这些模型通常针对准确性进行微调，这可能会忽视公平性的重要性，影响罕见但关键的案例。例如，刑事司法系统中使用的COMPAS算法旨在预测被告再犯可能性。尽管在许多案例中准确，但它表现出偏见，对黑人被告不公平地分配更高风险评分。这是因为模型考虑了逮捕历史和社会经济背景等因素，而这些因素可能受执法和社会中系统性偏见的影响。在医疗领域，美国全国范围内用于识别复杂健康需求患者的算法被发现偏好白人患者而非黑人个体，因为它使用已产生的医疗成本作为健康需求的替代指标，无意中引入了种族偏见。
人为监督：开发者的偏好和偏见可能通过数据选择、问题定义及模型训练目标等决策渗透到人工智能系统中。如果开发团队缺乏多样性，会限制视角广度，从而显著影响人工智能系统的公平性。这也可能导致工具无法为所有用户提供充分性能。例如，美国在新冠疫情期间的研究显示，健康监测和诊断的人工智能系统往往对边缘化社区（如黑人、西班牙裔和美洲原住民群体）的数据采样不足，加剧了健康差异。
人工智能偏见的影响
人工智能中的偏见引发重大伦理和法律问题。错误诊断或不适当治疗违反医疗保健公平性的基本原则。瑞士宪法第8条第2款强调，每个人都应受到法律平等对待，这凸显了人工智能系统中公平与平等的必要性。欧盟《通用数据保护条例》(GDPR)等国际标准也强调在人工智能应用中禁止歧视和公平的重要性。这些法规强调人工智能系统必须透明、负责且公平，以防止歧视并确保医疗保健中的公平结果。
研究表明，基于语言数据训练的人工智能模型常复制人类偏见，包括与种族和性别相关的偏见，从而强化社会偏见。在医疗保健中，这种偏见可能导致不准确的医学诊断和治疗建议，对弱势社区造成不成比例的影响。
偏见的人工智能系统还可能破坏患者与医疗服务提供者之间的信任。信任是有效医疗保健交付的基石。如果用户对人工智能驱动诊断和治疗的人口公平性与准确性感到担忧，患者和医疗专业人员都可能不愿使用这些技术，这可能会阻碍本可惠及医疗保健的创新采用，降低相关成本并提高可及性。
如何助力确保医疗保健中的人工智能公平性
解决医疗保健中的人工智能偏见需要开发者、医疗服务提供者、政策制定者和社区患者共同努力。
开发者必须使用多样化数据集训练人工智能模型以避免偏见，并验证人口公平性和准确性。开发过程中的透明度对于建立信任和问责制至关重要。用于识别人工智能建模过程中偏见的方法论工具在改善人口公平性方面可能发挥关键作用。医疗服务提供者通过将人工智能伦理整合到实践中、持续监控其性能以及教育员工负责任使用发挥重要作用。此类提供者可帮助调整人工智能模型以补偿偏见，这可能比重新培训人类更具成本效益，确保所有医疗决策尽可能无偏见且公平。政策制定者通过制定促进包容性研究和公平人工智能实践的标准和指南作出贡献。他们必须与利益相关者合作，制定并执行确保人工智能系统对医疗保健产生积极影响同时解决潜在偏见的法规。
为帮助开发和实施公平的人工智能系统，公众成员可以：
保持知情：持续关注人工智能及其潜在偏见。理解基本概念和人工智能可能表现出偏见的具体方式至关重要。定期阅读可信新闻来源和研究出版物，了解人工智能和医疗保健领域的最新发展。这些知识将帮助您做出明智的决策和贡献。
参与公共活动：积极参与关于医疗保健中人工智能的公共讨论。您在论坛、咨询和讨论中的参与可显著影响政策，确保人工智能系统具有人口公平性和公正性。通过要求组织清晰解释人工智能模型的训练、验证和监控方式来倡导透明度。这种透明度对建立人工智能系统中的问责制和信任至关重要。通过捐赠、志愿服务或推广关注健康公平的机构工作，支持包含多样化人群的研究。
与政策制定者互动：通过与地方和国家政策制定者互动，倡导人工智能中的公平性和问责制。联系您的代表，强调在人工智能开发中纳入多样化数据的重要性。支持要求对人工智能系统进行定期审计的政策，以确保偏见广为人知且关于使用人工智能模型的决策是有依据的。参与致力于此事业的倡导团体或运动，并在公共讨论和咨询中发出您的声音。通过参与公共评论期、写信给代表及加入相关讨论，推动在人工智能法规中建立明确的问责结构。
通过携手合作，我们能确保人工智能为每个人带来益处。深思熟虑且有目的的人工智能开发将创造反映我们共同价值的技术，致力于一个医疗服务对所有人而言更经济、更可及、更公平的未来。
作者使用了生成式人工智能工具（包括ChatGPT-4和Gemini 1.5）进行语言改进。他们审查了内容并对最终文本的准确性和连贯性承担全部责任。
【全文结束】
