在混合世界中，包容与排斥被提升到了一个新的层次。建造阶梯变得更加具有挑战性和吸引力。
来源：Walther，由Gemini生成，2025
人工智能正在迅速改变我们的世界，在各个行业中推动创新和效率。然而，当我们拥抱这一强大技术时，我们面临一个关键问题：AI系统中的代表性不足。这种排斥不仅带来了实际风险，还引发了伦理问题，需要我们高度关注和深思熟虑。
数字鸿沟
目前，约有26亿人由于高昂的成本、基础设施不足以及缺乏数字技能而无法接入互联网。此外，大约31亿人经常面临电力短缺，进一步将他们隔离在数字世界之外。这加剧了社会和经济差距，限制了教育、医疗和经济机会的获取。我们可能会抱怨花在手机或电子邮件上的时间，但在2024年，全球仍有5%的人口生活在没有任何移动网络覆盖的地区。这不是他们的选择，并且在考虑AI时，这种情况会产生严重后果。
现状导致AI变得不平衡且带有偏见，间接或直接影响我们消费的信息，危及我们的知识和对现实的认知。（我们将在以后的文章中深入探讨这个话题）。此外，数字排斥剥夺了数百万人获得远程医疗和全天候高质量医疗服务的机会。有限的数据池用于训练算法，结果只能反映提供这些数据的人群。如果没有仔细监督，使用这些结果可能会产生致命后果，因为带有偏见的AI训练数据可能导致算法歧视。
算法歧视
在历史偏见或缺乏多样性的数据集上训练的AI系统往往会延续并加剧现有的不平等。例如，面部识别技术对肤色较深的人表现出更高的错误率，这是由于训练数据中代表性不足。同样，有偏见的招聘算法可能会对某些群体不利，从而延续歧视。2023年发表在《自然》杂志上的一项研究发现，大型语言模型在不同语言和方言中的表现存在显著差异，这对较少代表的语言使用者可能带来不利影响。
在医疗领域，算法偏见可能导致诊断不准确和有害的治疗建议。例如，主要基于某一族裔群体数据训练的AI可能无法识别其他人群的症状或风险因素。基于非代表性数据训练的AI系统可能导致错误诊断，威胁未充分代表社区的生命安全，正如世界卫生组织所强调的那样。
从长远来看，AI在医疗、金融和教育等领域的决策影响力将进一步固化系统性歧视。2023年全球风险报告指出，有偏见的AI系统可能会加剧现有不平等，并创造新的歧视形式。在医疗领域，这意味着整个社区可能会因未能考虑其独特健康状况的AI系统而被系统性地忽视或误诊。
伦理影响
除了实际风险外，这还具有深远的伦理影响。平等参与技术进步是一项基本人权，当AI系统排除大量人群时，它们违反了这一原则。
虽然在生活和工作的各个领域都令人担忧，但算法偏见在健康方面的前景尤其令人忧虑。随着AI系统开始塑造医学研究重点并影响全球卫生政策，多样化声音的缺失可能导致医学进步的重点狭窄。这不仅削弱了我们集体应对全球健康挑战的能力，还可能造成未来数十亿人的健康需求被系统性边缘化。
培养包容性AI
解决这一挑战，防止其成为未来大流行的催化剂，需要AI研究人员、科技公司、政策制定者、非营利组织和全球社区的共同努力。以下是六个关键步骤，指导我们迈向更包容的AI，特别是在医疗领域：
- 积极多元化AI训练数据集：科技公司和医学研究人员可以有意优先收集和整合来自代表性不足地区和社区的数据。
- 培养多样化的AI人才：非营利组织可以发起项目，培养代表性不足社区中的AI人才，这对于将多样化视角引入AI开发（尤其是医疗AI）至关重要。
- 吸引全球利益相关者：政策制定者可以促进AI开发者、医疗保健提供者和全球社区之间的对话，确保AI系统满足多样化的健康需求。
- 规范化伦理审计：科技和医疗行业可以承诺定期对AI系统进行偏见和排斥的审计作为标准实践。
- 创建包容性的AI治理：公司和国家可以将代表性和包容性作为全球AI治理框架的核心原则，特别关注医疗应用。
- 借鉴本地专业知识：AI开发者在部署AI系统之前可以与当地（医疗）专家合作，尤其是在多元文化背景下。
这些要点组成的缩写词——AGENCY——提醒我们，目标应该是赋予全人类在AI时代的权力，而不仅仅是少数特权阶层。我们目前正处于数字贫困的时代。我们有能力扭转这一趋势，走向数字和模拟的丰饶。
(全文结束)
