从为哥伦比亚微型企业家提供信贷到降低埃塞俄比亚的孕产妇发病率，再到向全球各地的难民提供救命信息，人工智能的力量正在与包容和经济赋权的潜力相匹配。
重新定义如何利用AI产生社会影响，五个组织将在“加速包容的人工智能挑战赛”中开发和扩展其解决方案，该挑战赛收到了来自82个国家的500多份提交方案。获胜者——包括印度小型养蜂人的社会企业以及美国连接患者与未充分利用联邦福利的倡议——将获得20万美元的技术援助和来自万事达卡和data.org的指导支持。万事达卡新闻室采访了获奖组织的领导人，讨论了他们在社会部门构建AI解决方案面临的挑战，如何减轻偏见和训练模型以实现包容性，以及其他领域中最有前景的技术应用。
桥接哥伦比亚小微企业的资金缺口：Quipu
在哥伦比亚，近600万家企业是微型企业，员工人数不足10人，资本较少。其中只有9%能够正式借款，因为缺乏对其绩效的信息和财务历史记录，这造成了巨大的资金缺口。Quipu通过使用AI更准确地评估这些小型企业的信用状况，填补了这一信息空白。Quipu的应用程序通过分析非传统数据（如移动交易历史、社交媒体互动、短信和支付模式、智能发放和信用回收）来建立评分模型。它还提供了一个融资平台和小额贷款，使这些企业能够基于财务和非财务信息建立替代信用评分。通过Quipu的应用程序，客户可以在几分钟内申请营运资金，并在两天内获得放款。
加强埃塞俄比亚的社区医疗保健：IDinsight
二十年前，埃塞俄比亚推出了一种新的农村医疗保健模式，培训和部署数千名卫生延伸工作者为当地社区服务，显著改善了母婴健康，减少了新HIV感染、结核病和疟疾相关死亡。为了在此基础上取得更大成功，IDinsight与Last Mile Health和埃塞俄比亚卫生部合作，建立了一个由AI驱动的呼叫中心，卫生延伸工作者可以通过该中心获得复杂病例的实时医疗指导。该组织的AI解决方案包括一个案例管理系统和基于全面卫生部指南的问题解答服务，为呼叫中心代理提供实时支持，使他们能够通过电话将关键信息传递给医护人员，从而专注于患者护理和提供高质量医疗服务。
向危机中的人们提供生命拯救信息：国际救援委员会的Signpost项目
全球有创纪录的1.2亿人流离失所，冲突、自然灾害、贫困和暴力迫使人们离开家园。受影响的人们在整个安全旅程中必须做出关键的、改变生活的决策，但信息有限。2015年，国际救援委员会推出了Signpost项目，建立了数字帮助中心，用户可以在这里找到准确和及时的信息，访问关键服务，并直接向当地版主提问，例如：“我如何获得住房？”、“我能获得临时工作许可吗？”、“我可以让孩子入学吗？”。Signpost在2024年拥有近30个活跃项目，超过600万用户。然而，随着流离失所人数的增加，信息需求也随之增加。2023年阿富汗危机期间，一条Facebook帖子一个月内产生了3万条消息，使当地的Signpost团队不堪重负。2024年，由IRC领导的Signpost项目推出了Signpost AI，通过AI代理和人工监督增强关键信息的传递。该系统旨在减轻版主的负担，使他们能够专注于更复杂的案件，同时确保及时和准确的响应，提高流离失所人口获得资源和服务的机会。
构建印度养蜂人的知识蜂巢：Buzzworthy Ventures
印度仍然是全球农业的巨头，但有一个农业价值链缺乏活力：养蜂业。印度有40万名小规模养蜂人，许多人难以维持生计，更不用说通过昆虫授粉改善作物产量来提升经济潜力。在印度，昆虫授粉每年贡献225.2亿美元，远远超过蜂蜜和蜂产品市场规模，但对于印度经济和营养至关重要的农作物而言，这一潜力尚未得到充分利用。因此，Buzzworthy Ventures创建了Beekind，这是一个由AI驱动的移动应用程序，旨在赋能小规模养蜂人，特别是农村和边缘化社区的女性、小土地持有者、无地农民和部落人口。它提供实时洞察和预测分析，帮助养蜂人管理蜂群健康、诊断疾病、提高蜂蜜产量并适应气候变化。
缩小美国的健康财富差距：Link Health
急诊医生Alister Martin经常看到贫困是患者就诊于急诊科的主要因素。他意识到，“金钱即药物”——帮助患者获得现金援助和联邦福利——可以解决导致健康不佳的根本原因，从而缩小健康财富差距。这导致了Link Health的创建，该计划将患者与未使用的联邦援助计划（如SNAP、WIC和Lifeline）联系起来，以减轻加剧健康不平等的经济压力。AI驱动的注册平台和聊天机器人旨在解锁1000万美元的州和联邦福利，以缓解贫困、减少经济压力并改善福祉。
在启动您的解决方案时遇到的最大挑战是什么？
Mercedes Bidart，Quipu首席执行官兼联合创始人
“最大的挑战是获得第一笔资本以开始贷款并训练我们的评分模型。创建一个新的承保解决方案就像鸡和蛋的问题：你需要资本来构建解决方案，但在测试之前你无法获得资本。”
Sid Ravinutula，IDinsight首席数据科学家
“第一个挑战是技术上的。在医疗保健环境中，治疗和建议必须100%准确——不容许有任何幻觉。这需要不同于流行的检索增强生成架构的方法。我们需要构建一个能准确捕捉治疗和诊断协议的图谱。第二个挑战是创建具有代表性的基准和验证集。在迭代和改进模型之前，我们需要一个包含这些工作人员可能会问的问题和答案的数据集。这个数据集必须涵盖所有可能的主题，并考虑到他们可能使用的简写、俚语、表情符号等。构建高质量的基准数据集是昂贵的，因为它通常需要人工标注。”
André Heller，Signpost项目经理
“最大的挑战之一是开发既包容又上下文准确的AI工具。训练AI理解少数语言、地方方言和文化细微差别需要广泛的数据整理、专业知识和测试。此外，确保AI生成的响应遵守人道主义原则而不传播偏见，需要建立强大的保障措施，如人工监督和道德输出的宪法重写。平衡创新与这些严格标准既具有挑战性又是必不可少的。”
Monika Shukla，Buzzworthy Ventures首席执行官兼联合创始人
“主要挑战在于弥合先进技术与基层农村环境之间的鸿沟。尽管印度互联网连接增长迅速——2023年已有超过7亿互联网用户，主要由廉价智能手机推动——但接入仍然不均衡。这种数字鸿沟，加上偏远森林和村庄的网络覆盖不均，对需要持续连接和用户交互的AI驱动解决方案构成了重大障碍。”
Alister Martin，Link Health首席执行官
“导航和获取公共福利对于许多家庭来说是一个障碍。然而，最大的挑战是将Link Health的干预无缝整合到已经负担过重的医疗环境中。这需要赢得医疗工作者的信任，确保导航员不会干扰患者护理，同时展示对患者和医疗系统的可测量益处。”
如何确保您的解决方案既定制又包容？
Mercedes Bidart，Quipu： “为减轻偏见，我们使用多样化的数据集，定期审计AI模型，并应用人工监督验证，以确保公平和公正的信用评估。我们的算法经过严格测试，防止性别和种族偏见，并不断监控和更新以符合道德标准。我们还为用户提供可访问的申诉流程，允许他们质疑或上诉AI决定。”
Sid Ravinutula，IDinsight： “首先，我们将其作为开源解决方案构建。我们希望这将加速类似工具在其他背景中的部署，允许组织根据其特定需求进行构建。其次，我们确保它可以轻松定制和扩展到本地背景。这包括遵守当地指南、切换AI模型或添加新防护栏。通过创建一个通用模型，可以根据每个背景进行微调，我们确保解决方案广泛适用，同时尊重每个设置的独特要求。”
André Heller，Signpost： “Signpost AI使用来自可信来源和当地NGO的策划和验证数据进行训练。这确保AI反映了区域方言、文化规范和少数语言，填补了弱势群体的关键空白。AI代理支持语音和文本输入，使低识字率人群能够访问。工具经过本地语言专家和社区版主的测试和改进，以验证准确性和包容性。我们的AI宪法民主地建立了伦理规则，包括非歧视和创伤敏感语言，并进行持续审核以减轻偏见。”
Monika Shukla，Buzzworthy Ventures： “Beekind根据具体的区域、生态和作物条件量身定制其技术和接触解决方案，结合超本地化因素如气候、植物和农作实践。为此，我们积极邀请当地养蜂人、研究人员、农业专家和社区领导者共同设计实践、模型和实施策略，确保解决方案与服务对象的生活现实相契合。我们优先考虑女性和小农户——印度农业生态系统中关键但未被充分服务的贡献者。例如，通过提供性别敏感培训和创建包容对话空间，我们赋予女性积极参与并受益于养蜂价值链的权利。包容性不仅是一项原则；它是我们的实践基石。”
Alister Martin，Link Health： “导航员会在物理和情感上与患者会面——通常在候诊室，并根据具体患者需求调整方法，如为老年人注册Medicare储蓄计划。通过设计优先考虑可访问性和使用受信任的社区信使的系统，该计划确保有效服务多样化人口，尤其是弱势社区。”
您对AI的最大担忧是什么？
Mercedes Bidart，Quipu： “构建AI模型时最重要的部分是数据集。一个好的模型应该有一个良好和公平的结果，唯一的办法是用代表各地区特点的多样化数据集训练模型。另一个重要部分是构建模型的人/团队。只有20%的AI工作由女性完成，这意味着结果没有从性别角度审查。我们需要更多女性领导AI解决方案。”
Sid Ravinutula，IDinsight： “可靠性。在医疗保健中，错误的诊断或不完整的治疗可能会带来灾难性的后果。然而，AI模型本质上表现出随机性。例如，多次询问AI同一个问题可能会得到略有不同的答案。同样，重新表述问题会产生不同的答案。虽然大多数答案可能传达相同的信息，但有些可能是不完整或误导性的，可能导致伤害。强大的防护栏至关重要，以确保所有回答正确、完整和尊重。”
André Heller，Signpost： “最大的担忧是AI通过偏见、虚假信息或排斥造成伤害的潜在风险。对于弱势群体，错误信息可能会产生改变生活的后果。确保AI在上下文中准确、透明和道德，需要不断的监督、测试和与当地专家的合作。我们通过实施人工监督进行质量控制、偏见审核和道德审查来完善回答，并通过透明框架如AI宪法来治理输出，减轻有害风险。我们在平衡AI创新与问责和信任方面保持警惕。”
Monika Shukla，Buzzworthy Ventures： “当AI模型使用不完全代表其所服务社区的数据进行训练时，存在强化现有不平等的风险。例如，许多AI系统使用主要语言的数据进行训练，而地方方言和口语语言往往被忽视。在印度，许多部落和地区社区使用缺乏强大数字数据集的语言。这种代表性不足可能导致模型无法准确解释或回应这些社区的需求。此外，地区口音、语音模式和生活实践常常被忽视，使AI解决方案对这些群体无效甚至有害。”
Alister Martin，Link Health： “最大的担忧是AI系统可能延续现有的偏见，特别是在服务弱势群体时。如果没有仔细监督，算法可能会无意中排除最需要帮助的人或未能考虑他们面临的系统性不平等。确保AI决策的透明性、问责制和道德使用至关重要，以避免加剧不平等。这也是为什么我们在关键环节保留人工监督的原因——并且我们将继续在发展AI工具时保留人工监督。”
您认为哪个行业除了您自己的之外最有可能从AI中受益？
Mercedes Bidart，Quipu： “教育行业。我认为教育已经发生变化，我们有机会使其更加民主。我们在Quipu围绕教育所做的工作是在WhatsApp上创建了一个通用AI助手，支持客户进行业务管理。无需为每个企业提供一名顾问。通过一个聊天机器人，我们可以支持数百万人的教育和成长。”
Sid Ravinutula，IDinsight： “IDinsight是跨领域的。虽然这个项目集中在医疗保健，但我们也在教育和社会保护领域开发了AI解决方案。农民面临与社区卫生工作者相似的信息障碍。他们需要知道最适合种植的作物和最佳肥料混合物，以及诊断作物疾病和治疗方法的帮助。在教育中，AI用例包括个性化导师、AI生成的课程计划和AI驱动的评估和评价。我们曾使用AI识别印度辍学女孩，以帮助一家NGO增加女孩的入学率。最后，AI可以帮助公民获取政府福利。它可以协助确定资格并导航复杂的申请过程。”
André Heller，Signpost： “随着AI的进步，很难想象哪个行业不会被改变。问题是何时——两年还是五年？从商业运营到数据分析，再到医疗保健诊断和几乎任何领域的研究，一切将以我们从未见过的速度前进。一个实际的例子：气象与灾害管理的联动。天气警报和灾害预警系统，如洪水、飓风、干旱和极端天气事件，具有巨大的潜力从AI中受益。先进的AI模型可以分析实时气象和水文数据，更准确地预测灾害并提供早期预警，以更全面的应对方式包括脆弱人群、当地企业、供应链和政府。Signpost已经开始通过FloodHub利用AI进行洪水响应，结合AI预测和实时更新，帮助社区准备和减轻洪水影响。”
Monika Shukla，Buzzworthy Ventures： “医疗保健行业将从AI中显著受益，尤其是在诊断、个性化医学和优化农村地区的医疗供应链方面。AI工具可以协助早期检测疟疾和结核病等疾病，通过医学影像或诊断测试。例如，AI模型可以分析胸部X光片或血液样本，以发现疾病早期迹象，即使在资源匮乏的环境中也能更快诊断和治疗，最终挽救生命并减少医疗成本。AI还可以优化远程医疗系统中的物流，确保及时向欠发达地区运送医疗用品和疫苗，这对拥有大量农村人口的国家至关重要。”
Alister Martin，Link Health： “教育将从AI中获益匪浅，特别是在为弱势学生个性化学习体验方面。AI可以帮助识别学习差距，提供定制支持，并提供多语言资源，这是传统模式无法做到的。通过解决优质教育资源获取不平等问题，AI可以对未来的健康和社会经济成果产生变革性影响。”
(全文结束)
