一项调查显示，肯尼亚用于预测国民能够负担多少医疗费用的AI系统，系统性地提高了穷人的医疗成本。
这项在全国范围内推行的医疗系统是总统威廉·鲁托的一项关键竞选承诺，于2024年10月启动，旨在取代肯尼亚沿用数十年的国家保险系统。
该系统被宣传为"加速数字化转型"，旨在扩大对肯尼亚庞大非正规经济的医疗服务覆盖范围：包括日薪工人、小贩、农民和非薪金劳动者，他们占该国劳动力的83%。
"不会让任何一个肯尼亚人掉队，"鲁托在2023年竞选期间在凯里乔的一个拥挤体育场中宣布，称每位公民很快都将获得可负担的医疗服务。
但他的解决方案反而引发了抗议和愤怒，因为数百万人的医疗缴费现在通过一个被描述为"有缺陷"且据消息人士称几乎不透明的公式来计算。
鲁托称之为AI驱动的这一解决方案，并不依赖于支撑ChatGPT等大型语言模型的最新人工智能进展——而是使用预测性机器学习算法。
该算法现在通过一种经济状况调查流程，确定数百万人的医疗缴费金额。
经过数月的调查，《非洲无遮蔽》(Africa Uncensored)的记者与《灯塔报告》(Lighthouse Reports)和《卫报》合作，获得了该系统的关键细节并审计了其运作方式。调查结果揭示，从一开始，该系统就系统性地对最贫困的肯尼亚人收费过高，高估了他们的收入，同时通过低估富人的收入而对富人收费过低。
格蕾丝·阿马尼每天都会坐在人们的家中，询问从奇怪到侵入性的问题：你用什么类型的厕所？你的屋顶是什么材料？你拥有收音机吗？
她帮助住户在手机上的数字问卷中回答这些几十个问题——坑式厕所、铁皮屋顶、没有收音机。人们常常感到困惑；有些人担心自己正在接受调查。当表格完成后，算法会计算出该家庭当年必须支付的公共医疗保险金额。
这位10个孩子的母亲也是声称该系统不能正常工作并对最不富裕的人进行惩罚的人之一。
阿马尼注册的人是肯尼亚首都内罗毕最贫困的人群之一，但大多数人被收取了他们无法负担的费用。她目睹了许多连养活自己都很困难的家庭被收取远超其承受能力的保费，许多人面临相当于微薄收入10%至20%的金额。
阿马尼还看到一些重症患者因为无法支付AI系统要求的金额而无法获得治疗。
"人们正在死亡，人们正在受苦，"她说。
（图片说明：内罗毕卡罗伊次县医院的妇女们等待就医。新的"AI驱动"医疗系统似乎在惩罚最贫困的人。摄影：Michel Lunanga/Getty Images）
她看到的人正是政府承诺将从AI驱动的医疗改革中获益最多的人群。收入最低的人本应被收取最低保费，或完全由政府承担费用。"他们以为这会帮助他们，"阿马尼说。
自启动以来，社会健康管理局(SHA)因错误分类人员和设定无法负担或难以理解的保费而受到大量批评。
没有私人保险且不支付SHA保费的肯尼亚人可能会被医疗机构拒绝服务或面临高昂的医院账单。对一些人来说，这意味着他们再也无法获得治疗。"人们在家里死亡，"阿马尼说。"许多人无法去医院。他们是要支付SHA的费用，还是支付食物费用，或是支付他们住的小房子的费用？"
在社交媒体上，肯尼亚人纷纷在评论区发布他们无法支付的费用。"从以前挣扎着支付500肯尼亚先令到被收取1030肯尼亚先令，"一人写道。
"上帝怜悯我吧，"一位单亲母亲在她的月度缴费被定为3500肯尼亚先令后写道。
曾为肯尼亚卫生部提供建议的卫生经济学家大卫·卡奥亚表示，面对SHA公式中已知的缺陷，政府做出了选择。
他表示，系统的限制意味着它只能正确评估贫困家庭或正确评估富裕家庭。卡奥亚说，政府选择优先准确评估富裕人群，即使这意味着对穷人收费过高。
"如果你将一个较富有的人识别为穷人并因此要求他支付更少，这个人永远不会主动承认，'我实际上应该支付更多，'"他说。
（图片说明："不会让任何一个肯尼亚人掉队，"肯尼亚总统威廉·鲁托在2023年大选期间说。摄影：AFP/Getty）
（图片说明：一列火车穿过内罗毕卡贝拉。卡贝拉约有25万人居住，是非洲最大的贫民窟，也是世界上最大的贫民窟之一。摄影：Donwilson Odhiambo/Getty）
（图片说明：卡贝拉健康中心的一名患者正在称重。新系统旨在将国家服务扩展到历史上未被统计的人群。摄影：Brian Otieno/Global Fund）
肯尼亚的算法医疗系统建立在世界银行几十年来的一个难题之上：代理经济状况调查(PMT)，这是一种基于贫困人群的财产和其他生活状况（如他们有多少孩子或是否独居）来估计其收入的方法。
发展经济学家斯蒂芬·基德表示，PMT已在世界银行资助的项目中"遍布非洲各地、亚洲和太平洋地区"使用。它通常被设定为政府获得贷款的条件。
在肯尼亚，这意味着部署像阿马尼这样的政府志愿者到全国各地的家庭，登记他们的屋顶材料、牲畜和孩子——并将这些细节输入一个不透明的算法，以决定他们的收入以及必须支付多少费用。
该审计针对数千个真实家庭测试了该系统。对一个又一个家庭，系统高估了他们的能力。对于两位农民，基于他们有电力和拥有自己的房屋这一事实，他们的收入被预测为实际收入的两倍。
与SHA构建的类似系统近年来在世界各地迅速传播——通常由世界银行或其他国际捐助者推动。
在非洲、亚洲和拉丁美洲，PMT算法在确定哪些家庭"足够贫困"以获得现金转移、食品补贴和其他福利方面变得流行。这些系统旨在将国家服务扩展到历史上未被统计的人群；那些不一致的收入不适合基于收入的医疗保健计划的非正规劳动力。
但基德和其他研究人员发现，这些系统根本不起作用。在试图将人口分类为"贫困"或"不贫困"时，大多数都存在重大错误。基德测试的一个针对贫困的目标计划排除了82%的目标人群；卢旺达的另一个计划错误率为90%。
"人们正在死亡，人们正在受苦。他们以为这会帮助他们"
（图片说明：内罗毕的健康志愿者进行医疗测试。在注册社会健康管理局的2000万人中，只有500万人定期支付保费。摄影：Sopa/LightRocket/Getty）
根据《非洲无遮蔽》和《灯塔报告》的调查审计，在肯尼亚的情况下，SHA系统似乎对超过一半的贫困家庭收费过高。高收入家庭的收入被低估。
基德表示，这些不准确的原因不止一个。贫困是一个流动的类别——而使用铁皮屋顶或坑式厕所等因素来估计一个家庭的财富本质上是一项不精确的工作。
但像肯尼亚这样的经济状况调查算法引入了一个单独的问题：它们不透明，并降低了人口对政府服务的信任。
"感觉像是一种彩票，"基德说。"彩票不是建立信任的好方法。"
在肯尼亚，该系统导致了广泛的挫败感。然而，其缺陷似乎已被一份由国际数据咨询公司IDinsight撰写的报告预见，并在系统实施前与政府共享。
（图片说明：一位治疗师在内罗毕马萨雷贫民窟教一位母亲如何提供物理治疗。有人预测SHA将很快崩溃。摄影：Tony Karumba/AFP/Getty Images）
记者获得的这份报告发现，SHA的系统存在缺陷，"对低收入家庭尤其不公平"。它确定财富的依据"过度代表了中等收入家庭，并且很少有来自贫困地区的真实数据点"。鉴于影响该国的"多次经济冲击"，它也"与肯尼亚当前的社会经济状况脱节"。
尽管如此，肯尼亚还是推行了SHA系统。在注册SHA的2000多万人中，只有500万人定期支付保费。一些医院报告称，由于SHA承诺的报销仍未支付，出现了巨额赤字。
3月，前副总统里加蒂·加查瓜预测"SHA将在另外六个月后崩溃"。
布莱恩·利申加博士第一次听说PMT是在纳库鲁的一个会议中，当时他正在听政府官员和国际捐助者之间的讨论。作为肯尼亚城乡私立医院协会的主席，利申加想了解政府计划如何让数千万非正规工人向系统缴费。
他现在是该系统最直言不讳的批评者之一。"这是一项失败的实验，"他说。"这是一个识别贫困家庭的非常糟糕的工具。这是一个帮助政府逃避责任的绝佳工具。在这方面非常出色的工具。"
- 为保护其身份，已更改姓名
【全文结束】