随着人工智能（AI）迅速改变医疗保健行业，确保这些技术合乎伦理、包容且无偏见变得前所未有的重要。在这篇博客中，儿科顾问医师Sharon Jheeta博士分享了她在AI不平等研究方面的见解以及她参与我们信托基金AI指导小组的经历。
是什么启发您选择儿科作为职业？
从根本上说，孩子们非常出色，我每天都能从我的病人那里学到新的东西。孩子们解决问题的方式独特而清晰，这让我深受启发。毫无疑问，儿科是一个在身体和情感上都非常要求高的专业，但这也是我在每天早上遇到地铁延误时还能坚持下去的动力。
儿科也是一个非常动态和具有挑战性的专业。我的同事们非常优秀，因为每个人都对为孩子和他们的家庭多付出一些充满热情，因此这个专业也非常有回报。
儿童的需求不断变化，网络世界的新型风险和新冠疫情的影响使得现在成为儿童或年轻人的时期非常艰难。我们认识到他们的心理健康需求已经发生了变化，因此我们必须迅速适应，学习如何支持他们及其家庭。
Sharon Jheeta博士
“我们的信托基金AI指导小组明白，我们需要使AI可用、安全且对所有人开放，同时认识到不同种族/族裔/性别群体对AI有不同的看法或预设。”
在儿科领域，您对罕见疾病的基因组检测很感兴趣。请告诉我们更多关于这方面的内容。
我相信基因组医学是未来的发展方向。在我还是住院医师的时候，我就对重症儿童的快速外显子测序产生了兴趣。有一大批儿童经历了漫长的痛苦诊断过程，辗转多个三级医疗机构，进行了无数的检查、扫描和咨询，最终大多数孩子仍然无法得到诊断。我亲眼目睹了这对家庭的影响以及对他们福祉的影响。
基因组学和基因组学的普及将为获得这些答案提供最佳机会，对我来说这是一个变革者。拥有诊断结果是有力量的，即使没有治疗方法，家庭也能继续前进。这也是精准医学的第一步，而精准医学是医学的未来。
但这并不意味着没有数据风险，因此我倡导患者应始终处于拥有其基因组数据的中心位置。基因组学已经迅速成为一个巨大的商业机会，我担心这会对数据的可靠性和安全性产生影响。AI工具现在也被用于解释数据，这带来了另一系列的问题。
因此，教育至关重要，作为临床医生，我们应该赋予患者知识，让他们了解这一点。我参加过各种会议和与商业部门的会面，我发现这个行业希望听到医生和医疗专业人员的声音，因此越多的人参与越好。有时我会觉得在这些会议上我是个有点愤世嫉俗的医生，但我认为提醒商业伙伴记住他们试图解决的问题的核心是一个孩子是非常重要的。
我是皇家儿科和儿童健康学院（RCPCH）基因组工作组的成员，该工作组就如何在专业领域推广基因组检测提供建议，同时也在部门内推广基因组检测。
您与战略、研究和创新总监Bob Klaber博士密切合作，制定了整个信托基金范围内的AI方法，强调为了使其合乎伦理，必须消除偏见。请告诉我们更多关于这方面的内容。
Bob是一位普通儿科医生，他一直致力于让更多的临床医生参与信托基金的AI战略。AI将继续存在，我认为重要的是要利用其所有潜在的好处，同时也认识到它的弱点。
信托基金的AI指导小组是一个很好的团队。通常，任何AI会议都会充斥着大量的技术术语，人们假装理解。但在核心层面，我们的小组热衷于负责任地使用AI。我喜欢“负责任”这个词，因为它赋予组织所有权和责任，这在伦理上非常重要。患者和家庭也需要理解这一点。
在我们的AI指导小组中，这一点非常重要，同时我们也认识到需要使AI可用、安全且对所有人开放，同时认识到不同种族/族裔/性别群体对AI有不同的看法或预设。
您能谈谈您在性别偏见方面的工作吗？
随着我对AI不平等的深入研究，我对性别偏见产生了浓厚的兴趣。奇怪的是，我曾以为AI能够消除任何有意识的偏见，因为它不是人类，但事实恰恰相反。
学习模型依赖于它们所训练的数据，目前输入这些数据的人主要是男性。因此，基于这些带有偏见的算法，这些模型被使用得越多，就越会强化现有的不平等和性别歧视。例如，当你要求ChatGPT生成一张医生的照片时，六个月前的前78张照片都是白人男性。在英国，男女比例是50/50。在美国（大多数算法都是在那里制作的），男女比例是60/40。这引发了一系列问题。毫无疑问，AI可以帮助——尤其是在医疗保健领域——但提高对其缺陷和偏见的认识对于每个用户来说都非常重要。
Sharon Jheeta博士
“我觉得自己很幸运能在这样一个支持女性的地方工作。信托基金里充满了兼顾多重角色的女性榜样。我看到我的同事们都是出色的强大榜样。”
有趣的是，与AI提供商进行讨论后，他们越来越愿意对话以尝试解决这个问题。已经有了一些改进——在我写这篇博客时，我要求ChatGPT生成一张医生的照片，只有前34张是白人男性。
作为女性，我们可以帮助塑造未来的改进，教育每个人关于性别偏见，并建议行业和公司我们已经意识到这个问题，因此他们需要在技术层面上做出改变。越多的女性参与进来，我们就越能确保训练样本在性别、年龄、种族等方面的多样性。当然，最大的影响将是如果AI行业中高级职位有更多的女性，但我强烈认为来自其他背景（如医疗）的女性可以担任顾问角色，这就是我正在努力做的事情。
2025年国际妇女节（3月8日）的主题是#加速行动——呼吁加快解决妇女面临系统性障碍和偏见的势头和紧迫感。您在我们信托基金工作的经历是什么？
我觉得自己很幸运能在这样一个支持女性的地方工作。信托基金里充满了兼顾多重角色的女性榜样。我看到我的同事们都是出色的强大榜样。
但我认识到并不是所有地方都是这样，因此我认为女性应该团结一致，继续为自己争取权益。
(全文结束)
