医疗保健中的数据与人工智能生物伦理学
采访乔治·E·旺茨生物伦理学教授凯特·斯佩克特-巴格达迪
《基础理论》第四季现已上线，我们以特别的双集发布来庆祝本季的启动！
在本期《基础理论》节目中，我们采访了乔治·E·旺茨生物伦理学教授凯特·斯佩克特-巴格达迪，讨论了海量数据、人工智能等应用问题。
请务必查看我们的第二期开季节目以及整个往期节目库，访问《基础理论》网站，或在您喜爱的播客平台上收听。
转录
凯莉·马尔科姆：
欢迎来到《基础理论》，一档探讨密歇根医学院生物医学研究的播客节目。研究是密歇根大学改善世界使命的基础。在每一期节目中，我们将结识研究背后的人员，了解更多关于他们的研究领域以及他们试图回答的基本问题。我是凯莉·马尔科姆，密歇根大学医学院的科学作家和沟通策略师。本季我们将首先解释专家们提问背后的一些历史，并一窥医疗保健的未来。
如果您在2026年收听此节目，您知道人工智能(AI)存在形象问题。随着Claude和ChatGPT等生成式AI工具的爆炸式增长，随之而来的是一波怀疑浪潮。最初的AI怀疑论者之一诞生于1815年，并在36岁因癌症早逝前为计算机科学领域做出了巨大贡献。阿达·洛芙莱斯是著名诗人拜伦勋爵的女儿，她是一位数学家，为所谓的分析引擎编写了第一个算法，因此成为第一位计算机程序员。她还提出了关于计算机的最著名反对意见之一，称它们无法具备原创性和自主思考能力。她说："分析引擎没有声称能够创造任何东西。它只能执行我们知道如何命令它执行的操作。"虽然当今算法的巨大计算能力可能会使她的反对意见受到质疑，但许多人仍对将AI应用于日常生活中的伦理问题感到疑惑。在没有任何领域比医疗保健更突出这一点，因为在医疗保健中，由AI驱动的决策可能真正意味着生死。
在本期《基础理论》节目中，我们采访了凯特·斯佩克特-巴格达迪教授，她是乔治·E·旺茨生物伦理学教授，也是密歇根大学医学院妇产科副教授，讨论了在她的生物伦理学领域中如何使用海量数据、人工智能等问题。今天节目中有凯特·斯佩克特-巴格达迪教授。欢迎并感谢您加入我们。
凯特·斯佩克特-巴格达迪：
是的。很高兴来到这里。
凯莉·马尔科姆：
所以您绝对是第一位...我认为您是我们《基础理论》节目首位律师。所以我的问题由此开始。作为一名律师，您是如何进入研究医疗保健伦理的？
凯特·斯佩克特-巴格达迪：
当然。这是个很好的问题，正如您所想象的，尤其是我在医学院工作。当我获得法律学位时，我真正感兴趣的是法律和正义问题，而不仅仅是法律和正义问题的交集，而是特别是在医疗保健领域。我很幸运在宾夕法尼亚大学就读，他们实际上提供了一个生物伦理学的联合硕士学位，这不是我来到宾大时就知道我想做的事情，但当我看到将这些领域结合起来的机会时，这真的让我很兴奋。所以实际上我在毕业后执业了一年法律，但后来有机会与奥巴马政府合作，我是他的生物伦理委员会的副主任，正是在那里我真正将许多监管政策工作结合在一起，所以我想在我的职业生涯中继续保留这一点。
凯莉·马尔科姆：
这真的很有趣。那么对于外行来说，生物伦理学的简单解释是什么？
凯特·斯佩克特-巴格达迪：
是的。我认为生物伦理学是一个伞形术语，涵盖健康科学中各种应用伦理。传统上它被定义为临床伦理学，即临床医生与患者之间的互动；研究伦理学，这是我的专业领域，涉及数据或研究参与者；然后通常还有公共卫生伦理学，我想每个人在2020年和2021年都进行了速成课程，但就像平衡社区最佳利益与患者或研究方案之间的区别。
凯莉·马尔科姆：
好的。那么研究伦理学。我知道人们会想到知情同意和参与临床试验。什么是知情同意，以及它在过去10年中发生了怎样的变化？我觉得它一定有所演变。
凯特·斯佩克特-巴格达迪：
实际上，知情同意的一些最令人兴奋的变化是在20世纪70年代民权运动之后。每个人都变得更加意识到自主权和尊重，摆脱了家长式作风，不再仅仅因为掌权者告诉他们该做什么就照做。每个人都在质疑一切。所以这确实是医学伦理领域的一个重要时刻，该领域从医生告诉您该做什么并您照做，转变为实际上与患者合作并共同决策：您想要什么？您带来什么价值观？哪些程序将帮助您实现这些价值观？研究也是如此。大的...您问我历史。我喜欢历史，所以我可能会说得太长。
凯莉·马尔科姆：
不，这很好。
凯特·斯佩克特-巴格达迪：
但在20世纪70年代也是公众发现美国公共卫生服务在阿拉巴马州塔斯基吉进行的性传播疾病研究的时候，该研究直到1972年才停止。这是研究伦理的另一个重要时刻，以及不仅知情同意的重要性，因为虽然该实验的受试者没有给予知情同意，但实际上即使他们同意了，也不会没问题。但像这种正义考虑，不要使用一组研究参与者来使另一组受益，以及这种重要性。
凯莉·马尔科姆：
对。我知道在新冠疫情期间，这成为人们不参与研究或不接种疫苗的原因之一。我知道美国在这方面有着不光彩的历史，说得委婉些。
凯特·斯佩克特-巴格达迪：
是的。我本来要说"这很客气"。
凯莉·马尔科姆：
在进行生物医学研究时。那么现在有哪些特定的制衡措施来保护人们？
凯特·斯佩克特-巴格达迪：
是的。所以其中一件大事是出自《贝尔蒙报告》，该报告由国家委员会撰写，这是另一个生物伦理委员会。它是奥巴马政府为我工作的生物伦理委员会的先前迭代，这个想法是，虽然是关于知情同意的，但我们甚至不应该要求人们做那些一开始就没有正确风险效益分析的事情。这就是机构审查委员会(IRB)结构的起源。所以这是一群包括科学家、伦理学家和社区成员的人，他们实际上在患者甚至被询问是否愿意注册之前，审查密歇根大学和全国任何地方的所有人体研究，以确保研究的潜在效益远远超过参与者通过注册研究将承担的风险。
凯莉·马尔科姆：
对。所以那是IRB。
凯特·斯佩克特-巴格达迪：
是的。那就是IRB。没错。
凯莉·马尔科姆：
好的。所以我认为人们想到试验时，会想到"哦，我可能会捐一点血"之类的东西。那么使用您的健康数据的研究与可能捐献样本有什么不同？
凯特·斯佩克特-巴格达迪：
是的。我非常喜欢这个问题，因为这实际上是我的专业领域。因为当人们想到研究伦理时，他们会想到人，这很合理。但我实际上只关注来自人的数据和样本，以及我们如何能够合乎伦理地使用它们。这很有趣，因为我已经在密歇根大学工作了11年，当我正在求职和面试时，我面试的一些学校说："你不能在数据治理和数据伦理上建立职业生涯，那太深奥了，没人会在意。"而现在...
凯莉·马尔科姆：
他们大错特错了。
凯特·斯佩克特-巴格达迪：
是的。现在人们说："你能更快地培训更多研究员吗？因为我们在这个领域需要更多人。"这很有趣，因为平衡完全不同。所以我是法律专业出身，正如我们所提到的，法律是为了保护人们而制定的，通常在保护人们免受身体伤害方面做得非常好。但当我们谈论如何使用人们的数据时，法律实际上在这方面相当不足，因为它们在某些方面过于保护，因为我实际上不会通过使用您的数据来伤害任何人身体，但随后它们在其他方面保护不足，因为人们确实强烈关注如何使用来自他们的数据或样本，如果这些数据和样本没有与人的姓名或其他识别信息相关联，那么实际上没有任何法律保护。
凯莉·马尔科姆：
有趣。我在阅读您的一些出版物时想到了这一点，即基因数据被去标识化的想法。感觉可能现在已经不是这样了，因为AI能够汇集数据点并创建非常连贯的图像。我觉得如果你有我的基因数据，你最终可能会追溯到我。这是我在多虑吗，还是有一些道理？
凯特·斯佩克特-巴格达迪：
不。您和该领域的其他每个人，因为每个人都一直在争论基因或基因组数据，即当您拥有大量数据时，是否可以被去标识化。因为一方面，我需要比您的实际原始基因代码更多的信息来确定它属于您，但另一方面，如果我拥有足够多的您的DNA，它只能是您。您是唯一可识别的。所以您的基因组信息是否可以被去标识化或识别，实际上是法律仍在试图解决的问题，并且已经争论了近20年，根据某些法律，基因数据被认为始终是可识别的，而根据其他法律则不是，这很疯狂，我们对同一类数据有两套不同的保护措施。
凯莉·马尔科姆：
对。让我们谈谈直接面向消费者的测试。我做了Ancestry测试，我想找出我的所有亲属，但现在他们有我的基因信息。进行这类测试是否有风险？我知道其他人可能想找出他们是否对某些食物成分不耐受等等。这些事情有风险吗？
凯特·斯佩克特-巴格达迪：
很好的问题。所以我做了23andMe，并关注了23andMe的起伏。我认为您已经强调的好处是您可以获取一些可能对您有帮助的信息。有些人寻找的是他们是否携带BRCA基因上通常与乳腺癌和卵巢癌风险增加相关的三个变体。我认为一个挑战是确保人们充分理解像23andMe这样的地方测试的基因部分是我们通过阿什肯纳兹犹太妇女确定的。所以对我而言，作为一个阿什肯纳兹犹太妇女，进行测试对我的家族史意义重大。例如，我们对非裔美国妇女了解得更少，因为她们在我们的数据库中没有得到很好的代表。因此，您可能进行测试并认为您没有增加风险，但实际上您只是不像阿什肯纳兹犹太妇女那样有增加的风险。这种翻译对人们来说可能很复杂。
而人们担心的另一件事是隐私风险，当23andMe破产并即将被收购时，许多人删除了他们的信息。我也删除了我的信息。对我们所有人来说，这是一个非常有趣的政策问题，即我们的数据或健康信息是否应该商品化，它是否应该是可以进入破产法院并分配给出价最高者的财产，或者我们是否应该以不同方式对待它，因为它是关于我们健康的个人信息。
凯莉·马尔科姆：
是的。我好奇在医疗保健环境中存在的保护措施与在医生处处理时有何不同。在医疗保健系统内与医生打交道时，我感觉比与随机科技公司打交道更安全。这些场景中是否有不同的法律？
凯特·斯佩克特-巴格达迪：
完全正确。有完全不同的法律。因此，当我们在医院或与您的医生等健康环境中收集数据时，它受到HIPAA（健康保险可携性和责任法案）的保护，该法案有一些非常具体的规则，规定需要移除哪些数据才能被视为去标识化，这是最具保护性的领域。然后，如果我们在研究中收集数据，它受到通用规则(Common Rule)的保护。所以那就像IRB和知情同意，这些是略有不同的保护，当我在密歇根大学医院作为患者时，这实际上没有意义。需要明确的是，这发生在任何地方，但我作为患者进去，然后我被招募为研究参与者，我的数据受到不同级别的保护。因此，实际上在密歇根大学，我们刚刚更新了我们的临床同意表格，以确保无论法律如何规定，每个人都能获得相同数量的信息。但正如您所指出的关于私营行业的问题，实际上几乎没有法律能保护该领域的人员，这更多取决于合同。您理解您签署的合同吗？合同说了什么？然后，再次，这是一个重要的政策问题，但人们是否应该能够通过合同放弃他们的隐私权？他们真的理解他们这样做时的情况吗？
凯莉·马尔科姆：
我不理解。
凯特·斯佩克特-巴格达迪：
是的。所以这是一个很好的问题。
凯莉·马尔科姆：
那么什么是"影子健康记录"？我在一些文献中看到了这一点。
凯特·斯佩克特-巴格达迪：
是的。这是一个可怕术语的可怕概念。所以我们在文章中提出的观点是，由于法律的这些差异，实际上有私营公司外出并从不同来源提取您的数据。这被称为数据镶嵌(data mosaicing)。他们将其汇集在一起，可以描绘出关于您是谁的非常详尽的图像，不受任何其他此类法律的保护。有时那是健康数据。有时您在Facebook上发布有关您健康状况的内容。其他时候，我们称之为健康代理数据(health proxy data)，这意味着您实际上并没有说"我有糖尿病"，但您可能正在去CVS购买胰岛素。
凯莉·马尔科姆：
对。
凯特·斯佩克特-巴格达迪：
对。所以我知道您的健康状况，我认为很多时候人们会考虑在不同场所分享数据，并让数据留在那里。所以人们可能在Tinder上放上他们想要约会的人的类型。他们可能在Twitter上放上他们的工作时间表。他们可能在Facebook上放上他们的孩子，但他们并没有真正考虑那些整个商业模式是汇集所有这些数据然后将其出售给研究人员的私营公司，这些研究人员不受法律保护。例如，如果我每天下班后去酒吧，那对我来说是健康信息。对吗？如果我拿起手机并开车去提供生殖健康服务的诊所，那对我来说是健康信息，人们并没有考虑所有这些代理数据。
凯莉·马尔科姆：
是的。就像如果您不在Facebook上，您仍然在Facebook上，因为有您的社交网络。
凯特·斯佩克特-巴格达迪：
是的。我离开了Facebook，但我仍然在Facebook上。
凯莉·马尔科姆：
我了解到这可能有一些潜在的可怕法律后果。我知道当罗伊诉韦德案被推翻时，人们说"好吧，把您用于跟踪周期的经期应用程序中的数据取出"等等。我当时只是想，"谁会看那个？"但那里真的有担忧吗？
凯特·斯佩克特-巴格达迪：
所以据我所知，还没有任何与这种经期应用程序数据相关的具体案件，但已有案件中，人们在Facebook上发布他们在终止非法的州外出州的信息，这类数据已被作为证据引入。对经期应用程序的担忧是真实的，因为人们跟踪他们的周期，但老话说，"如果您不付费，您就是产品。"这是因为该数据有价值，Facebook特别与一些应用程序合作，根据她们在周期中的位置或她们正在经历的荷尔蒙反应向人们投放广告。例如，不仅仅是Facebook，其他参与者，如果您向您的经期应用程序报告您感到烦躁和对自己不满意，他们可能会在其他地方投放化妆品或抗抑郁药的广告。
凯莉·马尔科姆：
太令人沮丧了。
凯特·斯佩克特-巴格达迪：
对吧？所以人们没有考虑...每当您有那种奇怪的感觉，可能您的手机正在听您说话，然后您收到广告，某种意义上可能是真的。他们非常了解我们。
凯莉·马尔科姆：
哦天哪，好吧。人们实际上在用这些数据做什么有益的事情？
凯特·斯佩克特-巴格达迪：
是的。因此，实际上在奥巴马政府时期，奥巴马总统推出了一个名为"精准医疗倡议"(Precision Medicine Initiative)的项目，它与当时的副总统拜登的"癌症登月计划"(Cancer Moonshot Initiative)一起推出，其想法是集中并汇集来自全国各地的大量健康数据，特别是来自历史上在研究中代表性不足的人群，以便我们能够发现更多关于我们生活的环境、我们的健康行为（如我们是否锻炼）以及我们的遗传信息之间的相互作用，以更好地预测人们未来可能发生的事情。因此，通常您去看医生，医生给您一种药物并说，这种药物有20%的中风风险，比如说。那会很糟糕。不要服用该药物，但为了简单起见，我们假设如此。在未来，我们继续朝着这样的地方发展：他们可以说，作为具有您年龄、遗传血统、居住地以及您锻炼事实的人，您的风险实际上降至2%。因此，它帮助人们为自己做出更量身定制的决策。因此，该领域已经取得了许多进展，这确实很积极。
凯莉·马尔科姆：
不。听起来很棒。我们是否做得更好，或者您是否看到迹象表明人们正在更好地纳入其他背景的人，以便我们能够达到为像我这样的人服务的那一点？
凯特·斯佩克特-巴格达迪：
是的。当然。因此，这正是我很多研究集中在通过数据使研究多样化的方式上。正如您所指出的，这需要通过人员使研究多样化，因为这是我们获取数据的方式。因此，进行人体研究的人专注于招募人员的不同方式。因此，我们实际上对密歇根大学的密歇根基因组计划(Michigan Genomics Initiative)进行了深入研究，因为我们知道我们甚至不能代表我们的患者群体。因此，我们试图找出如何更好地设计招募。我们发现，加入MGI的人更可能是年长的白人男性。但我们还意识到，由于招募主要发生在术前区域，实际上坐在那个房间里的人更可能是年长的白人男性，您不能期望数据反映除您招募的人员之外的任何内容。
因此，人们对是否想参与研究做出不同的决定，我们经常发现，特别是在密歇根大学，我们的黑人和亚裔患者通常比我们的白人或西班牙裔患者更可能拒绝二次研究，这没问题。我们希望人们获得信息。但这意味着我们应该询问更多自认为是黑人或非裔美国人和亚裔的人，而不是更少。因此，这是扩大招募措施的一个机会，以便我们扩大数据库中的代表性。
凯莉·马尔科姆：
好的。这不仅仅是关于多元、公平和包容(DEI)，也是关于科学严谨性的，对吗？
凯特·斯佩克特-巴格达迪：
这是一个很好的观点。我确实想强调，显然自我认同的种族和民族与遗传血统之间存在差异。它们经常重叠，但经常不重叠。因此，我们在遗传学中真正寻找的是那种祖先多样性，因为人们在遗传密码中有不同种类的变体，这些变体可能与祖先多样性相关。所以这真的很重要。因此，我们不仅需要具有多样祖先的人，还需要具有多样化医疗保健获取途径、多样化社会经济地位、多样化居住地（城市与农村人口）的人，因为我们想要帮助生活在这些情况中的人，但也因为这对每个人都很重要。这不仅从每个人的角度来看都很重要，就像我们生活在一个公正的世界中会更好，我确实相信这一点，但从遗传学角度看也很重要，因为非裔血统的人彼此之间的遗传多样性比欧洲血统的人更可能更高，这意味着有更多东西可以学习。
因此，实际上我们在基因数据库中发现，非裔血统的人...例如，在一个基因数据库中，只有约2%的人口是非裔血统，但他们实际上贡献了7%的发现。因此，不仅从我们都生活在一个照顾人们的更公正社会中获益，而且对每个人都有好处，因为这是我们发现更多东西的方式，即这些数据库中的这种基因组多样性。
凯莉·马尔科姆：
那么为什么是密歇根大学？为什么这里是进行此类研究的好地方？
凯特·斯佩克特-巴格达迪：
是的。所以正如我之前提到的，它是最早认识到这一未来价值的地方之一，而其他一些地方则认为"哦，我们不知道您要往哪里走。"我认为一个特别的事情是...所以我来自东海岸，我在密歇根大学特别喜欢的一点是，我从未向任何人提出喝杯咖啡的要求而遭到拒绝。这种想法，即我们都从跨学科参与中受益，实际上团队在拥有更多多样化的人时会更强大，这是密歇根大学的核心理念。我在医学院而不是法学院工作的另一件事是我确实研究如何改进医疗系统，然后医学院有时会让我们推出并看看它是否有效，并衡量其影响。因此，我们对密歇根基因组计划数据库所做的研究，对密歇根来说是一个很大的要求，"当然，进来吧"，该计划的领导者说，"当然，进来吧，看看我们如何能够做得更好。"并非每个人都愿意这样做，这是密歇根大学真正带来的东西。
凯莉·马尔科姆：
有没有任何特别的合作者或您想要提及的人，您可能经常与之合作或帮助您迄今为止的成功？
凯特·斯佩克特-巴格达迪：
是的。所以显然有很多人。我将特别提及密歇根生物伦理学团队，因为很多人不知道我们以及我们所做的事，我们实际上为那些在患者护理或研究中面临伦理问题的人提供服务。因此，我们实际上提供24/7全年无休的咨询，主要针对临床伦理，但也包括研究。研究伦理只是我，我不总是24/7回答我的传呼机，但我们总是可以为您找到某人在紧急情况下提供帮助。克里斯蒂安·弗克勒博士、安迪·舒曼博士和简·菲尔恩博士帮助我领导该团队，这是一个宝贵的资源，供人们面对日常患者护理和研究中的大小伦理问题，我只想确保人们了解这一点。
凯莉·马尔科姆：
好的。那么让我们以这个结束：您对数据和医疗保健之间交叉点以及改进的潜力最兴奋的是什么？
凯特·斯佩克特-巴格达迪：
因此，生成式人工智能的出现使我们能够以前所未有的方式分析大数据。因此，大数据之所以好，是因为我们知道有很多答案。有大答案和大数据，但它仍然需要分析它的老式方法。我认为AI、机器学习和生成式AI真正令人兴奋的事情之一是我们能够以前所未有的方式分析这种数据。这仍然是一个承诺。很多人在谈论它，但真正让人们的生活中变得更好的具体成果并不多。事实上，我们遇到了一些挫折，并学会了如何不让AI使人们的生活更加复杂，但我甚至在自己的研究中使用它，只是为了更好地理解围绕主题的文献，人们正在基因组学中使用它。
如果您考虑某人遗传密码中的数百万变体以及其生活方式可能如何影响它，它使我们能够在此基础上进行分析，并将其置于他们被诊断出的疾病以及帮助他们的药物的背景下，并以比我们以前使用旧方法更快、更彻底的方式进行分析。
凯莉·马尔科姆：
不是我想要以任何负面内容结束，但您有什么希望看到解决的问题吗？我知道人们对AI有很多热情，但可能有哪些事情您希望人们在实现其承诺时记住？
凯特·斯佩克特-巴格达迪：
所以我认为人们对AI有可能消除我们在健康中看到的一些偏见和健康差异感到非常兴奋。我认为重要的是要记住，所有生成式AI和AI所做的只是复制世界，然后它可以以我们不再完全理解的方式复制世界。因此，人们有时将AI视为一个中立的第三方观察者，它会以没有偏见的方式告诉我们事情，但事实并非如此。
例如，有一个关于国家数据库系统的案例，该系统将AI放入以预测人们是否需要对其医疗保健进行高级管理，有人终于说："嘿，似乎它更频繁地推荐白人患者而不是黑人患者。我想知道为什么。"他们进去发现的是，AI正在从那些回到医院接受更多护理的患者身上学习，并假设这意味着他们需要更多护理，而不是学习这意味着他们有更多机会获得护理。因此，AI了解到白人患者，它认为他们之后需要更多护理，因为他们更有可能获得后续护理。因此，除非我们提出质疑，"它在学习什么，它在学习什么样的教训？"我认为我们可能会复制很多我们的问题，我希望确保我们使用技术来改进它们。
凯莉·马尔科姆：
对。只要让人类参与其中。
凯特·斯佩克特-巴格达迪：
正是如此。
凯莉·马尔科姆：
好的。那么，谢谢教授。这非常有启发性，很高兴您能参加节目。
凯特·斯佩克特-巴格达迪：
谢谢。这很有趣。
凯莉·马尔科姆：
《基础理论》由密歇根医学院通信部与密歇根大学医学院合作制作。在您收听播客的任何地方找到我们并订阅。
【全文结束】