人工智能革命已经改变了癌症护理的提供方式。新的算法能迅速识别影像中的模式或异常，提高诊断准确性。大型语言模型可以为患者的问题生成回复，机器学习能预测患者最可能对哪种治疗有反应。
来源：德克萨斯肿瘤学
其他平台可以帮助患者匹配适当的临床试验，或执行诸如计费或文档等辅助任务，有可能减轻医生的工作量和职业倦怠风险。
然而，与现代医学的其他方面一样，人工智能的巨大进步在实际实施和适当使用方面带来了新的挑战。
这篇 Healio 独家报道提供了肿瘤学家在实施人工智能时面临的复杂问题的见解，美国临床肿瘤学会（ASCO）发布的一系列指导负责任使用的核心原则，以及最近的研究，这些研究强调了人工智能可能改善治疗决策和患者结果的新方式。
“合乎伦理的部署”
根据一项全国性调查的结果，肿瘤学家在将人工智能纳入癌症护理时正在努力解决复杂的问题。
《美国医学会杂志·网络开放》发表的研究结果显示，大多数肿瘤学家认为他们应该能够解释人工智能模型的工作原理，并且必须保护患者免受有偏见的人工智能的影响。大多数受访者还表示，在实践中使用人工智能之前，患者应该同意使用。
“安德鲁·汉特尔”
“在肿瘤学中合乎伦理地部署人工智能必须优先发展支持肿瘤学家培训的基础设施，以及透明度、同意、责任和公平性，”达纳-法伯癌症研究所和哈佛医学院生物伦理学中心的白血病和人口科学部门的教员安德鲁·汉特尔医学博士告诉 Healio。“这意味着需要围绕癌症人工智能开发基础设施，以确保其合乎伦理的部署。”
尽管人工智能有可能改善决策和结果，但临床医生对实施的几个方面表示了担忧。这些包括人工智能偏见；人工智能详细说明其决策过程的能力；谁对错误或滥用负责；当医生和人工智能意见不一致时，谁的治疗建议优先。
“随着人工智能开始影响癌症护理的提供，了解那些将被要求实施它的人——肿瘤学家——的伦理影响至关重要，”汉特尔说。
汉特尔和同事旨在捕捉执业肿瘤学家的观点，以确保人工智能以“合乎伦理的方式”部署，满足医生和患者的需求，他说。
研究人员向美国近 400 名肿瘤学家发送了一份 24 个问题的横断面调查。他们的分析包括来自 37 个州的 204 名肿瘤学家（63.7％为男性；62.7％为非西班牙裔白人）的回答。超过四分之一（29.4％）的受访者在学术实践中工作，约一半（53.4％）没有接受过人工智能培训。
大多数受访者（84.8％）同意他们应该能够在使用人工智能之前解释其决策。更大比例的人表示患者必须同意使用人工智能治疗建议（81.4％），而不是将其作为诊断决策的一部分（56.4％）。
在人工智能模型提供的治疗建议与肿瘤学家不同的情况下，超过三分之一（36.8％）的受访者认为应该告诉患者这两种选择，并让患者做出决定。
“这一发现突出表明，许多医生不确定如何在与人工智能相关的情况下采取行动，并就这种情况为患者提供建议，”汉特尔说。
大多数受访者表示他们需要保护患者免受有偏见的人工智能的影响（76.5％），但只有 27.9％的人对自己的能力有信心。
“在这些问题上的一致意见突显了肿瘤学内部对结构化人工智能教育和伦理指南的迫切需求，”汉特尔说。
几乎所有受访者（90.7％）表示，人工智能开发人员对该技术引起的医疗或法律问题负责。不到一半的人认为临床医生（47.1％）或医院（43.1％）分担这一责任。
“美国食品药品监督管理局和监管机构需要明确界定和划分参与人工智能开发和临床应用的所有利益相关者的责任，”汉特尔说。“这包括建立透明度、可解释性和伦理监督的标准。没有这一指导，就不会有共识。[这]在人工智能做出错误推荐而他们遵循时，或者当人工智能工具成为护理标准而他们反对其推荐时，给肿瘤学家带来风险。”
汉特尔说，对肿瘤学家的教育和培训将是必不可少的。他们还需要了解患者的观点——特别是那些来自历史上被边缘化或代表性不足的群体的患者。
“在癌症护理中合乎伦理地部署人工智能是共同的责任，”汉特尔说。“其开发和部署的伦理需要从一开始就整合。否则，我们将在它伤害人之后试图修复它，而不是完全避免这种伤害。”
“负责任使用”的原则
在 4 月份面向 500 多名医生的股东报告中，“黛布拉·A·帕特医学博士、哲学博士、工商管理硕士、美国临床肿瘤学会会员”询问在场有多少人使用像 ChatGPT 和 Claude 这样的大型语言模型。
不到五个人举手，而那些举手的人似乎像使用搜索引擎一样使用人工智能软件，而不了解提示优化。
“有很大的机会教育医生如何最好地使用人工智能工具来改善我们所服务的患者的护理，”德克萨斯肿瘤学执行副总裁兼 ASCO 人工智能工作队主席帕特告诉 Healio。
“当你和我开始开车时，我们使用打印出来的方向或地图。很难学会如何以不同的方式去做，”帕特补充道。“我最大的担心是，医疗保健组织将成为数字医疗保健工具的晚期采用者，这些工具可以改善护理提供。”
ASCO 的人工智能工作队——由包括董事会成员、ASCO 成员医生、患者和政策专家在内的大约十几个人组成——发布了“肿瘤学中负责任使用人工智能的原则”，以指导人工智能的实施，并确保其使用对患者和临床医生有益。
这六项指导原则涉及人工智能工具和应用的透明度需求；临床医生和患者在决策中使用人工智能时需要意识到的重要性；人工智能开发人员和用户需要防止偏见并确保公平获取人工智能工具；人工智能系统符合管理数据使用的法律、监管和伦理要求；需要机构合规政策来管理人工智能的使用；以及需要以人为本的人工智能应用，确保它补充但不取代人际互动。
人工智能具有巨大的潜力，但也带来了一些风险。这些包括人工智能幻觉，即模型生成误导或不准确的结果。人工智能还可能加剧差距或偏见，降低信任，并改变临床医生的角色，这可能影响以患者为中心的护理质量。
“科学可以用于善和恶，”帕特说。“我们希望患者从这一巨大的创新中受益，这是一个非常令人兴奋的时刻。我们必须认识到并负责这些工具可能存在偏见和错误的事实。我们需要负责任的指导原则来帮助我们最佳地受益于这些重要的技术进步。”
描绘“可能的情况”
帕特分享了一个有助于行政任务的软件示例，例如预约重新安排。它减轻了员工的负担，但可能导致护理差距。
“如果有人经常取消预约，这可能会降低他们重新安排的优先级，”帕特说。“可能是因为他们不得不取消预约，因为他们在医疗保健方面有社会经济负担、交通不安全[或]当他们患有癌症时无法管理的工作。由于随后的预约而降低他们的优先级将在护理提供方面造成不公平，因为您剥夺了患者群体中已经脆弱的部分的权利，仅举此例。”
帕特说，临床医生必须学会在不造成伤害的情况下将人工智能工具整合到他们的护理中。这需要培训和与患者的沟通。
帕特使用了美国国立卫生研究院开发的一种名为基于逻辑回归的免疫治疗反应评分（LORIS）的人工智能工具。美国国立卫生研究院希望 LORIS 可以帮助医生预测某人是否可能对免疫检查点抑制剂有反应。
“如果我告诉患者我将使用人工智能工具来尝试确定他们对免疫治疗的反应可能性，他们需要了解我正在使用数学模型来做出该决定，因为该模型可能存在使他们更有可能或不太可能受益的各种因素，”帕特说。“它可能受到各种因素的影响。”
这些风险可能导致临床医生避免使用人工智能，但帕特认为这将是一个错误。
“这些偏见、错误、隐私和责任的问题是真实存在的，”她说。“我们需要对这些问题给予适当的高度关注，但我确实觉得我们在医学中必须克服的最大挑战是为肿瘤学界描绘‘可能的情况’，并教育广大临床医生如何使用这些模型来更好地完成他们的工作。”
帕特回忆起 20 年前她完成研究员工作时，在她的电脑上打开浏览器查看国家综合癌症网络的指南。现在，研究员可以使用大型语言模型访问 NCCN 和 ASCO 指南，使访问相关内容更加容易。
临床医生可能对人工智能感到不安，但如果开发和实施遵循工作队的原则，帕特说可能性是“无穷无尽的”。
“在我们拥有更好的智能手机迭代之前，我们必须克服像 PalmPilot 这样的早期智能设备的技术挑战，”帕特说。“人工智能的应用和使用可能是我们这个时代最重要的发展。它具有帮助医生、所有医疗专业人员以及最重要的是我们共同服务的患者的惊人潜力。”
“有前途的实用”的聊天机器人
过去几个月发表或展示的几项研究突出了人工智能在肿瘤学实践中的潜力。
根据发表在《美国医学会杂志·肿瘤学》上的研究结果，人工智能可以帮助回答一些患者关于癌症的问题，减轻临床医生的负担并改善获得护理的机会。多个聊天机器人生成的回复比医生的回复更具同理心和更高的质量得分。
“大卫·陈”
“聊天机器人具有为临床医生审查患者问题起草模板回复的有前途的潜力，”多伦多大学医学生大卫·陈告诉 Healio。“然而，我们仍然对临床医生监督的需要保持谨慎，以确保医疗准确性和与医患关系的人文元素的一致性，例如建立信任和融洽关系。”
先前的研究表明，在在线论坛中，聊天机器人对一般医学问题的回复比医生更具同理心。
“鉴于人工智能聊天机器人的广泛普及以及这些聊天机器人在临床环境中的新兴应用，我们认为在更现实的临床场景中评估聊天机器人的能力非常重要，在这种场景中，患者提出了关于他们病情的问题，”陈说。
研究人员收集了 2018 年 1 月 1 日至 2023 年 5 月 31 日期间在 Reddit r/AskDocs 上发布的 200 个随机癌症相关问题。研究人员让三个聊天机器人生成答案，限制在医生平均回答的 125 个单词以内。
多个指标测量了可读性，主治医生对整体质量、同理心和可读性进行了评分。评分表的分数范围为 1 到 5，1 代表“非常差”的回复，5 代表“非常好”的回复。
所有三个聊天机器人在回复质量（基于医疗准确性、完整性和重点）以及同理心方面的平均得分都更高。
表现最好的聊天机器人在所有三个测量变量中的平均得分都高于临床医生。临床医生的回复在可读性方面得分高于三个聊天机器人中的两个。
“鉴于所测试的聊天机器人缺乏针对医疗问答场景的专门设计，我们最初对其积极表现感到惊讶，这表明这些通用的基础人工智能聊天机器人在专业医疗场景中具有有前途的实用性，”陈说。
然而，陈说，聊天机器人的成功并不意味着它们可以在没有监督的情况下实施。
“医生仍然负责聊天机器人的监督，以确保聊天机器人的回复在医学上是准确的，”陈说。“聊天机器人可能在未来被用于为患者关于癌症的问题起草模板回复，这有助于减少医生的职业倦怠，使医生能够花更多的时间与患者进行面对面的高质量交流，而不是从事起草回复患者等行政临床工作。”
“实用框架”以增加姑息治疗的使用
一项随机研究的结果显示，在一个大型社区肿瘤学网络中实施基于算法的转诊系统后，专科姑息治疗的使用增加了四倍。
“拉维·巴拉特·帕里赫”
“我们之前做了一些工作，我们在电子健康记录中使用基于机器学习的算法，提示肿瘤学家更早地就症状管理和临终关怀进行对话，并且我们取得了相当不错的效果，”宾夕法尼亚大学佩雷尔曼医学院医学、医学伦理学和卫生政策助理教授拉维·巴拉特·帕里赫医学博士告诉 Healio。“挑战在于肿瘤学家很忙，所以使用那种范例、那个框架并将其应用于姑息治疗转诊一直是我们感兴趣的一个强烈领域。在这项研究中，我们在某种程度上做了一个扩展。”
这项多臂 BE-a-PAL 试验包括 562 名成年人（平均年龄 68.5 岁；79.5％为白人；48.8％为女性），其中 77％患有 III 期或 IV 期肺癌或非结直肠胃肠道癌。一个自动化的电子健康记录算法使用预后或社会心理因素为患者分配风险评分。
研究人员将 296 名患者分配到基于算法的转诊组。肿瘤学家每周收到默认的电子健康记录通知，为高危患者推荐专科姑息治疗转诊，对于肿瘤学家未选择退出转诊的患者，通过标准脚本介绍他们接受专科姑息治疗，并提供预约就诊的机会。
对照组的 266 名患者由他们的肿瘤学家自行决定转诊到姑息治疗。
结果显示，干预组完成姑息治疗就诊的患者比例高于对照组（46.6％对 11.3％；调整后的优势比= 5.4；95％置信区间，3.2 - 9.2）。
在研究期间死亡的患者中，接受干预的患者接受临终化疗的比例较低（6.5％对 16.1％）。
研究人员写道，结果显示了“一个实用、可扩展的框架通过自动风险预测增加姑息治疗获取的潜力”。
然而，还需要考虑其他因素。
“可能有两三个方面还没有答案，”帕里赫告诉 Healio。“首先，您如何设计算法，以筛选出更高风险的人群？我们的算法仍有一定比例的不准确。”
帕里赫说，姑息治疗干预的结构也可以改进。
“在我们的案例中，我们唯一引导的干预是最初的姑息治疗咨询，因为我们希望它是实用的。但任何姑息治疗专家都会告诉您，如果您想最大程度地享受姑息治疗的好处，您需要的不仅仅是一次咨询，”帕里赫说。“最后，如果您尝试在大多数患者接受护理的地方部署这个，即全国各地的社区肿瘤学实践中，会发生什么？这是一个很好的问题，因为这更多的不是关于技术能力，而是关于这些实践中预先存在的参与动机。”
参考资料：
- 人工智能工具预测癌症治疗的反应。可在： 查阅。发表于 2024 年 6 月 25 日。访问于 2024 年 9 月 23 日。
- 美国临床肿瘤学会在肿瘤学中负责任使用人工智能的原则。可在： 查阅。发表于 2024 年 5 月 31 日。访问于 2024 年 9 月 23 日。
- Ayers JW，等人。《美国医学会杂志·内科学》。2023 年；doi:10.1001/jamainternmed.2023.1838。
- Chen D，等人。《美国医学会杂志·肿瘤学》。2024 年；doi:10.1001/jamaoncol.2024.0836。
- Hantel A，等人。《美国医学会杂志·网络开放》。2024 年；doi:10.1001/jamanetworkopen.2024.4077。
- Parikh RB，等人。摘要 12002。在：美国临床肿瘤学会年会；2024 年 5 月 30 日至 6 月 3 日；芝加哥。
如需更多信息：
“安德鲁·汉特尔医学博士”，可以通过 andrew_hantel@dfci.harvard.edu 联系。
“大卫·陈，医学学士”，可以通过 davidc.chen@mail.utoronto.ca 联系。
“拉维·巴拉特·帕里赫医学博士、公共政策硕士、美国医师学会会员”，可以通过 ravi.parikh@uphs.upenn.edu 联系。
“黛布拉·A·帕特医学博士、哲学博士、工商管理硕士、美国临床肿瘤学会会员”，可以通过 debra.patt@usoncology.com 联系。
发布者：
来源/披露 折叠
“来源”：
Healio 访谈
“披露”：汉特尔报告了来自艾伯维、《美国管理医疗杂志》、阿斯利康、基因泰克和葛兰素史克的个人费用，以及来自联盟基金会、美国癌症协会、ASCO 和格林沃尔基金会的资助。帕里赫报告了在 GNS 医疗保健、谷歌、默克、Onc AL 和 Thyme Care 的股票所有权；来自维克森林医学院的酬金；与 G1 Therapeutics 和默克的咨询/顾问角色；以及与其他几个实体的关系。陈和帕特报告没有相关的财务披露。
阅读更多关于人工智能在医学中的内容
查看全部
2024 年 9 月 25 日
观看 4 分钟
保存
“视频：医生‘需要参与’医疗保健中
