人工智能有潜力重振医疗保健行业，但并非没有一定程度的风险，美国医院协会首席医师执行官克里斯·德里恩佐博士表示。德里恩佐于9月17日在纽约市世界贸易中心一号楼举行的《新闻周刊》专题讨论会上发表了开场致辞，该讨论会的主题是“AI 能否治愈医生的职业倦怠？”
德里恩佐指出，医疗保健行业正经历着历史性的劳动力危机，临床医生的职业倦怠率“高得令人担忧”。无论地理位置或财务状况如何，这都是所有医疗系统的首要任务。人工智能已成为可能的解决方案。新工具有可能通过简化工作流程和自动化耗时的任务来减轻医生的行政负担。一些工具甚至旨在辅助临床决策。
生成式人工智能工具有潜力减轻医生的工作负担并减少职业倦怠，但如果没有关于负责任人工智能的共识定义，医疗系统很难评估这些工具，美国健康AI联盟（CHAI）的首席执行官兼联合创始人布赖恩·安德森博士表示。这些技术仍处于起步阶段，许多技术在过去两年内才开始发展。生成式人工智能（即能够创建原始内容并在医疗保健中具有重大潜力的工具）在2022年11月30日ChatGPT发布时引起了公众的关注。根据贝恩公司的分析，当月只有两篇关于医疗保健中生成式人工智能的新闻稿。到2023年11月，这一数字激增至45篇。
人工智能的迅速崛起使政府和监管机构努力跟上步伐。欧洲议会在3月通过了《人工智能法案》，欧洲理事会随后在5月跟进。该法律将在两年内对欧盟的人工智能实施保护措施，同时“促进创新并确立欧洲在该领域的领导地位”，欧洲议会的一份新闻稿称。
在美国，相关法规尚未完全制定。2023年10月，乔·拜登总统发布了一项行政命令，以催化“协调一致的、联邦政府范围内的方法”来管理人工智能的负责任使用和发展。其中一项行动是在卫生与公共服务部建立一个人工智能特别工作组。国会也一直在考虑AI立法。众议院科学、太空和技术委员会于9月11日通过了九项法案，以开发AI指导、培训和创新，包括在未来六年内授权25.8亿美元建立一个国家AI研究资源。但这些法案仍需通过整个众议院和参议院才能成为法律，这可能需要一段时间。
在此期间，医疗保健领导者必须决定如何利用AI的“目前尚不可知的力量”，德里恩佐在《新闻周刊》的活动上表示。“我们都知道，技术越来越成为我们体验医疗保健的核心部分，”德里恩佐告诉在场的医生和医疗保健高管们。“但事实是，如果我们任由技术自行其是，我们就会冒技术真正成为一个没有指挥的乐团的风险。”
幸运的是，“在这个国家各地”，德里恩佐继续说道，“有一群越来越多样的指挥者正在使用这项技术创作一些非常壮观的音乐。”美国医院协会首席医师执行官克里斯·德里恩佐博士在《新闻周刊》专题讨论会“AI 能否治愈医生的职业倦怠？”前发表开场致辞。
其中一个最重要的群体是美国健康AI联盟（CHAI），这是一个由私营和公共部门超过3000个成员组织组成的团体，致力于定义医疗保健中AI的最佳实践。CHAI成立于2021年，灵感来源于对COVID-19大流行的应对。安德森注意到，来自各行各业的利益相关者——包括通常不会合作的竞争对手——共同努力制定了一个计划。他希望复制这种社区精神，以应对另一个未知领域：AI。
“我们审视了AI，并提出了一个问题：‘我们是否有共识，关于在技术层面上什么是好的、负责任的AI？’”安德森告诉《新闻周刊》。“我们很快得出结论：‘不，我们没有。’”
安德森表示，该组织有五个工作组从不同角度解决这一共识问题。这是一项艰巨的任务，不仅涉及最佳实践的定义；CHAI还必须确定如何客观地衡量AI模型与最终指南的一致性。迄今为止，CHAI已与32个前景质量保证实验室合作，独立评估AI模型。他们旨在使用共同的定义创建“报告卡”，并分享这些报告，以便人们可以确定某个工具是否安全有效——并且“重要的是，对于像他们这样的患者是否安全有效”。
安德森指出，美国大多数可访问的数据集来自城市学术医疗中心，这些中心的患者通常是受过高等教育的白人。有时，一个AI模型在预测白人群体的心脏病方面非常准确，但在应用于非洲裔美国患者时，表现却不如抛硬币。目前，从健康科技公司获得全面透明度非常困难。如果一个医疗系统想要购买一个承诺改善职业倦怠或训练多样数据集的AI工具，它无法要求供应商提供独立评估。框架尚未存在，正如安德森所说，“很难完全信任一个明显存在利益冲突的人。”
据安德森介绍，CHAI的成员正在相互分享发现，并边做边学。在此过程中，他们向美国政府通报他们的发现，以便监管机构有一个知情的框架来制定法律。这一缓慢的过程与生成式AI创新的快速步伐形成鲜明对比，后者“以每分钟一英里的速度前进”。对他和他的医疗保健行业的同事们来说，这项工作具有紧迫性。
“美国经济中的每一个重要行业都有能力让独立实体评估其安全性和有效性，”安德森说。“我们在健康AI领域没有这样的机制。这是一个巨大的问题。”
(全文结束)
