新的数字前沿：人工智能已不再处于医疗世界的边缘，而是进入了急诊室、社区诊所、影像机构和电子病历系统。以色列医学会本月通过医学质量研究所和以色列医学风险管理和患者安全学会发布的这份新立场文件，试图定义游戏规则：利用这项技术，但不被其奴役；借助它改善诊断和治疗，但不将其变成代替面对患者的医生做决定的"隐形医生"。
立场文件在开头就明确指出，这些是整合基于人工智能系统的通用原则，而非治疗个别患者的指南或对特定系统的推荐。换句话说，该文件并未告诉医生如何治疗胸痛进入急诊室的患者或发烧的儿童，而是定义了医疗组织应如何将人工智能工具引入到错误可能导致人命的治疗环境中。该文件还提到，立场文件旨在作为医务人员的工具，不会取代他们在任何特定情况下的判断。
生成式AI工具进入大众广泛使用后，人工智能在医疗领域的快速传播进一步加剧。但在医学世界中，这些应用早已先行：机器学习系统已在解读CT和X光扫描、识别病理发现、评估医疗程序前风险、为患者分诊以及在电子病历中提供诊疗建议等方面发挥作用。
根据立场文件，截至2024年5月，美国食品药品监督管理局已批准882种使用人工智能的医疗器械。最大领域是放射学，有671种设备，占所有获批设备的76%。紧随其后的是心血管疾病领域的设备，占10%，神经学占3%，血液学占1.9%，胃肠病学和泌尿学各占1.5%，麻醉学占1%。
在以色列，变革已在实践中显现。在舍巴医疗中心，实施了由该医院开发的Aidoc系统，该系统协助识别CT和X光扫描中的紧急发现。该系统扫描影像检查，检测中风、脑出血、肺栓塞、主动脉夹层或气胸等紧急情况的疑点，并向放射科医生发出警报。
其意义在于，可疑的检查会升至队列顶部，医生会收到可疑区域的标记。这不会取代医学解读，而是在放射科医生需要在短时间内查看数千张图像、有时在繁重班次中工作的系统中添加一层重要的安全防护。
另一个例子是Rounds系统，它试图解决医生职业倦怠的主要焦点之一：输入记录。该系统记录医疗就诊过程，转录对话，并从中生成完整的就诊文档或医疗摘要。从医生的角度来看，这是一个重大改变：医生不必在就诊过程中大部分时间将目光转移到屏幕上，而是可以看着患者，倾听、询问、检查，最后审阅摘要、更正并签署。
从风险管理的角度来看，这也是一个挑战：记录医疗对话需要严格维护隐私、信息安全、向患者澄清，并进行医疗控制以确保生成的摘要准确反映所说和所做的内容。
克莱利特健康服务机构实施了一种名为AI-PRO的人工智能系统，基于C-Pi平台，协助家庭医生开展主动和个性化医疗。该系统每晚扫描电子记录中的医疗信息，将其与临床指南和知识库交叉参考，并向医生提供建议和有风险的患者。
例如，未进行检测的糖尿病患者、血压不稳定的女性患者、骨质疏松风险患者，或需要注意的药物组合。根据此模型，决定权仍在医生手中：系统提出警示，医生决定是否联系患者、改变治疗、安排检测或忽略建议。
医学会的立场文件强调，前景广阔，但风险同样巨大：第一个风险与技术本身有关：人工智能系统基于其构建模型和训练数据生成答案。如果数据不完整、有偏见或不能代表患者群体，建议也可能有偏见。主要在一个群体上训练的系统，可能对不同年龄组、不同来源、不同社会背景或在训练数据中未充分出现的复杂医疗情况的患者产生错误。
第二个风险是虚假的安全感。当计算机系统给出快速、措辞良好且自信的答案时，人们很容易相信它。在拥挤的医疗环境中，医生在压力下工作，时间不足且职业倦怠，依赖计算机答案的诱惑可能很大。
指南警告不要过度依赖人工智能的使用，以及医生停止"看到患者"而只看到屏幕上建议的情况。在医学中，人文背景与数据同样重要：患者的外貌、肢体语言、家族史、焦虑、疼痛、信任、文化、对治疗的依从性，以及可能不会出现在算法中的每一个小细节。
额外的风险涉及人工智能系统的"幻觉"：看起来可靠但不正确的回答。在医学世界中，此类错误可能表现为不适当的用药建议、检测结果的错误解读或忽略危险诊断。因此，立场文件要求组织预先定义在哪些情况下允许使用系统，在哪些情况下不允许，谁有权操作它，以及需要何种程度的人类控制。
法律问题也尚未完全规范。如果医生按照后来被证明错误的人工智能系统建议行事，谁应负责？是否需要为每次此类使用获得患者的知情同意？患者是否需要知道他们从医生那里得到的答案是基于计算机工具？立场文件引用了医学会伦理局主席在议会讨论中的话："医生必须披露回答患者的内容是基于人工智能的。"这是一个重要声明，因为它将人工智能不仅与准确性问题联系起来，还与医生和患者之间的信任问题联系起来。
指南详细说明了在引入人工智能系统使用前的一系列规则。首先，需要检查系统是否真正必要，以及它是否在不损害安全的情况下改善医疗或行政流程。然后，需要查明它是否具有监管批准或医学专业批准，即使处理的系统不被定义为医疗器械。组织需要在实施前进行风险管理过程，识别可能的故障场景，定义解决方案，建立实施计划，建立报告异常事件的机制，并对最终用户进行培训。
此类培训不能是关于人工智能的一般演示。它需要实用：如何操作系统，每个警报的含义是什么，输入什么数据，其限制是什么，何时必须咨询专家，以及如何记录与系统建议相反的决定。指南还强调需要持续监控，因为人工智能模型可能随时间变化。启动日的良好表现并不能保证一年后表现良好，特别是当患者群体变化、治疗方案更新或系统数据扩展时。
立场文件还涉及问题的另一面：不实施的风险。能够识别早期医疗恶化的系统、检测缺失治疗或警示危及生命的发现，可能预防伤害。根据文件，已集成到电子病历中的实时监控系统识别异常事件的能力比实时高10多倍，并且能够在事件发生前72小时预测医疗恶化。也就是说，问题不再归结为对技术的恐惧，而是对其负责任的管理。
在风险管理领域本身，人工智能可能会改变医院和健康基金的工作。它可以帮助分析异常事件报告、识别根本原因、检测危险治疗模式、跟踪调查建议的实施、重新设计工作流程以及整合患者反馈。但在这里也需要谨慎：系统可能建议一般性和公式化的解决方案，如员工培训或更新程序，而不深入了解组织文化、部门、工作量、班次或真正的故障点。
立场文件的作者总结道，人工智能可以是一层安全防护，而不是独立的医疗权威。它可以缩短解读时间，将与患者的对话时间还给医生，提醒遗漏的检测，识别风险，警示恶化，并改善流程。但所有这些都需要明确的边界、透明度、适当的同意、信息安全、员工培训、文档记录和持续控制。医生仍然是倾听、检查、决定、解释并承担专业责任的人。
【全文结束】