在儿童进入手术室之前，一个大屏幕上会显示一个风险评分。这个分数预测潜在的并发症，提供预估的恢复时间，并推荐行动方案。虽然这些数字看起来准确，但生成它们的过程却难以看清。
人工智能正在小儿外科领域迅速崛起，它为诊断提供更高的准确性，增强手术规划能力，并减少临床医生的文书工作。然而，同样的技术使医生能够简化护理，也给父母和照顾者带来了新的不确定性，因为他们需要为无法为自己发声的儿童做决定。
约翰·霍普金斯大学所有儿童医院小儿外科分部最近在《世界小儿外科杂志》上发表了一篇文章，探讨人工智能技术如何与传统的医学伦理原则相交织。该论文的作者认为，AI在外科领域的最终采纳将更多地取决于AI技术的监控和监管方式，而非其技术能力。
AI如何与手术室相交织
AI在手术室中的优势显而易见。例如，已经开发出机器学习程序，可以识别手术风险和并发症。其他机器学习系统可以解读影像学检查，并预测复杂手术后发生并发症的可能性。还有一些应用程序被编程为在患者就诊时倾听并创建临床笔记，使外科医生能够专注于家庭而非电脑屏幕。
在实践中，AI技术已经影响了外科护理的提供方式。美国外科医师学会的国家外科质量改进计划于2016年推出，它使用传统统计模型根据患者特定特征向外科医生提供风险估计。在过去几年中，该模型已转换为机器学习程序。现在，它为外科医生提供了更好的能力来捕捉与风险和结果相关的变量之间的交互性质。
由于机器学习技术的引入，与家庭关于风险和不确定性的艰难对话变得更容易。评估胆道闭锁或神经母细胞瘤等疾病治疗选择的家庭可能受益于准确的预测。这使他们能够充分权衡自己的选择。对外科医生而言，自动化的文档和摘要工具减少了查阅病历的时间。这一活动已被证明会增加职业倦怠率。
儿科护理中的伦理考量
儿科护理提供了与成人医学不同的患者群体。儿童是一个更小、更多样化的患者群体，他们的数据在大型数据库中的代表性往往不足。因此，数据中的空白会影响技术的预测能力。
自主性的伦理问题始于这样一个理念：家庭应该就儿童的医疗护理做出知情决定。在小儿外科中，父母或监护人负责做出这些决定，通常是在非常紧张的情况下。为了在知情同意讨论中减轻一些压力或焦虑，AI工具可能提供有用的知识。这些工具可以将复杂的医学语言翻译成通俗易懂的术语。
许多想法旨在增强理解。有些包括创建能够识别痛苦信号或家庭参与程度的系统。这些系统可以自动通知医生家庭需要额外帮助。然而，作者警告不要用技术取代传统的沟通方式。
家庭应该了解AI技术在其子女诊断和治疗中的潜在影响。他们也应该对如何利用他们的信息来训练未来的AI技术有发言权。不同意训练未来的AI技术不应为家庭制造护理障碍。
机器人、风险与责任
手术机器人日益普及带来了另一层复杂性。许多当前的手术技术系统正在开发使其能够以部分自主能力运行的能力。Lee及其同事（2018）描述了一个分类系统，用于根据所需人类支持的程度，将机器人系统以从1到6的不同独立程度运作。
迄今为止，手术中使用的大多数机器人系统都受到人类监督。这意味着外科医生对手术的所有方面负责。如果完全自主的设备被批准使用，这将引发问题：如果出现差错，谁应该承担责任？
AI在促进积极结果和避免负面结果方面为医疗保健带来益处。已经存在允许AI快速识别诊断的工具。例如，为手术期间使用而开发的深度学习算法可以帮助外科医生比当前做法更快地识别先天性巨结肠症。更快的诊断缩短了手术室时间，使患者受益。
然而，过度依赖AI生成的结果可能导致误诊，从而使患者面临更大的风险。这些风险包括接受不必要的手术或接受不完整的治疗。以先天性巨结肠症为例，可能会切除错误长度范围的肠道，这具有潜在的长期后果。
数据、公平与问责
随着AI的出现，责任或问责的概念变得更加复杂。如果AI辅助的机器人设备在患者并发症中发挥作用，责任可能超出外科医生，扩展到医院和制造商。作者建议，在广泛采用之前，必须定义处理这些技术造成的伤害的途径。
另一个考虑因素是正义原则，它要求公平。对于儿科患者，公平在很大程度上取决于是否有足够的数据。目前，用于开发医学影像产品的许多数据集中，儿童人群的数据代表性不足。这使得算法不太可能为儿科患者表现良好。以阑尾炎为例，这可能导致诊断延迟和并发症增加。
关于AI和公平的另一个关注领域是地理差异。许多机器学习算法仅使用来自有限几个州的数据进行训练。这最小化了它们在多个地理位置的相关性。收集来自代表性不足群体的样本或调整模型输出以更好地反映地理分布已被探索为潜在解决方案。然而，每种解决方案都有其自身的缺点。
通过纳入之前未利用的来源来扩展数据集，给数据隐私带来了新的挑战。与更大、更集中的数据集相关的网络犯罪和数据泄露事件有所增加。这可能使儿科患者面临更大的风险，因为他们的医疗记录会被长期追踪。
透明度与AI在外科中的未来
为AI系统建立问责制的一种方法是提高它们对其内部决策过程提供透明度的能力。之前被视为“黑箱”的AI系统对医疗专业人员构成了挑战。临床医生可以看到系统的输入和输出，但看不到其建议背后的推理。
缺乏透明度使得医疗工作者难以向患者及其照顾者解释AI驱动的决策。这也使得识别和解决潜在错误更加困难。可解释AI可能通过提高决策透明度来解决这个问题。
然而，作者担心过度依赖自动化推荐可能导致临床医生批判性思维能力的下降。获取AI辅助医疗保健的能力仍然是一个挑战，原因包括数字医疗工具的使用日益增长，以及可靠互联网和数字素养的有限可及性。
AI在医疗保健中的持续扩张可能加剧现有差距。对于无法使用基于互联网的工具或缺乏足够数字素养的人群尤其如此。
最终，作者得出结论，小儿外科实践中的AI辅助设备应支持人类决策，而非取代它。外科医生必须积极参与这些技术的开发和评估。
随着AI能力持续快速发展，小儿外科正处在一个关键点。与此同时，监管和监督系统仍在开发中。
研究结果可在《世界小儿外科杂志》在线获取。
原文故事“AI is transforming pediatric surgery, but with strong ethical concerns”发表在《新闻光明面》。
相关故事
- AI驱动的机器人通过观看医生工作学会了做手术
- AI工具在手术前以近乎完美的精度预测脑肿瘤
- 前沿AI技术通过实时诊断重塑手术
喜欢这类正能量故事？获取《新闻光明面》的新闻简报。
【全文结束】