技能退化（deskilling）是指专业技能逐渐丧失或削弱的过程。当人类活动被委托给技术工具、软件或人工智能系统时，就会发生这种情况，导致技术人员和批判性思维能力的"遗忘"。
这一现象已在许多高度依赖技术的领域中被观察到。例如，过度依赖全球定位系统的司机可能会逐渐失去方向感；使用自动驾驶系统的飞行员在处理突发紧急情况时可能面临更大困难；使用自动化工具的工人往往较少使用手动技能。同样，大量使用自动化计算工具的学生可能会降低独立进行计算的能力。
技能退化风险
在医学领域，每当新的自动化程序被引入诊断和治疗过程时，就会出现这种现象，这在当今临床实践中使用的众多诊断工具中已经得到体现。然而，随着人工智能的出现，这一担忧变得更加突出。过度依赖算法以及将医学视为纯粹技术活动的观点，可能会降低医疗专业人员做出独立判断和决策的能力。
这仅仅是一个理论假设——尽管是基于本领域和其他领域的经验——还是有实证证据支持其有效性？《柳叶刀·胃肠病学与肝病学》(The Lancet Gastroenterology & Hepatology)近期发表的一项研究提出了这个问题。研究人员分析了1000多名接受结肠镜检查的患者，以评估系统使用基于人工智能的诊断支持工具识别腺瘤存在的效果。
为此，研究人员比较了在研究参与中心引入AI辅助诊断工具前3个月内由内镜医师执行的检查结果与引入这些系统后3个月内但未在检查中使用这些工具的检查结果。从实施日期开始，结肠镜检查根据程序日期采用随机化程序进行，有时使用AI支持，有时不使用。
结果揭示了一个特别重要且出人意料的发现。标准结肠镜检查的腺瘤检出率在引入基于AI的支持前为28.4%（795例中的226例），而在接触AI后显著下降至22.4%（648例中的145例）。多变量逻辑回归分析证实，接触AI是与腺瘤检出率显著负相关的独立因素（比值比为0.69；95%置信区间为0.53-0.89）。
简言之，接触旨在辅助腺瘤识别的AI工具使内镜医师在移除该技术支持后，正确检测腺瘤的能力降低。
更广泛的风险
该研究存在显著的方法学局限性——这是一项在有限数量中心进行的回顾性观察研究，患者和内镜医师可能存在潜在偏差——但通过使用多变量分析等稳健统计方法部分缓解了这些问题。尽管如此，它代表了文献中首批科学证据之一，突显了将程序委托给自动化支持可能导致临床专业知识丧失的危险。
这可能不是唯一的风险。过度使用人工智能——特别是生成式AI——可能导致技能水平停滞，限制甚至阻碍学习过程。对这些工具的盲目使用不仅可能侵蚀个人技能，还可能增加对这些技术系统的依赖。
在米兰比可卡大学（University of Milano-Bicocca）计算机科学副教授费德里科·卡比扎（Federico Cabitza）博士最近发表的一项系统性综述中，他强调了与人工智能在体格检查、鉴别诊断和临床判断中使用相关的潜在脆弱性。卡比扎多年来一直在研究医学中技能退化的成因和后果。
此外，当人工智能提出预设解决方案时，人类的输入往往局限于通常肤浅的审查。这可能导致专业判断的行使逐渐减少，并在错误发生时责任感知发生转变。
建立韧性
一种可能的策略是促进再培训和技能提升计划。越来越多的组织——包括医疗保健领域的组织——正在投资继续教育，帮助专业人员将人工智能用作决策支持工具，而非替代自身技能。
另一种方法是在医生中扩展和加强算法无法完全复制的技能，如创造力、批判性思维、情商和道德敏感性。
一些专家还建议采取平衡的AI使用方法，即有选择性而非持续不断地使用它。这使医疗专业人员能够保持专注力、决策自主权和判断力。
另一个潜在优势是AI系统的可解释性。这一特点也受到监管人工智能在医疗保健中使用的法规强调，包括《欧盟人工智能法案》(EU AI Act)，可能帮助医生更好地理解支持临床决策所用的信息和标准。
根据最近在《英国精神病学杂志》(British Journal of Psychiatry)上发表的一篇讨论这些问题的文章，医生必须认识到AI工具的局限性，并继续依赖和发展他们的知识、经验和临床技能。AI工具可能协助完成医学中的基本行政任务，但无法替代医生独特的人际交往和推理能力。医生必须防止技能退化，并学习如何在临床医学中最佳使用AI工具。
总之，如果在临床实践中广泛采用人工智能时没有适当的培训和监督，可能会导致对技术的依赖增加，并危及对疾病预防和患者护理至关重要的某些诊断技能。现在就需要采取行动，确保随着人工智能更深入地融入医疗保健，这些关键能力得以保留。
埃吉迪奥·桑托罗（Eugenio Santoro）报告称，他是Mario Negri药理学研究研究所IRCCS（Istituto di Ricerche Farmacologiche Mario Negri IRCCS）的数字健康高级研究员，负责指导数字健康研究和数字疗法部门。他还报告称，他是意大利全国医学协会联合会（Federazione Nazionale degli Ordini dei Medici Chirurghi e degli Odontoiatri；FNOMCeO）ICT小组成员、数字健康与数字疗法议会间工作组科技科学委员会成员、艾米利亚-罗马涅大区医疗保健人工智能工作组成员，以及广告自律研究所（Istituto di Autodisciplina Pubblicitaria）控制委员会成员。他表示已撰写多本关于数字健康的书籍以及科学和大众文章，并于2021年为特雷恰尼百科全书（Treccani Encyclopedia）第X附录（专门介绍21世纪词汇）编辑了"数字健康"条目。他还表示在多个大学硕士课程中任教。
本故事翻译自Medscape专业网络的一部分Univadis Italy。
【全文结束】