我的一位朋友去美国做手术。回来后，她开始向我讲述她在医院看到的所有奇妙事物。
“你知道他们进行机器人手术吗？你知道他们可以在不抽血的情况下检查血糖水平吗？你知道我可以全程在屏幕上观看手术吗？”她问道。
等她说完，我已经累得不行了。然后她说了一句让我恼火的话：“你们这些人很快就要失业了！计算机已经接管了一切。”
我轻笑一声，接着问了一个问题：“你会允许一个机器人在没有人类监督的情况下为你做手术吗？”
她沉默了一会儿，思考着这个问题。最后，她小声说：“不会。”
两周前，我讨论了人工智能在医学中的优点及其在医疗保健中的作用。今天，我们将剖析其缺点。
对我来说，最大的缺点或许是人工智能带来的伦理困境。人工智能在医疗应用中的部署引发了复杂的伦理问题，责任和问责制不明确。谁对人工智能相关的错误负责？如果机器人独自为你做手术，出现并发症时你应该联系谁？谁将承担责任？人工智能如何处理临终决策？我们如何确保人工智能不会加剧医疗不平等或人口统计学上的偏见？
另一个缺点是人工智能仍然需要人类的监督。尽管人工智能在医疗领域取得了长足进展，但人类的监督仍然是必不可少的。例如，大多数机器人手术仍由人类控制（或监督）机器的操作。此外，机器人逻辑操作，而不是同理心操作。医务人员可能会注意到重要的行为观察，这些观察有助于诊断或预防医疗并发症。
让我举个例子，前列腺切除术。机器人辅助手术在泌尿科非常流行，尤其是在美国。在使用这种技术的泌尿中心，它被广泛应用于切除前列腺癌的手术，因为它可以进入难以到达的解剖区域。然而，机器人辅助手术不仅存在操作机器人系统时的人为错误风险，还存在机械故障的潜在风险。例如，系统组件如机械臂、摄像头、机器人塔、双目镜头和仪器可能会发生故障。在其他情况下，机器人仪器中的电流可能离开机械臂，误用于周围组织，导致意外烧伤。同样，机器人辅助手术可能导致神经麻痹，因为极端体位或直接神经压迫可能会在使用机器人时发生。
人工智能的另一个维度是其无法检测社会变量；患者的需求往往超出了即时的身体状况。社会、经济和历史因素可以影响特定患者的适当建议。例如，人工智能系统可以根据诊断将患者分配到特定治疗，但该系统可能不会考虑患者的经济限制或其他个性化偏好。
在医学院时，我们被教导在开药或决定治疗方式之前要全面评估患者。医生会观察你的穿着打扮：鞋子、手表等，以及你的说话方式，然后再开药。给一个在路边卖水果的人开一包价值超过30,000奈拉的高血压药物Exforge HCT有什么好处？他可以用2,000奈拉买到Bendroflumethiazide和Amlodipine。人类可以察觉到这种差异，而机器则不能。人工智能只会按照书本上的内容开药。你看问题出在哪里了吗？
再者，虽然人工智能系统可以高度准确，但它们并非无懈可击。始终存在误诊或忽略关键信息的风险，这可能导致危及生命的错误。医疗人工智能严重依赖于数百万个已记录病例的诊断数据。在特定疾病、人口统计数据或环境因素的数据较少的情况下，误诊是完全可能的。这一因素在罕见病症中尤为重要。
另一个担忧是数据隐私和安全。人工智能依赖大量敏感的患者数据，这使得数据隐私和安全成为一个至关重要的问题。滥用、未经授权访问或泄露这些数据可能会带来严重的个人、伦理和法律后果。由于人工智能通常依赖于数据网络，其系统容易受到安全威胁。据Forrester Consulting报告，88%的安全行业决策者认为攻击性人工智能是一种新兴威胁。
最后，我们必须面对房间里的大象——失业。尽管人工智能可以帮助降低成本和减轻临床医生的压力，但也可能导致某些工作变得多余。这可能会导致那些在医疗教育上投入时间和金钱的专业人员失去工作，带来公平挑战。行政任务甚至一些临床功能的自动化可能会引发医疗行业内的就业流失担忧；然而，我相信通过在技术利用中找到平衡，这一过渡可以和谐实现。2018年世界经济论坛的一份报告预测，到2022年，人工智能将净创造5800万个就业岗位；然而，同一研究发现，到2022年，人工智能将使7500万个工作岗位消失或被摧毁。这一机会减少的主要原因是，随着人工智能在各个领域的整合，涉及重复任务的角色将变得多余。
总之，无论我们喜不喜欢，人工智能都将成为常态。虽然将人工智能纳入医疗保健有潜力彻底改变患者护理、改善结果和优化运营，但解决相关挑战至关重要，如数据隐私、诊断准确性及伦理考量。随着我们在这一转型旅程中继续前行，谨慎而有意地在人工智能和人工干预之间取得平衡将是负责任地利用这项变革技术的关键。
(全文结束)
