在快速发展的医疗保健领域，人工智能已成为医疗系统和医疗保健供应商的关键关注点。然而，由于 IT 部门的人员配置挑战，充分发挥其全部潜力的能力可能会受到阻碍。
位于加利福尼亚州萨克拉门托的加州大学戴维斯分校健康中心的首席人工智能顾问丹尼斯·乔恩尼克（Dennis Chornenky）告诉《贝克尔医疗保健》，即使是资源充足的医院，其 IT 人才也存在差距。
他说：“大多数医院都在努力争取部署人工智能解决方案所需的 IT 人才，更不用说在内部构建和设计它们了。”
随着像 Epic 这样的公司开始推出广泛的人工智能功能，这一挑战将加剧。
他说：“仅 Epic 就有大约 80 到 100 种新的人工智能功能即将推出。医疗系统将需要迅速评估这些功能，以确保它们不会引入风险。”
乔恩尼克先生强调了医疗系统开发内部结构以管理人工智能集成复杂性的重要性。一个关键建议是让 IT 部门建立“模型运营委员会”，以确保人工智能部署是安全、有保障和得到有效监控的。
乔恩尼克先生说：“如果没有一种快速压力测试和评估这些人工智能能力的方法，医疗系统可能会引入风险，特别是从治理的角度来看。随着更多的人工智能功能嵌入像 Epic 这样的电子健康记录平台，评估和管理这些技术的能力将至关重要。”
他还强调了在 IT 部门纳入“红队”的重要性——致力于识别人工智能系统漏洞的团队。
乔恩尼克先生说：“红队工作变得至关重要。这涉及通过让人工智能应用程序暴露在它们可能未经过训练的场景中进行压力测试，以查看它们的响应。”
随着更多的人工智能功能被集成到现有的电子健康记录系统中，乔恩尼克先生警告说，IT 部门将需要采用新的策略来跟上步伐。
他说：“像 Epic 这样的公司提供的人工智能功能的大量涌入将迫使医疗系统迅速做出反应。跟上的唯一方法是投资必要的人才和内部流程来评估和管理这些技术。”
