医疗系统在生产环境中无法轻易“关闭”生成式人工智能Health systems can't easily 'turn off' gen AI after production

环球医讯 / AI与医疗健康来源:www.beckershospitalreview.com美国 - 英语2025-03-14 23:00:00 - 阅读时长2分钟 - 904字
生成式人工智能正在迅速融入医疗领域,但医疗机构在正式使用后很难轻易停止,因为这涉及长期协议、合规措施和其他考虑因素。
医疗系统生成式人工智能生产环境长期决策数据责任AI驱动项目数字委员会员工素养
医疗系统在生产环境中无法轻易“关闭”生成式人工智能

生成式人工智能正在迅速融入医疗保健领域,随着人们在个人生活中越来越熟悉这项技术,他们也开始期望在工作中使用它。

临床医生和行政人员已经准备好在工作流程的许多方面接受生成式人工智能,但在医疗环境中使用它并不像在个人账户上试验那么简单。辛辛那提大学医疗中心(UC Health)高级副总裁兼首席数字健康官Umberto Tachinardi博士在最近一期的《Becker's Healthcare Podcast》中表示:“当我们决定在个人生活中使用生成式人工智能技术,如ChatGPT或DeepSeek时,如果不喜欢可以随时停止使用。但在我们这样的专业和正式组织中,这些决策是长期性的。你不能随随便便地开启或关闭这些东西,因为这样做成本高昂,并且涉及到数据责任问题。”

使用生成式人工智能平台可能包括长期协议、合规措施以及其他考虑因素,使得一旦团队不采用该技术就很难停止。“当我们进行试点时,我们有退出机制,因为这只是试点,”Tachinardi博士说。“但一旦将试点转为正式生产,情况就会发生巨大变化。从那时起,它将成为你正式环境的一部分,你对它负有责任。”

这就是为什么识别正确的AI驱动项目如此重要的原因之一。有许多机会可以安装新的技术平台,随着员工对人工智能越来越熟练,需求也在增长。“如何管理这些技术的部署、采购和引入的优先级?因为每个人都想要一切,这成为一个挑战,”Tachinardi博士说。“我们面临着巨大的需求,如何管理预期、教育人们在新的数字素养世界中,这也是一个挑战。”

UC Health设立了一个由组织内各利益相关者组成的数字委员会,以选择和安排AI驱动项目的推出顺序。该医疗系统旨在在整个组织中获得广泛的参与,并提升员工的知识水平,使他们明白没有什么是完美的;总会有失败的情况。“显然,我们希望工具能够产生尽可能少的失败,接近于零。但重要的是,人们必须继续思考并关注这些技术的表现,”Tachinardi博士说。“为了做到这一点,我们需要提升员工的素养。他们需要接受教育,这是我们正在努力发展的重大举措之一,从我们的技术人员开始,他们直到最近才为这些创新做好准备。”


(全文结束)

大健康
大健康