医疗机构如何准备云环境以安全实施AI?How Can Healthcare Organizations Prepare Their Cloud to Safely Implement AI?

环球医讯 / AI与医疗健康来源:healthtechmagazine.net美国 - 英语2024-11-15 03:00:00 - 阅读时长4分钟 - 1766字
本文探讨了医疗机构如何通过数据治理和云环境优化来安全实施人工智能技术。
医疗机构云环境人工智能数据治理数据安全生成式AI大型语言模型基础设施准备经验丰富的合作伙伴
医疗机构如何准备云环境以安全实施AI?

在医疗保健领域使用人工智能时,数据治理是一个关键问题。以下是组织需要了解的内容。

许多在云端运营的医疗机构现在有不同的技术需求,这与他们最初进行投资时的需求有所不同。随着组织重新评估和优化其云环境,他们应考虑目前正在使用的技术和未来计划采用及实施的工具。其中一个在技术组合中迅速普及的解决方案是人工智能。麦肯锡全球调查发现,今年使用AI工具至少一项业务功能的组织比例跃升至72%,而2023年这一比例为55%。生成式AI的使用在同一时间段内几乎翻了一番:2023年有33%的组织使用生成式AI,而2024年这一比例上升到65%。

“我们与很多医院合作,医生们使用AI来撰写笔记摘要。他们不想暴露任何患者信息,但希望更快地获得更好的笔记。”CDW软件定义基础设施首席架构师Roger Haney说。

医疗机构收集的数据量正在呈指数级增长,IT团队必须拥有坚实的数据治理和存储策略,以便能够将这些数据与AI项目结合使用。“在医院里,你谈论的是大量的存储空间。如今他们使用视频的频率更高,并利用AI来理解视频流。”Haney说,“患者是否已经起床?他们是否有跌倒的风险?我是否需要派人过去?这些类型的视频解决方案遍布整个医院。”

为了适应这种动态技术,医疗机构必须制定使用和扩展的计划。其中一个最重要的考虑因素是用户输入的数据及其治理。“首先,我们进行数据治理检查。你将使用什么样的数据?围绕这些数据有哪些控制措施?然后我们可以设计一个解决方案,使你能够在内部保留数据,而不暴露任何数据。”Haney说。

数据治理对于希望为其基础设施和用户做好AI和大型语言模型(LLM)准备的组织至关重要。“我们有一个名为‘掌握操作AI转型’(Mastering Operational AI Transformation,简称MOAT)的工作坊。”Haney说,“你是在围绕不想泄露的数据画一个圈。我们希望它在内部有用,但不希望它泄露出去。”

为了确保数据安全,像CDW这样的合作伙伴可以帮助组织设置或构建不依赖公共LLM的云解决方案。这样,他们可以享受生成式AI的好处,而不必承担风险。“我们可以设置你的云环境,使其能够使用一个提示来‘复制’一个LLM。”Haney解释道,“我们构建了包含聊天资源的私有飞地,人们可以在不公开其输入数据的情况下使用这些资源。”

当医疗机构计划使用生成式AI时,它们如何准备基础设施以应对这项技术的未来将取决于其具体需求。Haney表示,大多数用户希望与其数据进行通信以检索或分析。“与你的数据对话并不需要新的数据存储。你不必构建一个巨大的数据湖或仓库。”他说,“如果你有患者数据,那么我们添加另一个模型,该模型可以创建SQL查询,执行查询并拉回数据。然后你可以向其提问,使用这些数据作为提示的一部分,与你的数据进行‘对话’。”

像CDW这样的合作伙伴可以通过为医疗系统快速且经济地创建检索增强生成数据库,为医疗机构提供这种功能。当被问及简单问题时,它可以返回两到三个最佳答案。通常,这些解决方案并不需要云支持。“例如,如果你每秒要处理20个查询,你可能可以在本地完成。”Haney说,“如果你每秒要处理200个查询,或者像CDW这样的公司正在构建一个人力资源机器人,每秒处理500个查询,那么你需要使用可扩展的资源。这就是云的作用。”

“有了微调模型,你需要大量的GPU资源,因为现在你正在将信息嵌入模型本身。”Haney说,“我们大部分工作都在云中完成,我们可以在那里租用GPU或TPU(张量处理单元),这要便宜得多。”

“我们还与许多医院合作,解决他们目前的手动流程。你可以简单地走进房间,连接所有自动血压计等设备,并在医生的设备上立即生成诊断。”Haney补充道,“你的过去12小时或24小时是什么样的?关于AI,尤其是生成式AI,重要的是将其视为另一种工具。但将这些工具串联起来——你的数据库、查询和查找,以及大量的视频——为你提供了非常智能的解决方案。”

因此,当你考虑如何准备云基础设施以应对AI时,首先要考虑的是你希望如何使用AI,如何使用数据,以及这将对你的组织提出什么要求。与经验丰富的合作伙伴合作可以帮助你回答这些问题,并更多地准备你的医疗机构的数字基础设施,以应对未来的挑战。


(全文结束)

大健康
大健康