代理型AI正在各个行业中被广泛讨论，其中一个可能受益的领域是医疗保健。与传统的基于规则的自动化不同，代理型AI系统具备规划、适应和与其他系统或代理动态交互的能力。这些能力在处理复杂且高风险的工作流程时具有潜力，但在医疗保健领域，变异性和个人化决策几乎是生死攸关的问题。
为了获得一些答案，我与CitiusTech首席执行官Rajan Kohli进行了交谈，讨论了代理型AI在医疗保健中的角色、其技术影响以及需要解决的挑战。
Kohli解释说，代理型AI适用于那些规则不是固定不变的环境。它可以学习模式、确保任务完成，并管理传统自动化无法胜任的复杂工作流程。他解释道：
你的代理应该能够规划工作。它应该有记忆和持久性。它应该知道需要做什么，并在必要时返回完成任务。有时，多个代理会协作完成一个任务。
Kohli提供了一个例子，即ICU（重症监护室）的出院过程。
在ICU，让病人停留的时间过长非常昂贵，但过早出院也非常危险。静态检查清单在这种情况下不起作用，因为每个病人的病史、诊断和治疗路径都不同。代理型AI在这里非常有用，因为它可以根据大型语言模型生成个性化的检查清单，考虑患者的具体数据。医生仍然会在最终决策中起决定性作用，但AI显著减少了所需的时间和认知负担。
医疗保健中的其他用例
除了ICU出院之外，Kohli还概述了几个代理型AI已经在发挥作用的用例：
- 长期患者辅助：患有慢性疾病的患者经常需要安排多次预约、实验室检查和处方药。“代理型AI可以作为助手，自动完成预约安排和文档管理等行政任务，”Kohli说。这些任务没有沉重的监管负担，因此非常适合完全自动化。
- 理赔处理：在美国等市场，医疗机构必须提交保险索赔，这些索赔可能会因多种原因被拒绝。解决这些问题通常需要医生、护士和行政人员之间的合作。“代理型AI可以帮助收集必要的文件并构建对保险公司的回复，从而减少行政时间和成本。”
鉴于医疗数据的敏感性，治理是部署代理型AI的关键因素。Kohli强调需要强有力的保障措施，包括法规遵从性和受控访问机制。
你通常会有另一个代理——我们称之为治理代理——来定义代理型AI运行的参数和规则。由于它是一个学习系统，静态治理结构不起作用；你需要一个能够进化的动态系统。
数据隐私是另一个关键问题。医疗企业必须确保AI模型不会以违反HIPAA或GDPR规定的方式处理个人身份信息（PII）。Kohli指出：
企业应遵循的第一条规则是向AI系统输入匿名数据。在处理之前，应剥离个人标识符。
然而，他认为透明度对患者也有价值：
如果我正在与一个AI系统互动，我认为该系统披露这一点是可以接受的。事实上，这是有益的——如果患者知道AI在协助他们，而不是期望完美的人类服务，他们可能会更加理解。
可扩展性和劳动力影响
代理型AI的可扩展性是一个常见话题。Kohli认为，由于医疗保健领域数据丰富且对效率改进的需求持续存在，因此它特别适合扩大AI的应用范围。
过去，医疗保健面临的主要挑战之一是从多个来源整合孤立的数据。生成式AI有助于克服这一问题，因为它可以处理和理解各种数据格式。与传统AI不同，代理型AI不需要那么多的数据科学家——它更多地依赖于更易获得的数据工程师。
他还强调了即将发生的劳动力构成变化：
在应用程序开发、维护和系统设计方面，我们将需要更少的初级开发人员和更多的高级工程师。行业的人才金字塔将发生变化，拥有更高比例的架构师和经验丰富的开发人员。
除了技术之外，Kohli还强调了流程变革的作用，指出扩大AI规模不仅关乎模型或技术栈——更重要的是重新思考流程，他观察到：“实际上，我认为70%的成功AI扩展是关于流程变革的。”
许多医疗保健组织已经在受控环境中测试了代理型AI。下一个挑战是从试点项目转向全面部署。根据Kohli的说法，几乎所有组织都在问同一个问题：我们如何扩大规模？
大多数医疗保健企业都在处理多个AI系统——有些来自主要的SaaS供应商，有些是内部构建的。他们需要一个控制塔来管理这些多样化的AI系统并确保互操作性。这是我们目前普遍讨论的话题。
(全文结束)
