多年来，企业人工智能战略一直基于一个简单的假设：一旦模型足够优秀，采用就会随之而来。如今，这一假设正在接受检验——并且正在失败。从大多数指标来看，模型能力已经到位。尚未到位的是使自主系统能够在企业内安全运行所需的基础设施、安全态势和工作流程架构。
这一差距的一个明确信号来自联邦政府本身。当美国国家标准与技术研究院（NIST）于2026年1月发布关于AI代理安全的正式信息请求时，在2026年3月9日截止日期前收到了932条公众评论——这一异常高的响应量反映了从业者正如何急切地应对当前框架无法解决的问题。
NIST自身对此原因的评估直截了当：自主代理正被嵌入生产环境，而没有身份管理基础设施、访问控制或审计机制来规范传统软件，即使它们正在编写和执行代码，并在数十个集成服务之间链式调用工具。
支撑这一担忧的安全数据令人警醒。根据NIST内部研究中引用的2025年初红队演练，针对AI代理的新颖攻击策略成功率达到81%——这一失败率与底层模型推理能力的好坏毫无关系。
医疗保健最尖锐地说明了问题的工作流程方面。一份提交给美国卫生与公众服务部（HHS）国家卫生信息技术协调员办公室的正式评论指出，与数据就绪性、互操作性、生命周期监控和可审计性相关的能力对于实现人工智能潜力同时保护患者、临床医生和医疗机构至关重要，特别是对于嵌入在影响护理但未被监管为医疗设备的文档和操作工作流程中的AI。
所有来源的模式都相同：瓶颈不是智能。而是就绪度。
Wolters Kluwer健康部门高级副总裁兼首席技术官Alex Tyrrell加入了Emerj的Matthew DeMello在"商业中的人工智能"播客节目，解释了为什么代理式AI的成功现在取决于现代化企业基础设施、安全态势和工作流程架构，而不是改进模型性能。
本文探讨了三个见解，阐明了为什么代理式AI的采用受到企业就绪度而非模型能力的制约。
- 基础设施就绪作为制约因素：当遗留系统、脆弱的API和单体架构阻碍跨多步骤、受监管工作流程的自主执行时，代理式AI无法可靠运行。
- 领域适应推理作为代理性能的引擎：需要多模型编排、微调和动态思维链，将复杂任务分解为可执行步骤，以持续交付结果。
- 自主安全态势作为新的企业要求：机器发起的行动扩大了攻击面，使合规复杂化，并需要为代理而非人类操作员构建的身份、权限和可观察性控制。
节目：从实验到临床级人工智能在医疗保健中的应用——Wolters Kluwer的Alex Tyrrell
嘉宾： Alex Tyrrell，Wolters Kluwer健康部门高级副总裁兼首席技术官
专长： 人工智能、机器学习、医疗保健技术、数据与产品工程
Alex Tyrrell是一位技术高管，专业领域涵盖人工智能、机器学习、数据平台和医疗保健技术。他目前担任Wolters Kluwer健康部门执行副总裁兼首席技术官，领导健康部门在临床决策支持、研究和医疗保健解决方案组合中的产品工程、技术战略以及人工智能和数据卓越中心。此前，Alex在汤森路透（Thomson Reuters）和Refinitiv担任工程和产品领导职务，领导搜索、自然语言处理、机器学习、数据平台和企业内容解决方案方面的工作。职业生涯早期，Alex曾是马萨诸塞州总医院和哈佛医学院的博士后研究员，从事高性能计算、图像分析和计算建模研究，研究成果发表在《自然·医学》、《自然·方法》和《新英格兰医学杂志》等期刊上。他拥有伦斯勒理工学院计算机工程博士学位和罗切斯特理工学院计算机科学硕士学位。
基础设施就绪作为制约因素
Alex在节目中开宗明义，清晰地区分了代理式AI能够做什么与企业实际准备支持什么。他的核心观点是，自主系统失败不是因为模型薄弱——而是因为支撑它们的企业技术栈是为人类节奏、基于屏幕的工作流程构建的。代理式AI完全消除了这种摩擦，暴露了先前隐藏的架构弱点。
据Alex介绍，最大的制约因素不是缺乏创新意愿，而是技术债务：单体应用程序、脆弱的API、粗粒度的权限以及为人类操作员而非自主代理设计的操作工具。当代理开始以机器速度执行任务时，这些弱点成为系统性障碍。
他强调，在企业能够安全地将代理部署到受监管的工作流程之前，必须现代化底层基础设施。这种现代化包括分解单体架构、收紧权限、完善API以及升级可观察性，以便团队能够跨分布式系统追踪自主操作。
Alex指出：
"当你拥有所有这些屏幕和按钮以及人类操作员时……流量几乎由你按按钮的速度所限制。现在代理正在完成工作。不再有任何摩擦。它们可以发送到后端的速率、速度和流量——你最好为此做好准备。"
— Alex Tyrrell，Wolters Kluwer健康部门高级副总裁兼首席技术官
基于此，Alex列出了企业在部署代理式系统前必须采取的几个实用步骤：
- 分解单体架构为模块化、可观察的组件：代理无法在黑盒系统内运行；它们需要清晰、可审计的端点和可预测的行为。
- 重新设计API以实现细粒度、最小权限访问：粗粒度或脆弱的API在自主负载下会崩溃，而权限不足会在受监管的工作流程中产生合规风险。
- 为机器驱动的流量峰值进行工程设计：人类工作流程自然会限制系统负载；代理则不会。基础设施必须为突发的高容量执行做好准备。
- 现代化可观察性和监控：当代理跨多个系统操作时，传统日志记录无法解释错误来源或峰值发生原因。分布式追踪成为必需。
- 加强代理的身份和访问控制：自主系统需要针对机器发起操作定制的身份模型和权限框架。
这些步骤共同构成了Alex的核心论点：当企业基础架构为自主性而非人类操作重建时，代理式AI才能成功。
领域适应推理作为代理性能的引擎
Alex没有从架构或基础设施开始，而是将对话转向代理式系统的行为——特别是它们如何思考。他认为企业始终低估了使代理可靠执行所需的领域适应量。问题从来不是"哪个模型"，而是"在模型实际执行受监管任务之前，必须嵌入多少层领域逻辑？"
Alex描述了他在每一次严肃部署中看到的模式：现成的模型只是一个起点。一旦进入真实工作流程，它必须通过监督指导、微调、低秩适应和动态思维链进行重塑——直到反映训练有素的专业人员的推理模式。在他看来，这是企业真正差异化的地方。
对话中的一个关键时刻是Alex解释模型一旦适应某个领域会发生多么戏剧性的变化：
"你可能从一个基础前沿模型开始，但你会对它进行领域适应……它将不再看起来像你从货架上拿下来的那个。它会变得更好——而且你可能会多次进行这种适应。"
— Alex Tyrrell，Wolters Kluwer健康部门高级副总裁兼首席技术官
Alex没有列举步骤，而是通过代理式工作流程本身的性质来说明这一概念。人类可能看到一个单一任务——预授权检查、索赔审核、临床摘要——但代理必须将该任务分解为对人类操作员通常不可见的推理单元。有时代理比人类更细致地分解任务；有时它将多个人类步骤合并为一个。适应过程教会模型如何做出这些决策。
Alex的实用指导源于这种框架：
- 领域专业知识成为代理推理的支架。主题专家不再仅仅是评审者——他们定义了代理必须学习的推理路径。
- 多模型系统成为常态。工作流程的不同部分需要不同的推理行为，没有单一模型可以可靠地覆盖整个链条。
- 动态思维链变得至关重要。代理必须根据每个实例的确切事实调整其推理，而不是依赖静态提示或通用指令。
- 可解释性来自于粒度。当任务被分解为细粒度的推理步骤时，企业获得监管环境所需的透明度。
Alex的总体观点是，代理性能不是模型的属性——而是适应过程的属性。将领域推理视为一流工程学科的企业将看到代理表现出其工作流程所需的稳定性和可靠性。
自主安全态势作为新的企业要求
Alex的最后一个主题从工作流程和推理转向企业一旦代理开始在受监管环境中操作所面临的运营现实。他的观点很直接：当自主系统发起操作、与其他代理通信并在企业内生成机器速度的流量时，支配云和SaaS系统的安全假设不再成立。攻击面扩大，身份模型改变，合规框架必须演进以考虑机器驱动的行为。
Alex没有将安全视为支持性问题，而是将其视为企业将代理从实验转向生产时遇到的第一个制约因素。身份、权限、可审计性和可观察性——历史上都是为人类用户设计的——必须为能够发起工作流程、访问敏感数据和与外部系统交互的自主行为者重新构建。在他看来，这种转变不是渐进的；而是结构性的。
他强调了第二个维度：威胁行为者现在受益于企业使用的相同生成能力。LLM支持的攻击变得更难检测、更容易扩展且更具适应性。这迫使企业重新思考如何验证代理身份、监控代理间通信以及在HIPAA、SOC 2、ISO和类似框架下维持合规性。
Alex在此部分最尖锐的观察是当描述传统操作信号如何在代理取代人类点击后崩溃时：
"峰值来自哪里？这个错误来自哪里？可观察性、监控——这是一个挑战，所以你必须适应。"
— Alex Tyrrell，Wolters Kluwer健康部门高级副总裁兼首席技术官
基于这种框架，出现了几个实用见解：
- 代理身份成为一流的安全部件。企业必须能够验证哪个代理在操作、在什么权限下以及具有什么来源——而不仅仅是哪个人类用户启动了会话。
- 最小权限权限必须为自主行为重新设计。代理需要比人类操作员更窄、更明确的权限边界，尤其是在医疗保健和金融工作流程中。
- 可审计性必须扩展到机器发起的推理步骤。仅仅记录API调用已不再足够；企业必须能够追踪代理如何做出决策以及使用了哪些数据。
- 可观察性必须演进以检测非人类流量模式。传统监控无法解释机器驱动的峰值或由自主工作流程触发的跨系统级联。
- 合规框架必须包含代理行为。HIPAA、SOC 2和ISO控制必须通过自主执行而非人类中介工作流程的视角来解释。
Alex的总体信息是，代理式AI从根本上改变了安全态势。为自主系统现代化身份、权限、可观察性和合规性的企业将能够安全、可持续地在受监管环境中部署代理。
【全文结束】