本周，我们对企业代理型AI（agentic AI）有了更清晰的认识，但应该构建什么，如何构建？大模型（LLMs）需要不同的安全措施，而主动推理AI（active inference AI）正在改变对话格局。新的矛盾体：“Windows Intelligence”也值得关注。
头条故事 —— 企业应如何构建代理型AI？
Phil 对多个供应商的代理型AI进行了深入分析，最终归结为一个核心问题：我们应该构建什么？Phil 表示：
我的第一个见解是，所有关于代理型AI的讨论一旦去除营销炒作和烟雾弹，实际上非常简单。可以将这一代新的代理视为一种更灵活的用户界面，位于现有系统和数据之上。早期的聊天机器人和代理只能执行高度结构化的指令。生成式AI意味着这些新代理在从非结构化信息（如对话交互或文档集合）中提取意义，以及将可能的操作映射到预期结果方面要好得多。以前，你需要仔细映射代理需要执行的每一个步骤，现在你可以直接告诉代理，“遵循这组文档中写明的政策和流程，并选择能够产生预期结果的数据集中的操作。然后在继续之前回来让我批准。”
Phil 最后提到的“让我批准”这一点值得称赞，许多供应商对此轻描淡写。生成式AI代理比前一代更灵活，但也更不准确，尤其是在刚启动时。有时需要人工监督。供应商对此态度复杂：他们希望安抚人类员工，但又意识到人在回路中会影响投资回报率和生产力提升。我们将拭目以待。目前的关键在于，设计代理工作流很重要，并且会因用例的准确性和异常容忍度而异。Phil 还指出，数据质量是一个重要因素：
但是有一个很大的陷阱。代理履行请求的能力在很大程度上取决于底层系统的数据和自动化准确性和稳健性。这就是贝尼奥夫批评微软Copilot的原因。他认为Salesforce在跨应用理解和执行信息方面拥有比微软更强大的对象模型，我们将在几周后的微软Ignite大会上听到更多微软方面的观点。
Phil 几乎涵盖了我所有的代理评估标准，包括：
- 正确的设计和人工监督
- 代理调用的现有数据质量和可靠自动化
至于数据质量，它也可能表现为RAG（检索增强生成）和/或知识图谱架构的形式：
Asana 和 Atlassian 基于创建专有工作图谱提出了类似的论点，这些图谱映射了其应用程序管理的各种实体和关系。他们已经完成了将系统中的所有信息结构化的艰巨任务，这使他们的代理在理解信息方面有了先发优势。
尽管我对代理炒作持批评态度，但我确实喜欢通过重新组合现有自动化来实现“编排”的潜力，也许甚至可以即时组合不同的任务。那么，Phil，我们应该构建什么呢？他引用了最近的客户案例，每个软件供应商所谓的“低垂果实”。以Salesforce为例：
Salesforce 展示了一些Agentforce客户的案例研究，教育出版商Wiley和餐厅预订服务Opentable都通过自动代理释放了客户服务团队的大量资源。但这些都是高容量呼叫中心的例子，其中许多传入的问题非常相似，因此非常适合有效自动化。复杂的B2B销售可能会更具挑战性，需要更复杂的编排。
Phil 提出了一个警告：使用现有的确定性自动化可以提高生成式AI代理的可靠任务执行能力，但这样做时，我们错过了重新思考流程的机会。他引用了一位Atlassian活动的小组成员的话：
我们需要挑战当前的工作方式。我们不应该只是使用这种AI为现有流程添加人工智能，而是在最初就重新思考，这是否是我们明天想要的工作方式？
这是一个不应忽视的有效问题，许多初创公司可能会将其作为行动号召。让我们看看它们的表现如何。
Diginomica精选 —— 本周我在Diginomica上的顶级故事
- Diginomica数字职业报告 —— Mark Chillingworth 分析了两份新的职业报告
- 保护我们的海洋 —— 如何利用技术更好地支持和保护海洋生物多样性。Cath 在一个技术创新需求迫切的领域进行了报道：“Pieribone 引用了2022年为期三个月的红海探险，提供了生物多样性的基线。输出包括海岸线及其水域的测绘，确定了鱼类热点和垃圾水平。这导致了对渔业活动的限制和交通线路的调整，以保护野生动物。”
Diginomica风格的供应商分析。值得注意的收益报告：
- 微软因云增长预测令华尔街失望，AI资本支出增加 —— Stuart 报道了微软的云/AI策略及其回报：“分析师在财报电话会议上让纳德拉推销Copilot，但没有人质问他，因为Salesforce CEO 马克·贝尼奥夫最近几周对产品的严厉批评。”
- AWS季度运营收入突破100亿美元，收入同比增长50%，得益于生成式AI热潮 —— Stuart
- Confluent 收入运行率达到10亿美元，庆祝成立10周年 —— Derek
其他顶级供应商故事：
- “我想不到更好的生活方式” —— Larry Ellison 讲述为什么甲骨文致力于变革医疗保健 —— 我们在CloudWorld主题演讲中没有听到太多相关内容，但现在甲骨文又回到了其雄心勃勃的医疗保健话题。Stuart 深入报道，还提供了Safra Catz的更多背景：“为什么访问医疗保健不像购物那样无缝？很快就会变得如此，Safra Catz 说。我认为医疗保健数据问题难以解决，几乎无法克服。然而，我想到的许多更不紧迫的问题供应商一直在推动——所以加油吧。”
- IFS Unleashed '24 —— IFS CEO 称“你需要一个AI业务计划”—— Phil 审查了IFS的工业AI方法，以及为什么本地系统在AI采用速度上有一定局限。（是的，存在AI准备度——这看起来是什么样子，以及如何实现——应该是公司明年的一个主要关注点）。
- Camunda 在更高层次上进行编排 —— Martin 探讨了端到端过程编排的另一个角度，其中AI参与其中。
- 节日快乐，零售业的代理技术！Salesforce 的 Michael Affronti 讲述了零售商的AI代理计划，以及它们如何改变假期季节。这将很有趣……
一批新的Diginomica客户案例：
- UiPath 客户是否跟上了RPA机器人向代理的演变？—— Alyx
- 汉莎集团借助Celonis提升乘客体验 —— Derek
- Planful 帮助Otter Products 转变财务预测并快速做出决策 —— Alyx
- 重塑CX，将粉丝变成客户 —— San Jose Sharks 如何通过SAP CX改变客户体验—— Jon
Jon的杂谈 —— Chris 再次提出困难（但正确）的问题：关于AI政策，为什么英国急于取悦专制供应商？Mark Chillingworth 报告了一个重要的行业论坛，准备讨论AI文档和AI工厂（两个主要收获：需要AI人才，以及连贯元数据对数字和AI服务的重要作用）。最后，Stuart 又回到了他的老爱好之一：解析马克·扎克伯格。但这次有一个令人惊讶的转折：
常读本栏目的读者都知道，我对Meta CEO 马克·扎克伯格过去几年的许多言论并不感冒，但该表扬的时候还是要表扬——当华尔街的短期主义者围绕AI基础设施支出大喊“给我们看钱”时，扎克伯格毫不退缩。
确实如此。而且：
更多供应商也应该无愧于华尔街地传达这一信息。
企业网络最佳内容
我的七大精选：
- Change Healthcare 数据泄露影响1亿美国人 —— 有史以来最大规模的数据泄露引发了对这种敏感数据暴露处罚为何如此轻微的质疑（文章来自Krebs on Security）。
- 10个最关键的LLM漏洞 —— CSO Online 对新威胁环境进行了全面回顾。
- Constellation Research 2024互联企业大会 —— Constellation 年度CXO活动总是混合了顶级CXO关注点和一些意想不到的新想法。今年的焦点是——不出所料——AI项目的现实，以及如何协调潜在与（负责任的）AI结果。Constellation 的Larry Dignan 作了总结，并摘录了上周我们听到的一些AI讨论：AI数据中心建设是否是一种非理性的狂热？最颠覆性的想法来自主题演讲者Denise Holt关于主动推理AI，这并不是来自深度学习AI树。我的第二次现场播客深入探讨了这一重要性：CCE 2024播客回顾——主动推理如何撼动AI对话——与Esteban Kolsy。一种更分散的AI版本，较少依赖于目前企业市场集中度高的大数据/大AI？如果能实现，我也愿意加入。
- 液态AI如何挑战基于Transformer的AI模型 —— 来自The New Stack的另一篇AI文章。
- 忽视全球跨国公司的焦点 —— Lora Cecere 制定了大型全球公司的供应链指南。他们的使命不会轻松：“今天，规划解决方案很好地服务于小型区域团队，但对于全球跨国制造商来说，答案需要从多个技术解决方案中定制连接。没有好的答案。”
Whiffs
不确定这个潜在的品牌重塑：
微软可能会将其AI重新命名为Windows Intelligence而不是Copilot
如果真的这样，那么“Windows Intelligence”将成为有史以来最大的科技矛盾体……
—— Jon Reed (@jonerp) 2024年11月4日
我应该预料到这一点：
时尚模特靠边站，AI glamour bot 加入广告：AI加速内容创作
通往反乌托邦的跑道已经开放……
—— Jon Reed (@jonerp) 2024年11月4日
另一个产品可能需要更多“智能”：
充电器召回再次给Humane的备受争议的AI Pin带来坏消息
不是你想要的故障，但更大的问题是这款针状设备仍然不好用……如果你不介意花500美元等待手机上可以轻松获得的东西
—— Jon Reed (@jonerp) 2024年11月4日
如果你发现任何符合企业得与失标准的文章——无论是正面还是负面——请在评论中告诉我，就像Clive（几乎）总是做的那样。大多数企业得与失文章都是从我精心策划的@jonerpnewsfeed中选出的。
(全文结束)
