洛杉矶——德勤负责人比尔·费拉博士在MobiHealthNews的现场采访中，讨论了人类监督的重要性（尤其是在自主型AI能够随时间修改自身行为的背景下），以及计算机视觉作为医疗保健下一个重大前沿领域的前景。
MobiHealthNews： 您认为目前关于AI模型训练方式的透明度是否足够？
比尔·费拉博士： 不够。
我认为这是商业企业的本质。这是软件开发历史规范的本质——总是存在一个黑箱，而现在我们需要——我们要求——透明度。我认为这一进程可能比大多数人期望的要慢一些，但我们会达到的。
我们需要建立这些可信赖的框架。未来会有越来越多的压力要求开放，但目前我们还有很多工作要做。
MHN： 您认为我们正处于AI泡沫中吗？
费拉： 不。
MHN： 是炒作吗？
费拉： 不。我认为这是真实的，而且会持续下去。仅看医疗保健领域，在2022年11月ChatGPT问世之前，几乎没有人知道生成式AI是什么。而如今，我们临床医生群体中已经有大量使用环境文档的情况。医疗保健正引领技术应用，而这在医疗领域通常不是我们擅长的——我们往往不是技术的先行者。
因此，如果考虑已经使用生成式AI的人数，已经相当可观，而紧随其后的是自主型AI，这是另一个巨大的进步。所以，我们有了生成式AI的上下文设置，现在不到三年后，我们又有了推理能力。
回到你关于透明度的问题，我认为我们将经历一段摸索如何治理这些强大技术的时期，但我不认为这是炒作，也不是泡沫。我认为我们将继续看到广泛的应用和规模化。
我认为我们将看到更多编排，随着真正的智能体开始负责任地部署，我们还将看到智能体之间的编排越来越多。
看看供应商与供应商之间的智能体如何互动，以及我们是否会看到更多在基础设施平台（无论是云平台还是本地平台）上构建的成果，这将非常有趣。但我认为我们将看到更多填补内部应用智能体化空间的构建工作（如果你愿意这样理解的话）。
MHN： 当您考虑医疗系统和护理提供者如何确保AI的应用利大于弊时，您会向他们提出哪些建议？
费拉： 我们认为所有这一切的难点在于监控。构建很有趣，说“嘿，我建了这个！我做到了！”也很有趣，但六个月后它会发生什么？
MHN： 而自主型AI会改变自身。
费拉： 是的。它正在自我建模，自主学习。因此，必须确保实时引导、监控并指出这些差异，从而确保你提供反馈。
当我听到人们……时，我有时会感到有点紧张——我们仍然会有很多自我参照学习，但在某些层面上，它仍然需要由人类观察。
但我认为，人们需要弄清楚如何继续做这件事，这才是难点。
MHN： 您对计算机视觉有什么看法？
费拉： 这是个好问题，因为显然每个人都想谈论大语言模型，这有充分的理由——它们目前对人们来说最容易接触。
但我认为，我们接下来将切实看到的创新来自计算机视觉——预测跌倒的能力、预测暴力的能力、以自然方式帮助医院提高吞吐量的能力。我们看到一些在这方面有所投入的医院获得了相当可观的回报。
我认为下一件大事就是面部识别，自动完成所有患者登记，甚至不一定需要使用智能体或虚拟形象，仅靠人脸就能完成所有工作。
MHN： 您所说的预防暴力是什么意思？
费拉： 这些模型现在可以预测个体的激动情绪，或者通过观察他们的移动方式预测攻击性。这是它们能够做到的事情之一。不幸的是，随着针对护理人员的暴力行为增加，我们必须对此保持警惕。
当我们审视创新视野时，大语言模型已经存在，人们正在使用它们。计算机视觉即将到来，而我认为，物理AI结合机器人技术将继续加速发展，这将是我们看到的第三个视野。
【全文结束】