每周，超过2.3亿人转向OpenAI的服务寻求健康指导。这是众多平台之一，已经在美国Anthropic公司的Claude面前在使用量上被超越。大型科技平台继续大规模推出AI健康助手，亚马逊的最新AI代理是最新被整合到数百万用户使用的应用程序和设备中的产品。
医疗保健正从间歇性互动转变为连续的对话式支持。随着AI进入护理交付领域，设计将决定它是改善还是复杂化护理体验。最有效的系统并不总是技术最先进的。它们将是人们可以轻松使用、输出清晰且可操作、护理路径保持连贯的系统。
AI已经在加强医疗保健能力。在诊断成像方面，由AI支持的乳腺筛查已在大规模研究中证明提高了检测率并减少了假阳性。这些改进有望显著提高放射科医生工作过载患者的早期检测率。
在护理交付方面，诸如英国家庭护理提供商Cera等组织因将医院入院人数减半，据称每天为英国国家医疗服务体系(NHS)节省约150万英镑而受到赞誉。实际上，这些系统已经作为能力倍增器发挥作用。它帮助医疗保健系统在不稀释临床质量的情况下，利用已有的专业知识做更多事情，扩展覆盖范围。
为医疗保健设计安全、可用的AI
随着越来越多的人开始向对话式AI咨询健康问题，使用情况暴露了需要改进的领域。算法摘要在某些情况下产生了误导性或潜在不安全的医疗建议，促使进行更正和移除。
AI系统可以产生答案，但它们仍然不可靠地向临床医生安全地采取行动信号其答案的自信或不确定程度。当这些系统被用作大规模决策层时，向用户展示不确定性的方式至关重要。它决定了AI输出是转化为安全的临床行动，还是引入了可避免的风险。
设计成为使AI行为在医疗环境内安全、清晰和可用的机制。它定义了AI可以做什么的边界、它如何与临床医生协作以及患者如何体验护理。为了使AI健康助手在大规模上安全且有用，这些系统必须以与其他医疗基础设施部分相同的严谨性进行设计。四个原则可以始终塑造更安全的结果：
- 使信息的来源和置信度可见。每个主张都应可由临床医生和患者验证和理解。这有助于缓解AI幻觉问题，即系统可以生成实际上不存在的来源或参考。
- 在决策有风险时添加停顿。传统医疗保健嵌入了停顿、第二意见和诊断保障措施。对话系统移除了许多这些保障措施。作为设计师，我们的工作是恢复停顿并保留传统护理中建立的安全性。
- 将安全视为核心基础设施。使用高质量临床数据，持续监控性能，并让人类参与其中。医疗保健AI应像安全关键服务一样运行。
- 在真实世界中测试AI并公布结果。例如，NHS处于独特位置，可以主办大规模试点，评估临床结果、升级路径和患者体验。随着透明报告，公众信任将增长。
安全有效地增强临床医生的系统
世界经济论坛的一项分析报告称，临床医生对AI可以改善结果和工作流程持强烈乐观态度，为共同设计创造了肥沃的土壤。现在的机遇是将这种势头转化为安全有效地增强临床医生的系统。
对话式AI正成为医疗保健结构的一部分，而设计现在正塑造其行为。在大规模上，该设计层决定了AI是改善护理还是引入不必要的复杂性。
现在重要的是这些系统如何在真实临床环境中部署。这需要在实时环境中进行结构化评估，以及对如何处理不确定性、升级和来源透明度有更明确的期望。设计团队还需要更早地参与临床和产品决策，许多安全性和可用性权衡首先在这些决策中做出。
在日常使用中使安全性可见和可衡量，是将能力转化为可靠的临床工具的关键。早期嵌入这些做法的系统最有可能在临床环境中提供一致、可靠的价值。有了这些元素，对话式AI有一条明确的路径，可以成为医疗保健交付中可靠的一部分。
关于作者
作为AI执行董事，Nayan Jain正领导ustwo公司的AI创新战略。作为技术先驱和企业家，Jain共同创立了健康科技初创公司Heartbeat Health和Leo Health，并曾是Rally Health的创始工程师。他曾在奥巴马总统任内的白宫担任总统创新研究员，并在健康科技领域获得过其他奖项，包括2012年在旧金山举行的Health 2.0世界开发者杯中，因创建新兴健康Twitter机器人而获得第一名。
【全文结束】
