目前担任奥尔堡大学人本计算研究组的副教授,尼尔斯·范·贝尔克是人机交互研究领域的杰出领导者。他在荷兰和澳大利亚多所大学、美国微软研究院以及伦敦大学学院交互中心的学习与工作经历,使其接触到多元化的概念与思维方式,进而专注于改善终端用户与技术的交互体验。
他近期发表在《人机交互学报》的重要论文《测量、算法与现实呈现:人工智能决策支持的交互框架》,对人机交互(HCI)领域的研究者和实践者具有重大意义。该研究剖析了人工智能技术应用于临床实践时产生的挑战,并据此创建了MAP(测量、算法、呈现)模型。该模型通过对比医疗人员对现实场景的常规解读方式,与AI系统实现有效解读并以可操作形式向临床医生呈现结果所需的步骤,系统阐述了AI支持系统的三大核心环节:测量环节通过数据集描述和记录现实世界现象;算法环节将采集数据转化为有效结果信号;呈现环节则将结果传达给用户。结肠镜检查与痴呆诊断的案例研究验证了该模型,凸显人机交互专家需更深入参与AI系统设计的紧迫性。
MAP模型的首个要素"测量"聚焦数据及其推断需求。对医疗专业人员而言,数据收集等同于患者观察,而计算系统需将此类信息转化为数字数据。心率监测仪即是典型应用:心电图对心脏电活动的测量被转换为数字信号,由专业操作员解读。然而,这种解读中的人为因素正是构建AI医疗系统的主要挑战来源。尼尔斯团队指出,选择恰当的计算表征以识别患者真实状况、整合多源数据以及评估数据完整性与有效性,是构建重视"测量"环节的AI医疗系统的核心难题。
模型中的"算法"环节涉及日常医疗中需进行的计算,以兼顾即时判断与长期预后。评估患者脉搏的过程最能说明问题——通过观察计算每分钟心跳次数,并依据患者年龄性别判断心率是否正常。当转向AI应用时,依赖历史数据和分类算法会引发多重隐忧:训练数据能否真实反映问题情境?算法是否具备可复制性?计算过程能否优化以提升结果?这些都是关键考量点。
模型最后的"呈现"环节关乎系统向用户高效传递信息的能力。尽管人机交互研究近年深入探讨了呈现力,却较少关注其在AI驱动医疗行业中的重要性。鉴于医疗环境瞬息万变的特性,为此构建计算系统面临三重挑战:确保结果的可解释性、支持不同层级医疗人员的协作、以及满足时效性这一根本需求。
以结肠镜检查实践为例,该案例应用于AI辅助内窥镜医师识别结肠息肉的实际场景。在"测量"环节,系统仅能识别内窥镜视野中的息肉,这种表面提示无法根本解决息肉漏检问题——因AI仅能识别已暴露的息肉,却无法探测隐匿部位。真正反映现实挑战的系统,应能辅助医生确保结肠检查全覆盖。"算法"环节中,临床合作者担忧AI决策支持系统可能产生假阳性误报:现有系统常将结肠内的气泡、粪便或黏膜褶皱误判为息肉。由于这些特征频繁出现,系统极易干扰操作员,导致医生忽略正确建议甚至关闭系统。此类误报源于训练数据集的不完整性,使AI难以区分结肠异常与真实息肉。"呈现"环节则凸显两大问题:一是结肠镜检查需医护团队协作(如护士负责器械递送与患者镇静),当前AI系统缺乏对团队协作的支持;二是近实时视频帧分析需强大算力,任何延迟都会削弱系统价值,因医生操控内窥镜时需要即时反馈。
尼尔斯团队的论文深刻论证:将AI系统引入医疗领域必须慎之又慎,毕竟这关乎人类最珍贵的生命。MAP模型通过三阶段框架,以AI视角形式化解读医疗现实,系统梳理了构建此类系统必须考量的多元复杂要素,为医疗AI的发展指明了关键路径。
【全文结束】

