人工智能(AI)正在重塑医疗保健领域——从诊断到医院运营。然而监管严重滞后。对于临床应用来说不可或缺的信任，目前仍然参差不齐。大多数框架聚焦于系统设计或合规性，忽略了在日常诊疗实践中医患建立信任的真实场景。
新加坡在医疗AI领域的实践既体现了进步也暴露出挑战。2018年发生的Singhealth网络攻击，作为该国最严重的数据泄露事件之一，导致近150万名患者记录被窃，暴露关键基础设施漏洞。YouGov 2023年调查显示，仅14%的新加坡居民愿意接受AI心理健康咨询。2021年卫生部发布的《医疗AI指南》虽提倡可解释性、人工监督和风险沟通等保障措施，但这是朝着构建信任而非单纯合规的重要一步。
这些发展表明更广泛的紧迫性：监管必须突破固定标准，拥抱部署阶段的信任闭环机制——动态且情境感知的机制需与临床现实共同进化。医疗监管必须具备响应性、可观测性和嵌入性——而非仅停留在立法层面。
信任无法事后修补
放射科医生在接受AI生成的扫描解读前迟疑；护士覆盖AI生成的分诊警报；患者询问"谁在查看我的数据？"这三个场景并非系统错误，而是重要信号。当系统与现实需求不匹配时就会产生信任摩擦。"设计即信任"理念有所帮助，但监管必须持续且以反馈为导向，而非基于假设。
npj Digital Medicine 2025年研究发现，持续监测管道和重新训练流程正迅速成为主要运营成本，而应对数据模式变化("数据漂移")的调整，给没有专职工程团队的机构带来额外压力。这印证了需要可扩展且情境敏感的信任闭环机制，否则资源丰富机构与小型医院之间的能力差距将加剧。
操作层面的信任呈现
操作信任指AI系统在真实临床环境中透明、负责任且可被一线人员使用的性能表现，包含：
情境可解释性： 住院医生能否实时理解和质疑AI输出？AMA 2025年调查显示，68%的医生认可AI工具价值，47%认为医疗从业者监督是建立信任的关键监管步骤。新加坡中央医院的AI2D模型(传染病增强智能)是临床AI情境可解释性的典范。该工具通过实时患者数据帮助判断肺炎是否需要抗生素治疗，在早期验证中达到90%准确率。在实验室结果出来前提供治疗建议，支持而非取代临床判断，通过及时可解读输出建立信任。
动态可追溯性： 病患交接时预测结果能否追溯？Nature Medicine 2022年研究显示，败血症预测模型部署数月后性能下降17%。这凸显可追溯性的重要性：当环境变化时需要实时追踪模型表现。新加坡aiTriage和CARES 2工具通过记录时间戳并嵌入临床记录，使医护人员在交接或随访时能验证过往建议，既支持问责又强化人工判断。
终端用户反馈机制： 一线使用者能否标记危险模式并协助优化算法？SingHealth的Note Buddy实时转录多语言问诊，减少行政负担实现更专注护理，是通过界面融合建立信任的例证。
东南亚作为信任实验室
东南亚地区正通过实践而非仅政策推动治理创新。新加坡卫生部主导的TRUST平台首年已支持40个匿名化国家级医疗数据集，107个用户中完成17个数据请求。AI Verify国家测试框架通过2025全球AI验证试点项目应用于临床场景，结合技术测试与流程检查评估公平性、稳健性和透明度。
在泰国，Typhoon2-Safety分类器的发布强化了泰语大语言模型输出的文化适应性边界。这类工具对心理健康支持、分诊助手等患者端生成式AI应用尤为重要，因为语言精确性和文化敏感性关乎安全与信任。
构建持续影响力需要治理基础设施——由供应商、医疗机构和监管者共同设计——将责任和信任嵌入日常流程。公共采购可通过将奖金或偿付惩罚与临床覆盖率、诊断错误减少率和患者体验(PREM)得分等核心KPI挂钩来锁定信任要素。
信任实施原则
在AI运营核心建立信任需要机构领导力。透明度、问责制和用户一致性不会自动出现，领导者应通过以下行动制定部署、评估和改进标准：
- 构建信任： 在公共部门AI招标中嵌入操作信任指标，如要求供应商追踪临床覆盖率、PREM评分和诊断错误减少率
- 用户共设计： 将细粒度隐私控制和患者咨询输入嵌入每个设计迭代
- 区域协调： 借助东盟和APEC平台协调部署治理
- 投资治理素养： 如新加坡医学人工智能中心(C-AIM)通过人工智能科学倡议嵌入安全、伦理和实操原则
AI可以变革医疗保健，但前提是必须获得信任。信任并非静态状态，而是通过情境、反馈和使用构建的动态过程。未来医疗AI的治理必须自下而上——让信任通过真实体验建立，而非仅停留在设计理念层面。
【全文结束】
