AMP25会议周五上午的开幕全体会议为当天的深入讨论奠定了基调。塔昆达·马托塞博士就人工智能在医疗保健领域的应用发表演讲，呼吁用户和利益相关方从当前应用中抽身，进行更审慎的思考。
作为受过专业训练的生物伦理学家，马托塞博士任职于辛辛那提儿童医院医学中心/辛辛那提大学医学院，专注于医疗公平、健康不平等及研究伦理领域。他开篇即从伦理定义切入，点明演讲核心主题：需关注影响群体整体的道德实践，或为全体利益采取集体行动的相关准则。
他首先质疑研究人员对患者、参与者及公众所承担的责任，以及这些责任如何影响医疗AI工具的开发与应用。随着研究能力的演进与提升，特别是AI技术日益普及，数据收集能力显著增强，各方正尝试整合并利用所有数据。研究者普遍信奉"数据越多越好"的理念，认为只需获取更多数据，医疗界便能得出最完整的答案。马托塞对此提出异议，指出多数数据实际未被充分利用；增加数据量未必改善结果，反而会产生边际效用递减。理想的研究应减少对广泛回顾性数据的依赖，更多聚焦于开发针对特定问题的前瞻性研究方法。这一转变要求重新审视数据收集范围、数据规模及其使用方式。
AI作为完成复杂任务和加速研究发现的工具，在科研中应用日益广泛。马托塞解释道："人工智能本质上仅是执行复杂计算概率的工具——这些概率会随输入数据增多而改变，也会因使用者采用的不同分析流程而变化。每个环节都将影响最终产出结果。"他补充说明："在概率计算方面，人工智能表现卓越，而我们人类恰恰不擅长此道。"
尽管AI在数据分析能力上显著优于人类，但其表现受限于偏见问题。虽然偏见常被视为系统"漏洞"，但在系统参数选择的语境下，它也可视为一种"特性"。
"偏见不可避免"
马托塞指出："偏见本质上就是这些系统的运行参数，它源于我们设计系统时的所有决策。"选择训练和验证AI的数据集本身即存在固有偏见，数据标注过程更会引入额外偏见。这些偏见并非必然有害，但需经过严格审查与修正。鉴于偏见类型多样，不存在单一解决方案可消除系统中的所有偏见。"这些因素都会限制我们最终获得的结果，"他强调。
干预时机对处理偏见至关重要。"偏见出现的时间点决定了干预时机的重要性，"马托塞指出。他进一步解释，即使开发出完全规避偏见的最精准算法，AI应用后仍可能有新偏见渗入系统或项目。
无论偏见是否存在（他认为其永远无法完全消除），AI均有其固有局限。马托塞提出需审慎评估AI概率能力的关键问题：数据与AI解读的"准确性"究竟意味着什么？模型的预测价值如何？真阳性和真阴性在分析中是否被过度加权？假阳性和假阴性发生率是多少？他解释道，模型适用于历史数据不代表其能有效预测未来。
尽管存在局限，AI作为概率推理工具仍具有超越人类的根本优势。他警示需谨慎引入人类参与AI系统："若人类会带入系统原本不存在的额外偏见，我们就必须审慎决定是否让人类重新介入决策循环。"
伦理归宿
他明确表示："或许我们并不需要让人类始终参与决策过程，至少应认真思考在哪些关键节点需要人类介入。"
马托塞在演讲尾声探讨了研究者应聚焦的核心伦理问题。首先，他质疑我们应如何对待那些无法从普惠性实践中受益的社群个体。"总有人无法获益，总有人无法适用这些技术，"他解释道，"任何事物都有失败率。"
除患者考量外，马托塞还强调需关注医疗提供者、家庭等所有利益相关方的权益。讨论AI及其系统实施时，必须纳入多方需求与角色定位。AI产品常具有独特功能与产出，如何将其连接整合供患者和医护人员使用至关重要。
他提出医疗场景中应用AI的两种路径：垂直整合（集中访问权限以减少暴露点）或互操作性（分散控制权使多方可访问系统与数据）。每种方式各有利弊，需保持清醒认知。"无论何种决策，都将面临取舍。"
未来方向
应对数据处理与概率推理两大挑战，需采取多元策略。认识到数据仅在聚合状态下有效，且某些社会事实可通过适当工具实现去标识化，这意味着亟需构建新的监管与概念框架。
AI工具通过概率推理将数据转化为预测结果。尽管其推理能力优于人类，但仍易受误差或不确定性影响。在解释研究发现意义、工具开发过程、局限性及研究方法选择时，算法不确定性沟通至关重要。
马托塞倡导与患者及其他利益相关方加强沟通："患者掌握着诊室之外的丰富资源。"他警示道："当前决策的后果比历史上任何时期都更重大。正因如此，思考人类自主裁量权比单纯将人类纳入决策循环更为关键。"
将人类置于设计中心是马托塞的核心建议。"一切要么源于人类，最终必将触及人类。"他满怀信心地总结："这必将导向更优质的临床体验与治疗成效。"
【全文结束】
