摘要
人工智能（AI）常被描述为医疗领域的变革性技术，有望增强临床决策、简化工作流程并提高诊断精度。然而，其融入医疗实践的过程受到复杂且常显模糊的“信任”概念的塑造。尽管信任在AI领域已成为跨学科反复出现的主题，但对该术语不同概念化的系统分析却很少。本文通过一项跨学科范围综述，考察了信任、可信赖性、不信任和怀疑在医疗AI文献中如何被阐述，从而填补了这一空白。基于从六个数据库（Web of Science、Scopus、PubMed、PhilPapers、SocINDEX和ACM Digital Library）检索到的82篇出版物（2015–2025年），本文绘制了信任被定义、测量或问题化的方式，并识别了形成这些方法的概念、认识论和学科边界。分析提出了五种不同的概念化：信任作为一套可设计的“原则”，信任作为“态度”或“信念”，信任作为认知/情感或人类/技术之间的“二元对立”，信任作为不确定性中的“结构机制”，以及信任作为嵌入社会技术系统中的“关系过程”。这些框架揭示了信任是如何被当作一种可工程化的属性、一种可校准的行为或一种可培育的关系来对待的——往往脱离了临床实践。然而，在文献中，表现为不信任、怀疑、过度信任和信任不足的“信任失衡”现象理论化不足，通常被描述为需要克服的障碍，而非需要分析的现象本身。通过引入这些不同的概念化，本文论证了医疗AI中的信任与其说是一种稳定状态，不如说是一种动态协商，揭示了权力关系、不确定性和制度依赖。将不信任和怀疑视为具有分析价值的概念，有助于更反思性地理解信任如何在医疗领域中被执行、分配和争议。本综述为一项新兴工作做出了贡献，该工作将信任重新定义为并非技术采用的前提条件，而是一个充满争议的动态概念。
1 引言
人工智能（AI）常被描述为医疗领域的变革性力量，旨在融入众多领域和用例（Shaw et al. 2019; Goirand et al. 2021）。信任影响AI——一种大多数人无法理解也无法解释的技术——如何在临床实践中传播。AI系统的开发和实施基于（隐含的）假设：必须建立信任才能使这些技术有效运作（Bareis 2024; Lekadir et al. 2025）。研究一致认为，没有信任，AI系统在实施或使用中都有失败的风险（Steerling et al. 2023; Hassan et al. 2024）。
信任概念植根于社会学和哲学悠久的学术传统。社会学论述，例如Simmel（1900）和Luhmann（1989），将信任视为一种核心社会机制，通过降低复杂性、允许人类在不确定情境中行动来发挥作用。道德哲学强调，信任基于对他人能力以及不伤害我们关心之事意愿的假设（Baier 1986）。与此不同，O’Neill（2002）认为，重点应放在使机构和代理人值得信赖上，而非鼓励人类更多地信任。
人机交互和AI伦理领域将这些争论扩展到了技术领域。近期关于AI系统（包括医疗应用）中信任的研究表明，用户信任取决于情境、用户特定和系统层面的因素，且社会伦理条件塑造了用户与AI系统之间的信任关系（Bach et al. 2024; Lahusen et al. 2024）。这些讨论的核心观点是，AI应被理解为一种社会技术系统，其中利益相关者关系、对伦理行为的感知以及制度安排影响着感知到的可信赖性、接受度和采用率（Jasanoff 2004; Procter et al. 2023）。
Malja和Afrasiabi（2025）近期的一项系统综述强调了AI的社会维度，指出“AI并非孤立运作；它与社会制度、权力动态和文化规范相互作用并重塑它们”（第2页）。他们的分类将信任和透明度视为核心，并将两者与可解释性联系起来，作为促进信任的方式。这表明，即使是关注AI与社会、文化和伦理结构纠缠的研究，也将不信任视为可通过解释来解决的知识差距（Wynne 1992）。
AI系统中的信任主题已受到多个学科越来越多的关注，但其研究尚未以关注不同概念化的方式得到统一考察——尤其是在医疗领域（Tucci et al. 2022; Albahri et al. 2023）。医疗技术长期以来一直中介着临床决策、专业权威和患者关系（Robinson 2016; Hardon and Moyer 2014）。本综述将AI置于这些技术的更广泛生态系统中，AI参与了委托、责任和不确定性的现有动态。然而，其不透明性、可扩展性和感知到的自主性提出了关于问责和信任的新讨论（Ananny and Crawford 2018）。因此，研究医疗AI中的信任有助于洞察既有的专业知识模式、决策过程以及患者与医疗专业人员之间的关系是如何构成的。医疗领域为考察AI中的信任如何被构建和协商提供了一个特别具有说明性的背景。临床决策发生在高风险环境中，情感强度、以患者为中心的责任以及重大伤害的可能性交织在一起。此外，既有的专业等级制度和机构规范塑造了信任如何在利益相关者之间表达、评估和分配。这些因素使标准信任框架复杂化，揭示了在其他领域可能不明显的紧张关系和偶然性。
2 目标
基于一项跨学科范围综述，本文深入探讨了信任如何在研究环境中被构建、争议和批评。我们并非预设信任，而是探索不同学科和方法论方法如何定义和参与医疗AI中的信任。这些不同的概念化和信任失衡对如何在研究以及临床实践中对待信任具有影响。
本综述由两个研究问题引导。首先，我们问：医疗领域的AI信任如何被理解——从哪些视角、采用哪些方法？其次，我们问：医疗AI信任研究图景中缺少哪些视角？
如果不将信任的不同继续翻译
如果不将信任的不同概念化带入对话，医疗AI的研究可能会模糊信任如何在临床实践中形成，以及谁来决定一个系统何时被认为是值得信赖的。设计选择、专业责任和机构指南都影响这些判断。缺乏概念清晰性也会产生实际后果：根据监管标准或技术标准（如可解释性、可靠性或透明度）被认为值得信赖的系统，如果其推荐与临床直觉或既定惯例相冲突，在实践中仍可能遭到犹豫。利益相关者可能通过法律责任、合规指标或情境有用性来评估可信赖性。这些不同的视角表明，医疗AI中的信任是有争议的、依赖于情境的，并由多种认识论塑造。
通过绘制信任如何在学科边界之间被构建，本综述旨在识别不同的框架以及概念盲点，有助于在医疗背景下对AI中的信任进行更反思性和批判性的参与。我们的目标是描述性的：我们不提倡所有概念化，而只是旨在绘制、描述并明确说明信任、可信赖性及其失衡是如何被讨论的。
3 方法
我们采用跨学科方法，在六个数据库中进行了一项范围综述，以纳入多样化的学科背景和视角。我们旨在探索概念上异质、跨学科和方法论多样的研究图景，而非综合可比较的实证结果。为了以结构化但灵活的方式处理这一问题，范围综述比系统综述、荟萃分析或叙述性综述更为合适（Levac et al. 2010）。
我们检索了Web of Science、Scopus、PubMed、PhilPapers、SocINDEX和ACM Digital Library，使用的检索词是与大学图书馆信息专家反复迭代开发的（见附录）。检索聚焦于三个关键概念：信任、人工智能和医疗保健。我们优先考虑标题中包含“信任”或“可信赖性”的论文，并纳入那些在标题、摘要或关键词中提及“不信任”或“怀疑”的论文，因为这些通常表明对概念有更深入的参与。纳入的出版物需全文可获取、以英文撰写、发表于2015年至2025年1月之间，并被归类为科学文章、立场论文、预印本或社论。筛选工作使用Rayyan.ai手动进行。
去除重复后，根据标题和摘要筛选了1253篇出版物。论文排除标准包括：主要关注AI的技术或工程方面、非医疗背景、未涉及信任相关概念（信任、可信赖性、不信任、怀疑），或仅将AI作为方法而非研究对象。由于部分数据库不允许仅限标题检索，我们额外排除了那些标题中未提及信任相关术语的论文，除非摘要或关键词中出现“不信任”或“怀疑”。此筛选得到418篇文章。为确保标准一致，RRRF、BP和HSP独立筛选了同一随机样本的25篇论文。分歧经集体讨论后用于完善排除标准，直至达成共识。其余筛选由HSP完成。根据范围综述的迭代性质（Levac et al. 2010; Peters et al. 2015），我们引入了一个额外排除标准。我们将综述范围缩小至关注医疗专业人员的文献，广义上定义为非患者或公众的参与者。这反映了专业人员决定AI系统是否以及如何在临床环境中实施的核心作用（Ayorinde et al. 2024; Boag et al. 2024）。此步骤后，剩余251篇论文进行全文筛选。
在全文筛选中，我们排除了那些仅考察人与人之间信任、缺乏实证或分析发现、或仅表面提及信任而无概念参与的论文。此过程最终纳入82篇出版物。最终文献集通过ATLAS.ti进行归纳性定性编码，重点关注信任的概念化、信任和可信赖性的定义、对法律或监管框架的引用，以及关于信任失衡的讨论——即信任受到挑战、妥协或重构的情况。然后我们比较这些编码，以识别模式以及概念上的重叠和张力。
4 结果与讨论
4.1 信任与可信赖性的概念化
考察所综述文献中信任的概念化方式，揭示了由学科和方法论方法塑造的一系列视角。这五个信任概念化集群并非互斥，而是作为透镜，用于揭示医疗AI中信任如何被构建的紧张关系、重叠和组合。这些概念化之间的模糊边界反映了信任的认识论和实践复杂性，我们的映射将其凸显为理解信任如何被协商而非被明确界定的一个富有成效的场所。
4.1.1 通过原则建立信任
第一个集群（30/82）将信任概念化为由AI系统及其环境的属性构成，可信赖性被视为一种整体属性。这些属性通常通过原则来形式化。在这种观点中，一个值得信赖的AI系统是遵循某些预定义品质的系统，例如可靠性或可信赖性。这些原则通常以列表、指南或框架的形式出现，表明可信赖性可以通过量化过程来操作化或测量。其中，可解释性、透明度、可理解性、验证、数据质量和完整性被引用最频繁。然而，即使满足了一个所谓可信赖系统的原则，也不意味着利益相关者会信任该系统。因此，方法还需要涉及信任在实践中如何被理解和沟通。此外，操作化某些原则的冲突方式以及满足这些标准往往引入新的复杂性。例如，一些出版物将可解释性等同于可信赖性，仿佛提供解释就足以使系统值得信赖。然而，存在多种方式和不同层面使模型变得可解释，这表明原则很少被普遍定义。因此，满足可解释性原则以实现可信赖性已经比通常呈现的更为复杂。这显示了基于原则的方法的局限性，该方法假设某些属性可以被勾选以使系统值得信赖。此外，一个模型可能在技术上是可解释的，但在临床推理中却不可理解；在统计上得到验证，但在患者护理的现实中却没有令人信服的证明；在系统层面是透明的，但在决策时刻却不透明。因此，利益相关者可能认为系统在满足预定原则方面是值得信赖的，同时却因为系统在实践中未能满足关系、伦理或道德期望而保留信任。
4.1.2 信任作为信念，信任作为态度
第二个集群（12/82）将信任理解为对AI的信念或信心。这种观点将焦点转移到信任者主动接近AI系统的部分。通常基于指南、性能标准或设计原则，它将信任系统的信心与信任者相信系统能力的信念联系起来。这假设信任者认为如果一个系统满足某些属性，它就是值得信赖或可靠的。类似地，许多论文（19/82）也将信任视为信任者的一种态度，强调他们愿意信任。与前者将信任视为原则不同，这里信任是由人类向系统提出的。这意味着信任者必须相信那些被认为等同于信任的品质是合法的，甚至主动决定向AI系统授予信任。一部分出版物认为，信任也可以授予不可信赖的系统，因为信任最终取决于人类愿意信任的意愿。这强化了信任作为人类行动与可信赖性作为系统属性之间的区别。其他作品强调，信任者必须愿意将自己置于脆弱状态。然而，这种信心在实践中是如何形成的，以及不同利益相关者在定义信任基础原则方面的作用，并未得到进一步探讨。虽然这一子群经常使用技术语言提及原则和指南，但也使用了“善意”或“信仰”等术语，表明可测量属性与更不透明的人际动态之间存在张力。此外，这种信任方法涉及通过与系统互动而做出的积极决策，暗示信任者承担一定责任。它隐含地假设他们可能因缺乏信任意愿而部分受到责备，或者在不应信任系统结果的情况下因信任而承担责任。因此，这将对用户的伦理责任置于开发者以及塑造系统设计的制度结构之上。这种由技术或制度利益相关者忽视临床实践中人际关系的肤浅参与，可能导致对塑造AI系统开发的结构和个人的问责不足。
4.1.3 信任的二元概念化
第三个集群（7/82）提出了信任的二元概念化。例如，认知信任被框架为“理性的”，基于关于系统性能或功能的信息，而情感信任被呈现为“本能的”和情绪化的。这种二分法假设人类在做出信任决定时能够将“理性”与“情感”分开，基于明确区分的假设。类似的二元区分出现在关于信任与可靠性的讨论中。在这种框架中，信任是由用户授予的东西，而可靠性是由系统提供的东西。因此，一些学者认为，AI系统作为非人类代理人，在道德或伦理意义上不能是值得信赖的，“依赖”是更合适的术语。这些关于信任的二元概念化未能充分解决信任关系在医疗领域带来的复杂性。什么算作值得信赖与多种因素相关，例如涉及的利益相关者、模型特征以及AI的社会、制度和组织背景。由于这些因素相互影响，在实践中无法将理性与情感明确分开。不考虑医疗领域的多样性，有可能将政治和基础结构安排呈现为实践的中立表征。例如，将信任分类为认知和情感类别简化了信任过程发生的复杂和混乱的关系，并预设信任可以从一个明确的角度被解释、沟通，然后分类。
4.1.4 信任作为结构机制
第四个集群（11/82）从哲学和社会学角度概念化信任。在这里，信任作为一种隐含协议发挥作用，其中信任者接受脆弱性作为与受托人关系的一部分。焦点在于人类与系统之间的关系，信任作为一种结构机制。然而，这些概念化通常依赖于抽象的二元或三元模型，旨在适用于并可转移至大多数系统。这种框架常常脱离实践，未能承认信任不仅存在于用户与AI系统之间，或者以扩展方式存在于AI开发者之间。因此，这一视角忽视了这些关系嵌入的更广泛社会文化和制度背景。类似地，一些论文将信任视为在不确定性条件下具体化的结构机制。在医疗领域，充满复杂决策，信任作为对不确定性的必要回应，与风险相关。这种概念化隐含地考虑了社会技术系统，并包括在同行、专业社区、机构和更广泛公众中流传的期望、规范和评价，这些塑造了什么被认为是值得信赖的。在实践中，医疗专业人员已经依赖对同事、机构和技术的隐含信任来做出决策。
4.1.5 信任的关系性描述
最后一个集群（15/82）将信任置于社会和制度背景中，认识到其嵌入复杂的社会技术系统——要么隐含，要么明确。这些出版物将信任框架为通过不同行动者之间的互动和协商共同产生的，强调了医疗AI中信任关系的情境依赖性。Maheshwari等人（2024）给出了制度性信任的描述，描述了信任如何嵌入“机构内部和跨机构”的网络中，而Winter和Carusi（2022）则专注于信任的情境依赖性特征，强调AI中的信任不能与社会实践分离。这些视角提出了更批判性的信任描述，并超越了当前医疗领域占主导的技术乐观主义视角。一些论文考虑了认识论问题，而另一些则关注围绕信任的实践，这些实践塑造了不同行动者之间以及人与AI之间的关系。这些视角强调，AI中的信任是通过物质和社会关系形成的。从社会技术系统视角审视信任，为质疑哪些视角在研究图景中被听到、理解和缺失提供了基础。这包括关注该领域的权力关系和专业知识层级，并将信任的概念化理解为具有伦理和政治负载。
4.2 信任失衡
考察信任的概念化也提供了机会，以参与那些对信任的线性或概念清晰性提出质疑的场合，例如提及不信任和怀疑。我们将这些时刻称为“信任失衡”——即信任受到挑战、协商或破坏，无论是有意还是无意。
4.3 过度信任与信任不足
一组论文提出了“最优”或“适当”信任的概念。根据模型和情境，它暗示每个AI系统都有一个“正确”的信任量，从而将偏离适当信任视为有问题。此外，许多论文提到“过度信任”和“信任不足”。过度信任是指对系统投入的信任超过合理程度，而信任不足是指给予的信任少于系统被认为应得的。这些概念暗示存在一个关于应该对AI系统投入多少信任的普遍标准，并且经常出现在关于过度依赖和过度使用的讨论中。密切相关的是“自动化偏见”的概念，即由于假设算法输出具有客观性，AI预测被认为比人类判断更可信。这也与“盲目信任”相关，该术语描述AI输出不被质疑的现象。然而，AI充满了人类假设和偏见，无法与系统设计分离。信任被授予AI而非人类判断，与之前讨论的信任的二元概念相关。即使AI看似客观，对其不加批判的依赖只是将信任从人类转移到机器，维持了二元区分，而不是捕捉信任在实践中复杂的关系性特征。“错位信任”在概念上同样具有规范性。被视为医疗AI部署中的核心风险，它出现在初始信任未被重新评估和反思时。然而，认识论问题，例如谁定义什么构成“适当”信任，仍未得到解决。Kostick-Quenet等人（2024）区分了“实际”与“规范性”信任，区分了利益相关者实际信任多少与他们应该信任多少。这与更广泛的适当信任问题产生共鸣，再次提出了谁的判断决定了什么构成适当或规范性的问题。“信任校准”建立在“过度信任”和“信任不足”的逻辑之上，被定义为“人类根据AI能力当前状态做出的适当信任判断，以及成功评估是否遵循或拒绝AI推荐”。它被描述为一种“调整信任”的纠正机制，通常被概念化为认知过程或基于价值的信任。这种叙事与情感信任和认知信任之间的区分一致。对于信任校准，其特点是深思熟虑和批判性评估，可以质疑信任是否能够基于理性决策被“调整”或“校准”，或者它是否本质上嵌入在无法从这一过程中移除的关系和情感动态中。这些框架暗示信任可以并且应该根据系统能力的客观测量进行校准，意味着相关利益相关者可以根据足够的信息做出明智的决定，并且可信赖性作为AI系统本身的稳定属性存在。然而，“稳定的”可信赖性并非孤立于通过它被执行的社会和人类评估。因此，信任校准不仅意味着将信任与技术性能（标准）对齐，而且是作为一个社会过程进行的，而所审查的文献未能承认这一点。
4.3.1 不信任
相当一部分论文（17/82）提到了“不信任”。与“缺乏信任”或“极度谨慎”相关，不信任通常与不一定能受到影响的人类因素相关。例如，Kinney等人（2024）提到对AI的“普遍不信任”，暗示不信任不是情境依赖的或过程性的，而是可以被视为一种固定属性。其他作品将不信任视为可测量的，例如通过使用从“完全不信任”到“完全信任”的李克特量表。关于什么促进信任或不信任也存在分歧。Katzburg等人（2024）认为，通过提供详细信息，信任会减少，而Maheshwari等人（2024）报告说，缺乏信息会导致不信任。这表明信任校准作为纯粹理性过程的脆弱性。即使调整信任水平的认知过程是可能的，关于特定指南和原则的假设性促进信任和不信任的不确定性仍然会发生。在这里，不信任的概念化脱离了实践，只关注理论考虑。一些作品区分了不信任的行动和属性。在这种情况下，“不可信赖性”被视为系统的一种属性，独立于用户是否信任或不信任该系统。这为映射匹配提供了可能性，其中信任要么是“应得的”或“不应得的”，“正确放置”或“错位”，但也强化了不可信赖性作为独立于人类评估的固定属性的概念，而不是通过社会关系形成。其他出版物描述了一种依赖关系，即尽管不信任，但个人由于缺乏替代方案而依赖AI系统。在这些讨论中，类似信任的行为并非源于信任，而是源于不信任，强调了信任与不信任的纠缠以及信任关系的复杂性。此外，Hallowell等人（2022）认为，不信任通常源于对AI系统结果或输出的不同意，这强化了不信任作为关系性的概念。其他作品强调了不信任在希望和协商环境中的过程性特征，由参与行动者的经验塑造。其他出版物强调了制度视角。在这里，不信任的对象不仅是AI系统本身，而且是其嵌入的更广泛社会政治背景。因此，不信任成为一种针对系统结构而非技术人工物的批评形式。例如，De Proost和Pozzi（2024）认为，系统性不平等和结构性不公正的观念塑造了不可信赖性是如何构成的，修复必须涵盖解决医疗领域的认识论正义问题。此外，一部分论文引入了“健康”或“合法不信任”的概念，强调在某些情境下，不信任既合理又受欢迎。这提出了关于能动性的讨论，将AI系统框架为潜在风险源，对之不信任可以是合理的。它也引发了类似校准信任的合法性边界问题。在文献中，“不信任”作为一个频繁提及但很少理论化的概念出现。由于该术语在功能上更具描述性而非分析性，我们将其视为一个概念盲点。虽然一些出版物关注围绕信任的社会技术或实践导向动态，但在我们的文献主体中，不信托主要与这些概念化脱节。因此，不信任仍然理论化不足且碎片化，被研究图景对信任的主导关注所掩盖。
4.3.24.3.2 怀疑与质疑**
从所审查的文献中，尚不清楚对“怀疑”的概念化与“不信任”有何不同，或者仅仅是将其作为替代词使用。Brown等人（2024）提出了拒绝的概念，将其与边缘化群体拒绝技术作为一种植根于压迫历史的政治行为的现实经验联系起来。Zuchowski等人（2024）强调了信任的背叛，这预设了一个在与技术互动过程中被违反的初始信任状态。与此相关，Pickering（2021）引入了“信任修复”的概念，作为一种回应机制，“一种识别问题、承担解决问题的责任并将行为置于对信任者有意义的叙事中的意愿”。
Fecho和Zöll（2023）将怀疑描述为对AI的初始反应，必须通过建立信任来克服。相比之下，Winter和Carusi（2022）以及Chen等人（2024）将怀疑描述为对盲目信任或过度信任经验的必要反应。这在小范围内显示了所审查的方法在怀疑以及不信任和质疑是否应该被消除，或者是否可以视为接近AI系统的建设性措施方面存在分歧。最后，DeCamp和Tilburt（2019）认为，鉴于AI的非人类状态，它只能被依赖，而不能被信任，因此应以不信任对待。
总之，文献揭示了围绕医疗AI中怀疑的概念模糊性，它带有能动性、拒绝和抵抗的含义。此外，怀疑与不信任之间的区别仍然理论化不足，反映了AI伦理和信任学术中一种更广泛的倾向，即忽视怀疑如何可能成为一个有建设性的概念，以进一步研究医疗AI中信任的关系维度。
4.4 局限性
本综述存在若干局限性。首先，关于AI和医疗信任的文献正在呈指数级增长。我们筛选后发表的研究可能包含此处未捕捉到的额外见解。其次，范围综述主要由一位研究人员（HSP）进行，这可能会引入选择性和解释性偏差。第三，所呈现的主题集群只是理解医疗AI信任领域的一种方式，其他方法可能会提出不同的解释。最后，本综述未包含患者视角，这限制了对受AI模型输出影响的人群信任的理解。此外，排除关于人与人之间信任的论文可能限制了信任的关系性或系统导向概念化的数量。未来的研究可以包括多个审阅者，纳入患者视角，并探索组织和解释出版语料的其他方式，以提供更全面的医疗AI信任描述。此外，探索这些不同的信任概念化如何在实践中体现和交叉（例如通过案例研究）是研究的合理下一步，从概念映射转向更以实践为导向的理解。
5 结论
我们考察了信任的概念化，以研究用于理解信任和可信赖性的视角和方法。虽然我们试图介绍医疗AI中信任及其失衡现有概念化的细微差别，但所纳入的论文可以以一种特定方式划分。大多数出版物（66/82）未能考虑信任所嵌入的社会技术系统，而是专注于原则、技术区分以及以人为中心的调整信任或信任的测量和评估。我们并不主张放弃这些方法，但它们在概念上具有局限性。它们提供了一张提供指导的地图，但无法完全捕捉实践中遇到的不可预测性、协商和关系动态。因此，我们的批评旨在使这些方法中对信任的假设明确化，突显它们所能捕捉到的局限性。原则、指标和清单在评估和治理中发挥着重要作用，但它们的运作并非独立于其所应用的关系性、制度性和规范性背景。将它们视为可信赖性的充分指标，可能会掩盖信任在实践中如何被协商、争议和分配不均。
其余论文（16/82）强调信任的关系性和过程性特征。例如，通过将信任概念化为一系列协商，并质疑其线性以及所谓可信赖系统的清单特征。因此，关系性视角将基于原则的AI系统重新定义为既非固有也非普遍可信赖，强调其意义和效果取决于它们如何在特定医疗环境中被解释、协商和执行。在实践中导航信任类似于穿越一个复杂的迷宫，而不是遵循一张预定的地图，进步只有通过同时关注多条相互交织的路径才能出现，障碍会出现，行动者必须不断重新评估他们的方向。
医疗AI中的信任常常被框架为实现实施的一种工具，而不是作为一种有争议的规范性理念来审视。正如Trench（2025）所言，“信任通常被呈现为开或关、存在或不存在；在这种表述中，信任类似于信仰或信念，而非一种经过深思熟虑且可以对话的事物”。当前的研究常常忽视信任的关系性和情境性特征。以这种方式理解信任意味着认识到它不能被工程化到系统中，而必须作为维持或挑战它的社会和制度关系的一部分来研究。民族志观察、半结构化访谈以及关于信任如何在临床实践中形成的案例研究，可以以情境依赖的方式阐明围绕信任的关系，将社会科学研究提出的混乱和复杂性放在中心。这样的定性方法并不提供单一的“可信赖性”测量，而是展示信任被授予、保留或争议的关系性和情境条件，而不将信任简化为纯粹技术或个体属性。
什么算作可信赖在不同专业和学科边界之间存在显著差异。不同的学科视角和利益相关者援引不同的认识论和不同的信任概念化。虽然它们通常孤立在个别出版物中，但在实践中它们相互交叉和碰撞，使得医疗AI领域变得混乱、复杂且难以导航。因此，这些分歧对AI系统如何设计、评估和实施具有实质性后果。当一种特定的信任理解变得主导时，其他理解就会被边缘化。不考虑这些概念盲点，可能会产生根据机构指标或技术原则“值得信赖”，但与医疗专业人员和患者的现实生活不一致的技术。
这种复杂性在文献如何讨论信任失衡中也很明显。在实施科学、计算机科学和健康信息学等领域，不信任通常被框架为一个需要修复的问题或一个需要克服的障碍，以便采用AI系统。相比之下，哲学、社会学和科学技术研究领域的研究将不信任视为概念上具有建设性的。这些视角表明，不信任可以标志着一个重新定向的时刻，揭示了塑造AI系统如何设计和使用的假设、价值观和不平等——或者不被使用。与其将不信任视为信心的失败，不如将其理解为信任如何分配和证明的更深层次紧张的信号。在这些情况下，既定的路径走到了死胡同。这样的死胡同迫使我们停下来，回溯我们的步骤，并重新考虑将AI实施框架为线性采用轨迹的技术决定论轨迹。它们使基于原则的指导的局限性变得可见，并为反思、重新协商和替代路径打开了空间，通过理解使该路径无效的条件。
与研究图景对信任的关注相比，信任失衡的理论化不足。这一现象超出了医疗AI领域，延伸到其他研究领域，例如公众科学中的不信任。此外，Nowak等人（2025）提出了一个观点，即科学中的不信任并非信任的缺失或对立，而应在其自身的谱系上概念化。因此，关注信任失衡使我们能够将信任视为一个持续的协商过程，而不是一个稳定的结果。它凸显了信任和不信任并非对立面，而是相互塑造的相互关联的过程。这种转变使信任的认识论变得可见——谁的信任重要，在什么条件下，以及有什么后果。
明确特定的信任概念化，或“可信赖性”一词使用的谱系，可以为该领域提供一种结构感。这可能包括将围绕信任的术语定位在其特定的学科视角和临床背景中，以提出更细微的理解和更清晰的研究重点。此外，未来的研究应调查信任和不信任如何在实践中被执行，以及它们如何通过互动和协商形成。调查冲突和紧张关系不仅有助于加深我们对信任作为社会技术现象的理解，而且可以支持在实践中医护AI开发更负责任和更具情境意识的形式。
【全文结束】