医疗保健中的人工智能伦理：价值中心探索Ethics of AI in Healthcare: A Value-Centred Exploration | Proceedings of the 2026 ACM Interactive Health Conference

摘要

随着人工智能(AI)和机器学习(ML)越来越多地嵌入医疗保健系统，它们正在重塑护理工作流程，并引入与价值冲突相关的不确定性和风险，包括围绕信任、隐私和协作的问题。虽然价值敏感设计研究主要集中在个人和专业价值观上，但组织和社会维度仍未得到充分探索，留下了应对更广泛的伦理和社会技术影响的关键空白。这个半日、面对面的工作坊旨在汇集研究人员、设计师、开发者、医疗专业人员、患者和伦理官员，识别和探索AI赋能医疗技术中的价值张力，考虑其不仅对个人，而且对组织、社会结构和护理环境的影响。通过参与式和跨学科活动，包括推测性设计，参与者将揭示紧张关系，共同创造描绘未来的制品，并反思以人为本的影响，以指导健康环境中AI赋能技术的负责任设计、评估和部署。

1 背景和动机

人工智能(AI)和机器学习(ML)算法正越来越多地整合到医疗保健中，塑造日常实践，如临床决策、患者-专业人员互动和医疗资源管理[6, 8, 14, 15, 16, 32, 33]。这些技术有潜力改善健康结果，提供更高的效率、可扩展性、增强的临床试验、改进的诊断以及为服务不足的人口提高可及性[10]。同时，AI也引入了不确定性[4]和风险[17]，包括关于数据(隐私、收集、质量和准确性)、算法偏见、患者安全、人口间的健康不平等和环境影响的挑战[1, 2, 7, 30]。AI还引发了关于这些技术如何影响患者和医生之间互动的不确定性，因为它可能会改变护理中核心的人际接触[28]。

先前关于AI赋能健康技术的研究主要集中在临床医生[5, 23, 29]和其他利益相关者如患者和护理人员[18, 21, 27, 36, 37]上，揭示了类似的挑战，特别是围绕信任、隐私和协作。综合来看，这些工作表明与医疗保健中AI相关的许多挑战不仅仅是技术性的，而且从根本上是价值驱动的。人机交互(HCI)研究越来越多地应用价值敏感设计(VSD)[12, 13]在整个设计过程中系统地考虑人类价值观[9, 19, 26]。根据VSD框架[12, 13]，AI赋能医疗保健中的许多复杂性可以理解为价值紧张关系，其中促进某些价值观可能会与其他价值观发生冲突，需要在利益相关者之间进行仔细考虑和协商。然而，最近对应用健康AI的综述揭示了VSD操作化的局限性，表明研究主要强调个人和专业价值观，而组织和社会价值观仍未得到充分探索[22]。此外，该研究还显示，大多数研究集中在美欧地区[22]，突显了在AI赋能健康技术中需要更具包容性的参与式方法。

随着未来导向思维在人机交互中的作用日益增强，推测性方法包括推测性设计[11]和设计虚构[31]越来越多地被用来构想替代性未来，以突出社会、政治和伦理影响。先前工作已采用这些方法探索医疗保健中的政策差距[34]，讨论AI赋能健康技术的益处和风险[3, 20, 24, 25]，并引出嵌入社会理想的那些价值观[35]。为了解决应用AI赋能健康技术中对组织和社会价值观关注不足的问题，我们的工作坊利用推测性设计作为核心方法，将VSD扩展到个人层面关注之外，并促进对AI赋能医疗保健更广泛的社会技术影响的伦理反思。通过参与式活动，工作坊将使参与者能够揭示关切、紧张关系和期望，并设计一个代表这些技术如何在完全采用之前塑造护理实践和生活体验的制品。通过这个工作坊，我们旨在突出AI驱动技术设计中以人为本和价值敏感的领域优势和潜在改进方向。

2 目标和主题

该工作坊旨在汇集研究人员和实践者，批判性地探索AI赋能健康技术设计、评估和使用中的伦理紧张关系和价值驱动挑战。工作坊将为参与者提供一个空间，分享观点和经验，并共同反思和创建代表不同价值塑造的紧张关系如何影响AI赋能医疗保健技术使用的制品。通过个人反思、小组讨论和推测性设计活动，参与者将探索AI如何转变医疗保健环境、互动和角色。讨论和活动的重要主题包括以下内容：

2.1 在AI赋能医疗保健中揭示价值紧张关系

• 探索舒适感和紧张感如何在不同情境(如诊断、患者沟通、决策支持)中的AI赋能医疗保健技术中体现
• 识别这些紧张关系背后的价值观(如信任、自主性、透明度、责任、效率和关怀)，并检查它们如何相互冲突、一致或权衡
• 讨论技术影响对不同利益相关者(如患者、护理人员、医疗专业人员)的影响

2.2 以人为本和参与式视角

• 检查不同利益相关者之间的观点，包括患者、医疗专业人员、设计师、开发者、伦理官员和研究人员
• 在以人为本的设计过程中表达生活经验、不确定性和关切
• 支持跨学科和角色的包容性和价值敏感参与

2.3 推测性设计作为伦理反思工具

• 使用推测性设计方法将医疗保健中AI的关切、紧张关系、影响、期望和问题具象化
• 开发面向未来的场景，挑战技术进步和创新的主导叙事
• 探索推测性制品如何支持跨学科的反思、对话和共同理解

2.4 医疗保健中AI的社会技术影响

• 检查AI如何重塑医疗保健环境、社会、工作流程和专业角色
• 调查价值紧张关系(如AI输出的透明度、临床决策中的责任)在AI赋能健康系统设计和使用中的社会技术影响

3 工作坊计划

该工作坊将是一个半日、面对面的活动。它将以欢迎环节开始，让参与者到达、互相认识，并简要介绍他们的背景和兴趣。组织团队随后将介绍相关文献和先前工作，包括用于解决AI赋能健康技术设计中价值驱动挑战的关联材料。参与者随后将参与一项个人反思活动，旨在揭示他们对AI在不同医疗保健情境(如诊断、患者沟通和决策支持)中使用的立场和舒适度水平。此活动之后将进行由主持人引导的小组讨论，共同反思出现的模式、共识和紧张关系。接下来将安排咖啡休息时间，同时进行非正式的制品展览，展示在介绍/框架活动中先前介绍的材料。这一环节将为参与者提供与制品互动、交流观点并在更非正式的环境中继续讨论的机会。

工作坊的核心互动部分将包括一项使用推测性设计方法的小组活动。参与者将在跨学科团队中工作，基于个人活动识别的紧张关系，开发反映AI驱动技术如何重塑医疗保健环境、互动、社会和角色的未来愿景。由于其参与性和协作性质，此活动将仅在线下和同步进行。

工作坊将以小组展示推测性制品和闭幕讨论结束。这一最终环节将让参与者分享活动见解，反思关键收获，并确定未来研究和合作的潜在方向，包括联合出版物或后续活动。工作坊产出，如创建的制品、讨论摘要和活动的视觉记录，将在活动后与所有参与者分享。为支持深入讨论和积极参与，工作坊计划约20名参与者，如有需要，可灵活调整日程和结构以适应略大或略小的群体。

3.1 日程安排

工作坊日程安排如表1所示。

3.2 材料

工作坊将需要投影仪和无线互联网连接用于介绍/框架活动，以及草图和低保真原型制作材料(如纸张、纸板、便利贴、彩色笔和记号笔)用于推测性设计小组活动。需要足够的墙面空间来展示个人反思活动成果，以及用于展示组织团队先前创建的制品的桌子。大约需要五张桌子来支持小组工作。演讲者应自带装有PDF或PowerPoint格式演示文稿的笔记本电脑。

4 预期成果和工作坊后计划

工作坊的主要目标是围绕其核心主题建立和扩大研究社区，促进参与者之间的联系，并帮助他们发现共同兴趣和互补技能以进行协作研究。工作坊期间的讨论将有助于澄清开放的研究挑战，并有助于塑造共享的研究议程。预期成果包括启动新的研究合作伙伴关系、联合出版物和后续举措，如未来的工作坊或展示会话中产生的制品。

为确保会议后的连续性，我们将创建一个专门的邮件列表和在线社区空间(如Slack、Microsoft Teams或Discord)。此外，工作坊成果，包括讨论摘要、制品和未来举措，将通过组织机构和相关组织的工作坊网站和社交媒体渠道(如LinkedIn和Instagram)进行传播。这些平台将促进持续对话、知识交流和协作协调，有助于维持社区并延长工作坊的长期影响。

5 可访问性考虑

工作坊注册表单将包含一个关于参与者可访问性请求的问题。我们将尽最大努力满足任何请求，并确保每个人都能平等参与。

6 组织者

英内斯·席尔瓦(Inês Silva) 是Fraunhofer葡萄牙AICOS人本中心设计团队的设计研究员，专注于用户研究、参与式设计及其影响。在最近的项目中，如Signo和ACHILLES，她探索了AI赋能健康技术中的伦理紧张关系和价值驱动问题，使用推测性设计方法研究利益相关者的观点和关切。这项工作已在多个项目中体现，如Fictions、Signo和ACHILLES。

若昂娜·库托·达·席尔瓦(Joana Couto da Silva) 是Fraunhofer葡萄牙AICOS人本中心设计部门的设计研究员，背景是通信、交互和游戏设计。她在创建和应用定性和参与式设计方法方面拥有丰富经验，特别关注设计、技术、医疗保健和福祉的交叉点。此外，她热衷于使用游戏化和具身策略来支持与非主流人群处理敏感话题。这项工作已在多个项目中体现，如Anathema、Signo、Taboo和ACHILLES。

里卡多·梅洛(Ricardo Melo) 是Fraunhofer葡萄牙AICOS的高级研究员，也是一位专注于通信和交互设计的大学讲师。拥有波尔图大学设计博士学位，他的工作重心是用户体验、可访问性和参与式设计。他曾担任Signo项目的首席研究员，探索健康技术中的价值驱动设计，并目前领导Taboo项目，该项目研究敏感用户研究中的中介制品。他在AISym4Med和ACHILLES项目中的近期工作重点是合成数据的定性评估以及用户研究与AI辅助开发的交叉点。

莱昂诺尔·特霍(Leonor Tejo) 是科英布拉大学跨学科研究所计算媒体设计项目的博士生。她的研究探讨了伦理如何应用于设计和开发实践中，以及从业者如何将伦理融入其工作中。虽然她之前的工作集中在HCI中的伦理，但她最近开始研究交互式、AI驱动的健康技术中的伦理。莱昂诺尔的工作重点是为团队提供可操作的指导和方法，帮助他们在实践中嵌入伦理。

保拉·亚历山德拉·席尔瓦(Paula Alexandra Silva) 是人机交互专家。在她的工作中，她应用用户研究、以人为本的设计、参与式和共同设计方法，以及可用性和用户体验评估方法，以推进基于技术的系统，特别是在医疗保健领域。她是科英布拉大学信息工程系的助理教授，也是科英布拉大学跨学科研究所伦理委员会的成员。她的研究探讨了设计师如何在不同工作环境中的HCI设计过程中参与伦理，支持对AI赋能健康技术中情境化伦理紧张关系和实践伦理的探索。

菲利佩·索亚雷斯(Filipe Soares) 是Fraunhofer葡萄牙AICOS的高级科学家，他在那里从事数字健康智能系统工作。他领导计算机视觉、联邦学习和决策支持系统方面的研究，在医学图像分析方面拥有超过10年的经验。他还拥有软件工程、图像处理和机器学习方面的丰富专业知识，曾在西门子医疗工作过乳腺癌项目，并在诺基亚网络从事嵌入式软件工作。他拥有贝拉内陆大学计算机科学博士学位，并在人工智能领域拥有从业务理解到现实世界测试的概念化和实施创新研发项目的丰富经验。

安德烈·V·卡雷罗(André V. Carreiro) 是Fraunhofer葡萄牙AICOS智能系统组的高级研究员。里斯本技术大学生物医学工程博士。自2010年以来，他已将机器学习技术应用于从医疗保健到工业环境的不同领域。他最近的兴趣在于负责任AI实践，包括AI中的隐私、透明度、稳健性和问责制。

7 参与呼吁

工作坊组织者将通过社交媒体、相关专业邮件列表以及在HCI和健康社区内的口碑提前推广工作坊。目标是接触具有多样化专业背景、研究兴趣和对该主题不同程度经验的参与者。

参与可能受到限制，以确保角色的平衡代表，并支持深入讨论和协作活动。

7.1 参与呼吁文本

我们邀请研究人员、设计师、实践者、医疗专业人员和患者参与半日、面对面的工作坊"医疗保健中的人工智能伦理：价值中心探索"。该工作坊旨在促进跨学科对话，围绕AI赋能技术在医疗保健中的设计、评估和使用过程中出现的伦理紧张关系和价值冲突。工作坊不仅关注技术性能或法规合规性，而是以人为中心，检查不同利益相关者如何体验、解释和协商健康环境中AI的存在。通过结合个人反思、小组讨论和使用推测性设计的动手活动，参与者将批判性地探索和表示与医疗保健中AI相关的挑战，重点关注信任、责任、自主性和透明度等价值观之间的紧张关系。

我们欢迎来自多样化背景的参与者注册，包括但不限于人机交互、机器学习、软件开发、设计、医疗保健和伦理。注册应通过工作坊网站

我们期待围绕AI赋能健康技术的关键审查、其伦理紧张关系以及塑造其设计、评估和使用的不同视角的价值观，建立一个协作社区。

【全文结束】