11月14日在伦敦科学画廊举行的“医疗保健中的合乎伦理的人工智能”会议上，进行了广泛的讨论，探讨了如何解决在临床护理中实施人工智能（AI）的伦理困境。会议邀请了来自政府、学术界、医学界、工业界和患者社区的多位杰出演讲者。伦敦国王学院精神病学、心理学与神经科学研究所统计学习用于精准医学的高级讲师Raquel Iniesta博士主持了为期一天的活动。
“感谢所有演讲者和观众参加这次令人着迷且愉快的活动。我们展示了围绕使医疗保健中的人工智能合乎伦理的对话需要涉及多个部门，通过将政策制定者、学者、患者、开发者、行业和临床医生聚集在一起，可以产生宝贵的见解。”——Raquel Iniesta博士
我们需要哪些因素才能在医疗保健中合乎伦理地整合人工智能？
前欧洲议会议员Sara Cerdas发表了第一个主旨演讲，强调了人工智能在改革医疗保健系统方面的潜力以及欧洲健康数据空间（EHDS）的建立。她强调了培养患者信任、减轻临床医生的技术压力以及解决偏见、公平性、数据治理和监管合规等关键问题的必要性。除了EHDS，她还讨论了欧盟人工智能法案的立法努力。
随后，威尔士政府生命科学与创新副主管Rupa Chilvers博士以癌症诊断为例，说明了创建两层医疗保健系统的风险。她提出了关于决策路径的潜在问题，并强调需要尽早测试和服务设计，以提供合乎伦理的、增强人工智能的医疗保健系统。
第一小组讨论了保证合乎伦理整合的重要因素，涵盖了问责制和网络安全等主题。Cerdas女士和Chilvers博士与患者代表Sarah Markham（访问研究员，伦敦国王学院IoPPN）、Robin Carpenter（Newton's Tree人工智能治理和政策负责人）、Beatrix Fletcher（盖伊和圣托马斯NHS基金会信托基金人工智能项目经理）和Basab Bhattacharya（巴金、哈弗林和雷德布里奇大学医院NHS信托基金临床信息学和放射科主任）共同参与了讨论。小组成员对于目前是否有足够的监管来安全实施人工智能存在分歧，提出了关于临床医生培训和支持的问题。
使人工智能在医疗保健中与伦理价值观一致的人类行动
帝国理工学院应用机器智能于医学教授Payam Barnaghi在下午的演讲中指出，早期让临床医生参与建模过程将确保人工智能工具反映医疗保健专业人员的经验并提供最大的临床效用。
大奥蒙德街医院儿科放射科顾问Susan Shelmerdine教授倡导更多关注和开发儿童医疗保健中的人工智能工具，尽管她警告说她的研究表明，作为数字原住民的儿童比他们的父母更警惕在医疗护理中使用人工智能。
“很多时候我们把人工智能拟人化，认为它可以像人类一样做事，但它们分析世界的方式与我们不同。”——Susan Shelmerdine教授
Barnaghi教授、Shelmerdine教授、Google DeepMind资深研究员Nenad Tomasev博士、盖伊和圣托马斯医院肾病科顾问Ellie Asgari博士以及南伦敦和莫兹利NHS基金会信托基金的两位患者代表Jennie Wilson Bradley和Emma Shellard共同参与了第二小组讨论。讨论集中在实施的人类方面。主要议题包括患者的参与和数据中的偏见处理。患者应有意义地参与整个开发过程，始终将他们的安全、护理和福祉放在首位。虽然理想的“人在环路”方法面临大规模挑战，但仍需反馈循环和模型的持续再训练，以成功实施人工智能。
“我们需要记住，人工智能不是一个单一的事物，而是一个谱系，风险也是如此。”——Ellie Asgari博士
医疗保健中合乎伦理的人工智能路线图
Iniesta博士在伦敦国王学院生物统计学与健康信息学系领导公平建模实验室。她的研究由NIHR莫兹利BRC支持，深入探讨了这一领域，并在《人工智能与伦理》杂志上发表了五项事实，这些事实有助于确保医疗保健中的人工智能合乎伦理。您还可以阅读她关于这一主题的两部分博客：第一部分和第二部分。
此次会议是国际合作伙伴关系资助的一部分，旨在研究确保医疗保健中合乎伦理地实施人工智能的人类角色。Iniesta博士是来自Responsible AI UK的该资助项目的首席研究员。此次活动还得到了UKRI（英国研究与创新）的支持。感谢破坏性与新兴技术联盟（DETA）、加泰罗尼亚政府和巴塞罗那开放大学（UOC）的合作。活动录像将很快在该网页上分享；如果您希望在录像可用时收到通知，请联系maudsley.brc@kcl.ac.uk。
(全文结束)
