由生物医学研究资助机构惠康资助，并由非营利组织“感知科学”开发的一份指南已发布，旨在填补医院和其他主要基础设施中技术与其使用之间的“危险”治理缺口。
名为“责任移交”的框架为移交数字和人工智能工具的研究人员和开发人员以及接收组织提供了指导。该框架于今日发布，规定了开发人员应共享的信息以及接收方在使用此类工具前应提出的问题。
“感知科学”主任特蕾西·布朗告诉《研究专业新闻》，该框架最紧迫的目标是生物医学领域。
她说：“这是因为在这个领域造成伤害的可能性最大。我们已经看到医院中技术部署不当的案例。例如，在美国，针对肥胖人群的自主式人工智能手术工具被用于完全不同体型的人。”
她还指出，对于没有考虑到黑人皮肤癌生长外观的人工智能皮肤癌诊断，也存在严重担忧。
布朗警告说，尽管世界各地的组织都在吹嘘人工智能工具和其他技术有助于消除医疗保健中的差距，但如果没有正确的知识和信息，这些工具实际上可能会扩大公平差距。
“感知科学”表示：“与药物和医疗器械不同，目前对于软件和应用程序的安全开发和推广没有规则，尽管它们具有同等的危害风险。人工智能和先进软件应用程序的治理危险地滞后于它们在医院、政府、银行、交通枢纽和其他主要基础设施中的传播。”
布朗说，她“难以置信”在减少技术治理差距方面缺乏努力，联合国本月宣布存在“全球人工智能治理赤字”。
但她对国际资助者、研究所和政策制定者对该指南的兴趣表示了希望，她说其中包括英国研究与创新、国际科学理事会和南非艾滋病研究计划中心。国际研究资助者本周开会讨论了该框架，目标是确保采购流程跟上新工具的流动。
惠康科学与健康数据主管塔里克·霍哈尔说：“科学和研究的计算性质日益增强，意味着对数字工具的负责任治理只会变得更加重要。”
