伦敦——医生们将敦促英国的数据监管机构调查NHS英格兰是否在训练其生成性人工智能模型Foresight时违反了法律。
据一位知情人士透露，医生们正在起草一份正式投诉，指控NHS英格兰违反了数据保护规则，将仅用于新冠研究的全科医生患者数据未经授权地插入了一个更通用的人工智能模型中。该知情人士被允许匿名发言。
NHS英格兰在5月30日向POLITICO发表的一份声明中确认，在英国医学协会（BMA）和皇家全科医师学院（RCGP）代表提出担忧后，他们已经暂停了Foresight的持续数据处理，并启动了内部审计。
Foresight被誉为一个“世界首创试点项目”，能够通过识别高风险患者群体来帮助早期干预。该项目使用了英格兰5700万人的去标识化数据进行训练，包括NHS英格兰的大流行病规划和研究数据（GDPPR）。
NHS英格兰自己的指导方针规定，申请访问全科医生数据必须经过专业顾问小组（PAG）的额外审查，该小组成员包括BMA、RCGP和Caldicott监护人Arjun Dhillon。
PAG批准了英国心脏基金会联盟专门用于新冠研究的GDPPR数据使用，但从未就大型语言模型训练进行过咨询。
“该方法似乎是新的、有争议的，并且可能具有广泛的影响。如果没有额外的特别协议来允许它，这个提案似乎不太可能得到支持。”全科医生领导人在5月16日写给NHS英格兰首席数据和分析官Ming Tang的电子邮件中写道。邮件内容由POLITICO看到。
要求ICO介入
另一个分歧点在于医生和NHS英格兰之间，即是否应由信息专员办公室（ICO）进行外部审计。
代表英国各地全科医生讨论有关全科医生数据使用和管理问题的联合全科医生IT委员会要求NHS英格兰就此事向数据监管机构自首。然而，NHS数字研究和临床试验主任Michael Chapman在当天晚上写信给委员会的七名成员，表示该审查将由组织的数据保护官在内部进行，“以确定事实，然后再联系[信息专员办公室]”，并称这是“在提出数据保护问题时的标准程序”。
这并没有平息医生代表们的担忧，他们对让NHS英格兰自己审查这一严重问题持谨慎态度。
除了要求BMA作为信息专员办公室调查的证人外，联合全科医生IT委员会还希望对AI的使用进行“明确治理”，并承诺未来允许使用全科医生数据的紧急措施包含日落条款，如果医生未被咨询的话。
与此同时，执政的工党内部有影响力的人物正在推动放宽NHS数据的使用。本周，前首相托尼·布莱尔在伦敦SXSW音乐节上与科技大臣彼得·凯尔一同意外现身，他表示，NHS数据没有常规用于创新是“荒谬的”。
凯尔也呼吁英国更好地利用NHS数据：“本届政府、这个国家、我们的国家拥有世界上最强大和最丰富的数据集，比世界上任何其他国家都多。如果我们能明智而安全地使用这些数据，那么我们可以在科学发展的飞跃、新技术、新服务、新药物以及对人类和社会科学的理解方面取得前所未有的进步。”
NHS发言人表示：“维护患者隐私是该项目的核心，我们感谢联合全科医生IT委员会提出关切并与我们会面，讨论严格的治理和控制措施，以确保患者数据的安全。”
信息专员办公室发言人表示：“我们了解Foresight AI模型，并定期与NHS英格兰就数据保护问题进行沟通，以确保公共机构不断努力履行其数据保护义务并减轻潜在风险。”
卫生和社会保健部拒绝置评。科学技术与创新部未回应评论请求。
(全文结束)
