英国科学、创新和技术部（DSIT）发布了一份报告，探讨了英国的AI保障市场，分析了当前的市场状况、未来的增长机会以及政府为支持这一新兴行业所需采取的行动。报告由科学、创新和技术国务秘书彼得·凯尔作序，他指出需要确保“全球AI公司愿意将英国作为其家园”，提到了AI能力的快速提升“使曾经无法想象的事情成为可能”，例如在疾病识别和治疗方面的新方法。
凯尔进一步强调了AI保障在提供“测量、评估和传达AI系统可信度所需的工具和技术”方面的重要性，这将增加信心并进一步促进全国范围内安全和负责任的AI应用。该报告基于行业调查、与行业专家的访谈、公众成员的焦点小组讨论以及对AI保障市场的经济分析。最终，报告发现通过解决需求、供应、互操作性、缺乏理解、质量基础设施不足、信息获取有限和AI治理分散等挑战，可以推动市场向前发展。
为应对这些挑战，报告提出了政府行动，包括解决知识差距并开发AI基础工具包，帮助初创企业和中小企业“遵循可信AI的良好实践”；在供应方面，承诺解决信息不对称问题，促进集体行动以增加第三方供应，增强信心和信任；在互操作性方面，提出需要推动共同理解和开发负责任AI的术语工具，以支持跨境互操作性和贸易。
报告的关键发现包括对现有法规的理解不足，这成为采用AI保障的障碍；评估可用工具和服务质量的问题；以及对AI保障是什么以及如何在实践中确保AI系统的“共同理解”的需求。DSIT针对这些发现采取的行动包括开发一个AI保障平台，以帮助AI开发者应对“复杂的环境”，包括免费的基础评估工具，以评估组织的良好实践；并与行业利益相关者合作制定路线图，阐明部门的愿景和实现目标的具体行动。
报告最后呼吁AI保障生态系统中的利益相关者进行合作和集体行动，以支持行业的增长并“确保AI的安全、公平和负责任的发展和部署”。
更广泛的AI保障和评估趋势
10月底，NHS英格兰分享了关于评估人工智能项目和技术的指导，总结了“健康和护理中的人工智能奖”四年的运行经验，该奖项支持了有前途的AI技术的设计、开发和部署。国家卫生和护理卓越研究所最近也推出了一项新的报告标准，旨在提高AI技术成本效益研究的透明度和质量，希望此举能“帮助医疗决策者了解AI支持治疗的价值”，并为患者提供“更快获得最有前景的治疗”的途径。萨默塞特NHS基金会信托发布了其AI政策的最终版本，重点关注安全集成和平衡创新与伦理和法律责任的方法。政策指出，尽管目前“即使是最好的和最复杂的AI模型（如Siri、Alexa、Chat-GPT等）也不超过狭义AI”，但仍需确保为未来的发展提供保护。
NHS中的AI应用案例
10月，英国政府拨款1200万英镑用于支持利用创新技术（如AI、VR和可穿戴传感器）帮助药物成瘾者减少药物相关死亡的项目。获得资金的项目包括一个远程监测平台，能够检测与阿片类药物过量相关的呼吸问题，该平台通过生物传感器与移动设备配对，可以立即通知当地的纳洛酮携带者和紧急服务人员。考文垂和华威郡大学医院分享了该信托如何利用人工智能改善患者体验的见解，重点是一个旨在减少漏诊的合作项目。HTN还详细介绍了NHS中最新的人工智能应用案例和研究，包括预测疾病发展、检测肺癌、分析脑肿瘤等。HTN还举办了一个小组讨论，探讨AI的现实是否会符合当前的炒作，以及如何管理医疗数据中的偏见，参与讨论的专家包括MHRA临床实践研究数据链的主任普贾·迈尔斯、NHS英格兰伦敦地区数字转型GP负责人尚克尔·维杰亚德瓦和HealthAI首席执行官里卡多·巴普蒂斯塔·莱特博士。
(全文结束)
