美国退伍军人事务部在联邦机构中占据多数影响安全和权利的人工智能应用VA accounts for majority of all agencies’ safety- and rights-impacting AI

环球医讯 / AI与医疗健康来源:www.nextgov.com美国 - 英语2025-01-10 05:16:00 - 阅读时长2分钟 - 986字
根据最新报告,在联邦机构报告的1,757个人工智能应用场景中,有227个被列为影响安全或权利的应用场景,其中退伍军人事务部(VA)占据了145个,约占64%,这些应用主要集中在医疗和健康领域,旨在改善退伍军人的护理服务。
美国退伍军人事务部联邦机构人工智能安全权利应用案例国土安全部AI管理和预算办公室影响医疗退伍军人健康管理局FDA合规计划创新操作和维护隐私审查风险管
美国退伍军人事务部在联邦机构中占据多数影响安全和权利的人工智能应用

根据2024年的数据,美国退伍军人事务部(VA)在联邦机构中占据了多数影响安全和权利的人工智能(AI)应用案例。在联邦机构报告的1,757个人工智能应用场景中,有227个被列为影响安全或权利的应用场景,其中VA占据了145个,约占64%。相比之下,国土安全部(DHS)以34个案例位居第二,而其总共报告了183个AI应用场景。

2020年以来,联邦政府逐步要求各机构编制和公开其AI应用场景清单,这一举措揭示了VA及其他机构如何采用新兴技术。2020年12月,时任总统唐纳德·特朗普发布了一项行政命令,要求各机构公开其AI清单。随后,乔·拜登总统于2023年10月发布的AI行政命令进一步明确了报告指南。2024年3月,管理和预算办公室(OMB)发布备忘录,要求各机构报告可能影响安全和权利的应用场景。

根据OMB的规定,影响权利的AI是指输出结果会对特定个人或实体产生法律、实质性或重大影响的技术;影响安全的AI则是指可能对个人或实体的安全、环境、资产或关键基础设施产生潜在影响的技术。

VA在2024年共报告了227个AI应用场景,其中145个被认定为影响安全或权利。VA首席人工智能官兼首席技术官查尔斯·沃辛顿(Charles Worthington)在LinkedIn上表示,这些新报告的应用场景代表了“当今政府中最令人兴奋的创新之一”。VA还加速了AI能力的引入,其中130个应用场景已进入“操作和维护”阶段。

VA发言人告诉《Nextgov/FCW》,该部门“积极监控和管理VA AI应用场景的安全和权利影响”,并确保所有AI系统都通过隐私和安全审查。VA的大部分影响安全和权利的应用场景位于退伍军人健康管理局(VHA),主要用于医疗目的。VHA是美国最大的综合医疗网络,VA还成立了国家AI研究所,专注于研究和实施新兴技术以改善退伍军人护理。

VA发言人补充说,VA的许多AI应用场景是FDA批准的AI设备,这些设备已经过与非VA医疗机构相同的严格测试。此外,VA正在通过独立审查、人工监督和应用场景监控等措施来管理AI风险。

VA在2024年9月发布的合规计划中概述了其扩展的AI责任使用方法,不仅采用了OMB的定义,还在内部文件中详细说明了潜在的AI应用场景及其分类理由。随着新法规的出台和更多应用场景的发现,VA将继续迭代和完善相关文件。


(全文结束)

大健康
大健康