医疗保健行业使用人工智能已有数十年，但最近人工智能能力扩展到生成式人工智能模型，引发了如何及在何种程度上对该技术进行监管的问题。
一般而言，人工智能用于分析和预测。然而，生成式人工智能理论上能够做出临床决策，如诊断病情、识别健康风险和制定针对患者的治疗方案。
最近，有几个州已采取专门措施来监管医疗保健中的生成式人工智能，可能会有更多州效仿。在解决这个问题时，各州必须在拥抱创新且可能拯救生命的技术的同时，保护患者免受生成式人工智能的局限。
关注披露
我们看到的一个趋势与向患者披露有关，即当与他们的护理相关的交流涉及生成式人工智能时。
加利福尼亚州州长加文·纽瑟姆（Gavin Newsom）最近签署了一项关于人工智能的法案，该法案可以“生成衍生的合成内容，包括图像、视频、音频、文本和其他数字内容。”
该法律适用于使用生成式人工智能创建与“患者临床信息”有关的书面或口头患者交流的医疗保健设施、诊所、医生办公室和团体执业办公室。它要求他们：
- 当生成式人工智能创建给定的交流时，向患者提供免责声明。
- 指导患者如何联系人类提供者、员工或其他人。
这些免责声明必须：
- 在涉及物理和数字媒体（如信件和电子邮件）的每个书面交流的开头显著出现。
- 在连续的书面在线交流（包括聊天消息）中显著显示。
- 在音频交流的开始和结束时口头提供。
- 在视频互动中显著显示。
类似方法
加利福尼亚州的新法律与 2024 年犹他州解决生成式人工智能披露的法律类似。
该法律适用于根据数据进行训练、通过文本、音频或视觉通信与人交互并“生成类似于人类创建的非脚本输出，监督有限或没有监督”的人工智能。
它部分要求受监管职业（例如医生）的提供者在患者与生成式人工智能交互时“显著披露”。
该法规未概述披露的必要内容，但确实要求在口头交互开始时口头进行，或在书面交互开始时通过电子消息进行。
行业趋势和指南
这些发展与行业组织（如州医疗委员会联合会）的趋势和指南一致。
其最近的报告“导航将人工智能负责任和合乎道德地纳入临床实践”强调了患者需要透明度和知情同意，同时允许提供者有更多自动化的操作工作流程。
该报告还详细介绍了与医疗保健中的人工智能相关的其他关键考虑因素，例如医生的责任以及围绕公平和偏见的担忧。
随着全国各地的州和监管机构越来越关注监管医疗保健中的人工智能，各级利益相关者应密切关注这些趋势及其实施，以确保满足所有要求。
如果您有任何问题，请联系作者（Amy Joseph、Emily Brodkin、Melania Jankowski 和 Jeremy Sherer）或其他奥睿团队成员。
