医疗保健行业已经利用人工智能数十年，但近期AI能力扩展到生成式AI模型引发了关于如何以及在多大程度上监管该技术的问题。通常情况下，AI用于分析和预测。然而，生成式AI理论上可以做出临床决策，如诊断疾病、识别健康风险和制定患者特定的治疗方案。最近，一些州已经开始采取措施专门规范医疗保健领域的生成式AI，其他州也可能效仿。在处理这一问题时，各州必须在拥抱创新和潜在的生命拯救技术与保护患者免受生成式AI局限性之间取得平衡。
注重披露
我们看到的一个趋势是，当涉及生成式AI的沟通与患者的护理相关时，需向患者进行披露。加州州长加文·纽森最近签署了一项关于能够生成合成内容（包括图像、视频、音频、文本和其他数字内容）的AI的法律。该法律适用于使用生成式AI创建与“患者临床信息”相关的书面或口头患者沟通的医疗机构、诊所、医生办公室和团体执业办公室。它要求这些机构：
- 在生成式AI创建某次沟通时向患者提供免责声明。
- 指导患者如何联系人类提供者、员工或其他人员。
这些免责声明必须：
- 显著出现在每次涉及物理和数字媒体（如信件和电子邮件）的书面沟通的开头。
- 在连续的书面在线沟通（包括聊天消息）中显著显示。
- 在音频沟通的开始和结束时口头提供。
- 在视频互动中显著显示。
类似的方法
新的加州法律类似于2024年犹他州的一项法律，该法律涉及生成式AI的披露。该法律适用于通过文本、音频或视觉通信与人互动并生成类似人类输出的非脚本输出的AI。它部分要求受监管职业（如医生）的提供者在患者与生成式AI互动时“显著披露”。该法规未详细说明披露的具体内容，但要求在口头互动开始时口头披露，或在书面互动开始时通过电子消息披露。
行业趋势和指导
这些发展与行业组织（如州医学委员会联合会）的趋势和指导一致。其最近的报告《负责任和道德地将人工智能纳入临床实践》强调了患者透明度和知情同意的必要性，同时允许提供者实现更自动化的操作流程。该报告还详细介绍了与医疗保健中的人工智能相关的其他关键考虑因素，如医生责任和围绕公平性和偏见的担忧。随着全美各州和监管机构越来越关注规范医疗保健领域的人工智能，各级利益相关者应密切关注这些趋势及其实施，以确保满足所有要求。
(全文结束)
