加州议员丽贝卡·鲍尔-卡汉（Rebecca Bauer-Kahan）表示，加州应该对AI系统收集患者数据的行为进行监管，而不仅仅是对可能有害的数据使用进行监管。
在一次关于健康隐私问题的听证会上，鲍尔-卡汉指出，医疗保健组织可以利用患者数据做很多有益的事情，但在许多情况下，这些数据被用来伤害人们。鲍尔-卡汉是一位知识产权律师，也是加州议会隐私和消费者保护委员会主席。她最近在自己孩子的儿科医生办公室亲身经历了政府监管能力的局限性。
该办公室使用了一种基于AI的“记录员”系统，即会话记录系统。办公室工作人员要求鲍尔-卡汉放弃她在《健康保险可携带性和责任法案》（HIPAA）和《加州医疗信息保密法》下的隐私权利，以便医生能够使用该记录员系统。“这在一定程度上是因为我所在的是一家较小的医疗系统，谈判能力较弱，”鲍尔-卡汉说，“大型医疗系统似乎已经与AI公司谈判达成了一份保护患者数据的合同，而我的小型系统没有这样做。”
鲍尔-卡汉在她的委员会和议会健康委员会组织的一次健康隐私听证会上讨论了这个问题。她提到，加州在健康AI法律和监管方面的工作可能会对全球产生影响，因为加州拥有世界第五大经济体，并且对硅谷的AI公司、健康技术公司和其他科技公司具有管辖权。
关于应重点关注“上游”AI数据收集还是“下游”数据使用的争论，可能会为立法者和监管机构提供未来健康AI监管的方向。对于雇主健康计划赞助商来说，健康AI的讨论可能会限制他们对新系统的访问，使他们面临新的责任诉讼，并影响他们对潜在有价值的计划数据的控制。
听证会的参与者包括来自谷歌和企鹅AI等科技公司的代表，以及西达赛奈医疗中心和凯撒医疗集团等医疗机构的代表。凯撒医疗集团AI和新兴技术副总裁杨丹尼尔博士表示，医疗保健组织别无选择，只能尝试使用AI来应对医护人员短缺的问题。明年，美国可能缺少320万名医疗工作者。AI已经在帮助凯撒医疗集团提高现有医护人员的效率，例如帮助他们记录患者互动。
然而，鲍尔-卡汉指出，从患者的角度来看，保险公司可能利用AI获取的数据进行承保是一个令人担忧的问题。如果一个基于AI的手机应用程序可以跟踪患者的心脏表现并将数据发送给心脏病专家，这可能会挽救生命。但如果美国法律发生变化，允许健康保险公司重新引入医疗承保，并且AI心脏监测应用的数据流导致患者无法获得健康保险，那么这可能会危及患者的生命。
加州大学伯克利分校公共卫生研究员扎伊德·奥伯迈耶博士则认为，应重点关注对患者数据下游使用的监管，而不是数据收集本身。他指出，几乎任何工具都可以用于多种不同的目的。他认为，加强现有对医疗承保和恶意使用AI健康数据工具的禁令可能比试图限制AI数据收集更为有效。简单地监管这些下游用途比试图监管上游数据收集更为精确和有针对性，后者可能会妨碍工具的救命功能。
(全文结束)
