美国医学会（AMA）周四敦促联邦立法者加强针对人工智能聊天机器人的保障措施，因为这些工具在心理健康领域的使用日益增加。
该组织向国会人工智能核心小组、国会数字健康核心小组和参议院人工智能核心小组的联合主席致信。尽管该组织认可立法者在"推进关于AI在社会和心理健康中作用的讨论"方面的努力，但它表示心理健康聊天机器人的兴起，包括鼓励自残和隐私泄露的报道，"凸显了建立明确监管框架的紧迫性。"
AMA建议的保障措施包括：
- 执行透明度标准并惩罚欺骗性做法，包括将自己呈现为持证临床医生的系统
- 创建现代化的、基于风险的监督框架，并明确AI工具何时符合医疗设备的资格
- 强制进行持续的安全监测和不良事件报告
- 要求严格的数据保护标准
美国医学会在提及AI时使用"增强智能"这一术语，以强调该技术在医学中的辅助作用。
美国医学会首席执行官约翰·怀特医学博士在一份声明中表示："AI赋能的工具可能有助于扩大获得心理健康资源的机会，并支持医疗保健服务的创新，但它们缺乏针对严重风险（包括情感依赖、错误信息和危机应对不足）的一致保障措施。通过深思熟虑的监督和问责制，政策制定者可以支持创新，并确保技术优先考虑患者安全、增强公众信任，并负责任地补充——而非取代——临床护理。"
Rock Health三月份的一项调查发现，32%的受访者使用AI聊天机器人寻求健康信息，28%的AI用户表示他们转向聊天机器人以帮助管理心理健康或压力。尽管依赖程度日益增加，但马萨诸塞州总医院布里格姆研究人员发现，公开可用的生成式AI模型往往无法正确处理诊断情况。
"虽然研究中分析的所有21个大型语言模型(LLMs)在90%以上的时间内能够得出正确的最终诊断，但所有模型在80%以上的时间内无法生成适当的鉴别诊断，研究人员表示这强调AI模型应'增强——而非取代——医生的推理能力。'"
【全文结束】
