纽约州立法者正在审议一项法案，该法案将限制人工智能聊天机器人冒充持证专业人员向用户提供医疗建议。这一标准与现有法律中关于“未经授权执业”或“未经授权使用专业职称”的定义挂钩（而非仅针对任何与健康相关的对话）。
该提案为参议院法案S7263，由代表第59选区的民主党参议员克里斯滕·冈萨雷斯提出。该法案近期在纽约州参议院互联网与科技委员会获得全票支持，并作为一项更广泛的人工智能系统监管法案包的一部分向前推进。
若通过，该措施将禁止AI聊天机器人冒充持证专业人员提供回复。
要点速览
- AI建议禁令： 纽约州一项法案将禁止AI聊天机器人提供可能被视为未经授权职业执业的医疗或法律建议。
- 用户可起诉： 该立法包含私人诉讼权，允许个人对违反规定的聊天机器人公司提起诉讼。
- 透明度要求： 聊天机器人平台必须明确告知用户他们正在与人工智能交互。
严管AI
根据该法案，聊天机器人运营商将面临多项新要求和限制，包括：
- 禁止AI系统冒充医生、护士或律师等持证专业人员。
- 禁止AI机器人和系统提供可能构成医疗或法律建议的“实质性回复”。
- 要求公司明确告知用户他们在与人工智能而非人类交互。
- 所有AI通知必须清晰、醒目，并使用与聊天机器人相同的语言，且格式易于阅读。
- 最后，即使添加了披露声明，公司仍可能因聊天机器人违法而承担责任。
若该法案颁布，将在州长签署后90天生效。
该法案还明确表示，它不会阻止用户向AI提问，即使是与健康相关的问题，但其目的是阻止AI“假装”成持证专业人员。它也不阻止用户从AI获得一般性建议或信息，前提是AI机器人没有以持证专业人员的身份出现。
用户可对AI公司提起诉讼
该法案最引人注目的条款之一是纳入了私人诉讼权，允许个人起诉违反规则的聊天机器人公司。
成功提起诉讼的用户可以获得损害赔偿和律师费。
法律专家通常认为私人诉讼权是一种强大的执法机制，因为它允许个人（而非仅政府监管机构）追究公司责任。
支持者认为，这一条款可以威慑公司部署那些冒充医疗专业人员或提供误导性指导的聊天机器人。
更广泛AI监管努力的一部分
该提案是纽约州更广泛立法努力的一部分，旨在监管快速发展的AI技术。
同一法案包中的其他法案（例如S9051）将要求：
- 对生成式AI系统进行明确标注
- 建立处理生物识别数据和合成内容的规则
- 为与聊天机器人互动的未成年人提供保护
- 解决某些儿童在线平台（如Roblox）上的安全问题
该立法出台之际，AI平台正面临越来越多的诉讼。例如，Character.AI和谷歌最近就涉及未成年人及聊天机器人互动的案件达成了和解，家长称这些互动导致孩子自残等安全问题。
安全使用技术
医疗专家越来越担心人们使用AI聊天机器人获取医疗建议，却未意识到该技术的局限性。
大型语言模型可以生成令人信服的回复，但可能产生错误或误导性的健康信息，有时被称为“AI幻觉”。
冈萨雷斯参议员指出，纽约州已记录到AI聊天机器人明确冒充持证医疗专业人员，甚至在提供医疗建议时向用户提供虚假医疗执照号码的案例。她说，该法案将禁止此类行为，并强调立法的目标是确保创新不以牺牲公共安全为代价。
“人们应该从真人那里获得真正的关怀，”她在宣布委员会立法议程的声明中表示，“他们应该获得透明度、问责制，以及在使用技术时数据安全的承诺。”
🤔护士们，欢迎在下方讨论区分享你们的看法！
如果您有值得关注的护理新闻故事，希望让更多人听到，我们愿意将其传播给我们数百万护士的庞大社区！请将您的故事提交给Nurse.org编辑——点击此处填写快速提交表格！
作者简介
Chaunie Brusie，BSN，RN，是一位从护士转型的作家，拥有重症监护、长期护理和产房护理经验。她的作品曾出现在《Glamour》、《纽约时报》和《华盛顿邮报》等媒体。她与丈夫和五个孩子住在密歇根州的一片干草田中。您可以在其个人网站上查看更多作品。
教育背景： 萨吉诺谷州立大学护理学学士（BSN）
专业领域： 护理、女性健康、健康养生
【全文结束】