关键要点
- 人工智能并非单一技术。临床医生应理解机器学习、深度学习、神经网络和生成式人工智能之间的区别，因为每种技术都带来独特的机遇、风险和监管考量。
- 人工智能模型的训练方式至关重要。训练数据可能影响准确性、偏差、可靠性和患者安全，因此验证、透明度和持续监控是负责任地采用人工智能的关键组成部分。
- 在缺乏全面的联邦监管情况下，各州正成为人工智能治理的试验场。临床医生应预期监管沙盒、技术保障措施、审计要求和多州协调努力的讨论将不断增加，因为政策制定者试图在创新与患者保护之间取得平衡。
随着人工智能在医疗保健领域的采用加速，临床医生可能会面临一个超出评估新技术的挑战：理解政策制定者说"人工智能"时的含义。
这一问题是在Telehealth.org于5月29日举办的题为"数字健康中的人工智能：合规导航与政策理解"的网络研讨会上讨论的几个主题之一。该研讨会由Tara Sklar博士、Zach Boyd博士和Brian Miller博士共同主持，他们讨论了在医疗保健中实施人工智能的法律、监管、临床和循证考量。以下主题反映了他们在讨论和后续问答中提出的关键观点。
为什么人工智能定义在医疗政策中很重要
人工智能并非单一技术。相反，它是一个涵盖广泛计算方法的总称，这使得监管和治理特别具有挑战性。
《国家人工智能倡议法案》将人工智能定义为"一种基于机器的系统，针对特定目标，能够对真实或虚拟环境做出预测、推荐或影响决策"。虽然这一定义听起来很直接，但它包括从传统机器学习算法到先进生成式人工智能系统的技术范围。美国食品药品监督管理局(FDA)提供了一个数字健康和人工智能术语表作为教育资源，有助于理解不同的工具和应用。
随着医疗组织部署越来越多的人工智能工具，理解这些区别可能变得越来越重要。
临床医生应了解的关键人工智能类型
- 机器学习指的是能够识别数据中的模式并在未经明确编程的情况下改进性能的系统。例如包括预测分析工具，可识别有再入院或疾病进展风险的患者。
- 深度学习是机器学习的一个子集，使用多层计算来分析大型复杂数据集。许多现代医学成像工具依赖深度学习来检测人类难以一致识别的模式。
- 神经网络是支撑许多深度学习系统的计算结构。受生物神经元通信启发，神经网络通过互连层处理信息，帮助识别数据中的关系。
- 生成式人工智能与许多传统人工智能应用不同，因为它创建新内容而不是简单地分类或预测结果。大型语言模型、图像生成器和人工智能驱动的文档工具是生成式人工智能系统的例子，这些系统正越来越多地出现在医疗工作流程中。
其他形式的人工智能可能专注于基于规则的决策支持、预测建模、计算机视觉或自然语言处理等。每个类别都呈现出不同的机遇、风险和监管考量。
为什么人工智能训练数据对患者安全至关重要
评估临床实践中使用的人工智能系统需要了解其训练方式。
人工智能模型的训练数据可能影响其准确性、可靠性、潜在偏差和局限性。主要基于某一患者群体、医疗系统或地理区域数据训练的工具，在其他环境中可能表现不佳。世界卫生组织《人工智能健康伦理与治理》资源指出："如果特定种族或族裔少数群体(或其他群体)在数据集中代表性不足，可能需要对该群体进行相对于其人口规模的过采样，以确保人工智能技术在该群体中达到与代表性较好群体相同的质量结果。"
这些局限性引发了关于患者安全、临床有效性和公平性的重要问题，这些问题已受到美国食品药品监督管理局和国际医疗器械监管机构论坛的审查。医疗提供者可能需要越来越多地询问系统是否已在与其自身患者相似的人群中进行评估，输出是否可以独立验证，以及该技术是否已证明具有有意义的临床效益。
了解模型如何继续学习也很重要。一些系统在部署后保持静态，而其他系统则经历定期更新，影响随时间的性能。临床医生和医疗机构可能需要治理流程来监控这些变化并识别意外后果。
为什么医疗人工智能监管难以跟上步伐
涵盖在人工智能范畴下的技术广度使政策制定工作复杂化。与传统医疗设备不同，人工智能系统可能在开发、部署和实施过程中不断演变。新模型频繁发布，训练方法持续变化，医疗机构通常在采用后将工具调整到本地工作流程。
因此，政策制定者面临监管不断变化技术的挑战，同时平衡创新、患者保护和公众信任。由于各州对人工智能的定义缺乏统一性，这一挑战进一步加深。
州级人工智能法律如何影响医疗政策
在缺乏全面联邦立法监管医疗人工智能的情况下，各州已开始发展自己的方法。
Tara Sklar博士及其同事的研究突显了各州如何以明显不同的方式定义人工智能治理。该研究确定了三个州正在成为人工智能立法实验室，而联邦政策制定者仍在辩论更广泛的框架。
犹他州采取了相对注重创新的方法，强调透明度和监管灵活性，同时鼓励负责任的人工智能发展。该州因其监管沙盒而闻名，允许组织在严格控制的环境中测试新兴技术。
内华达州强调执照和专业责任，重点关注人工智能工具如何与现有医疗法规和临床医生责任相交。
伊利诺伊州通过美国最严格的政策之一强调执照和专业责任，重点关注人工智能工具如何与现有医疗法规和临床医生责任相交。
医疗人工智能监管的下一步
随着人工智能政策制定的演变，医疗专业人员可能会遇到几个反复出现的概念。随着各州寻求鼓励创新同时保持监督，监管沙盒可能会变得越来越普遍。政策制定者继续探索旨在减少监管碎片化并为跨州运营的医疗机构创建更一致期望的多州协调努力。技术保障措施、透明度要求、审计流程、偏差监控和文档标准也出现在拟议和已实施的立法中。
随着医疗机构越来越多地采用人工智能工具，理解技术的功能、训练方式和治理方式的能力可能成为现代临床实践的核心能力。
披露：
- 本文使用人工智能辅助研究工具开发，并由Telehealth News编辑团队进行编辑以确保准确性和清晰度。
- Telehealth.org于2026年5月29日举办了"数字健康中的人工智能：合规导航与政策理解"网络研讨会。
【全文结束】