澳大利亚医学协会（AMA）呼吁建立一个针对医疗行业的特定监管框架，该框架应根据每个应用的风险进行评估，以应对这一高风险领域。
本周，AMA发布了两份关于人工智能（AI）的报告（以及一份关于辅助技术的报告）。需要创新解决方案来缓解负担过重的劳动力，同时保持对风险规避的倾向——鉴于产品（人类健康和健康数据）的敏感性质——这导致了关于AI及其在医疗行业中的地位的矛盾对话。
尽管AI已经在医疗行业的许多领域得到应用，但对其监管的担忧仍然存在，正如通常情况下，法规总是落后一步（甚至更多）。因此，卫生和老年护理部上个月就AI的框架问题展开了咨询。
该部门在咨询报告中表示：“当前的立法和监管框架未能充分降低潜在危害。” 在其对《医疗保健中安全和负责任的人工智能——立法和监管审查》的回应中，AMA认为高风险的医疗行业需要一个量身定制的多层次监管框架，该框架应根据每个应用的风险进行评估。
在向工业、科学和资源部提交的关于拟议强制性防护措施的咨询报告中，AMA建议政府实施一套框架立法，并对现有立法进行相关修正，作为支持主动、行业特定的AI监管的整体政府方法。该方法承认已经有效的监管结构，并专注于建立新的、针对医疗AI应用的上市前保障措施和风险管理措施。
框架方法旨在实现处理AI风险的部门特定立法工具之间的协调，以建立全国一致性，统一各司法管辖区和行业的监管术语和权力。医疗行业特定的监管应整合到当前的监管框架中，例如TGA（治疗用品管理局）在医疗器械监管中的角色，并补充更广泛的国家AI监管机制。
AMA呼吁成立一个由临床医生、医疗专业人士、消费者和技术开发者组成的专门机构来支持监管。AMA认为，监管应遵循临床独立性不应被AI损害的原则，也不应被非医疗专业人士用于质疑临床决策。任何由AI引起的错误的责任和问责制也必须明确。数据隐私必须受到保护，机器学习的数据使用必须具有包容性和代表性，以减少偏见。
本月AMA的另一份AI中心报告——对TGA关于澄清和加强AI监管的咨询报告——重点关注TGA管辖范围内可能纳入AI的医疗器械的监管。AMA表示，TGA将在实施医疗行业特定的AI监管策略中发挥关键作用。AMA此前曾表示，依赖技术创新者的自我监管对消费者和医疗专业人士构成不可接受的风险。
AMA认为，AI领域的进步将主要由自由市场、以利润为导向的实体推动，这些实体必须受到严格问责，并有明确的参数，以确保AI在医疗保健中的伦理和安全使用。
尽管对TGA的“健全系统”充满信心，但AMA表示AI是一个特殊需求领域。AMA表示，现有的TGA分类规则为管理医疗器械的创新提供了坚实的基础。然而，AI的特性要求更广泛的监管，适应快速变化。许多软件设备将逐渐纳入AI组件。AMA重申，某些软件排除在监管之外的要求需要重新评估，因为复杂性不断增加。数据作为AI生态系统的力量源泉，跨越了不同的司法管辖区，增加了系统的复杂性。参与数据治理也应成为监管使用AI的软件作为医疗器械（SaMD）的核心关注点。AMA表示，应利用TGA对高风险产品施加更严格要求的机制，以支持医疗实践中AI的“负责任部署”。
(全文结束)
