监管机构警告将对违规者采取"定点打击"措施
澳大利亚治疗用品管理局(TGA)表示,随着AI抄写系统在医疗机构的广泛应用,将"强化监管力度",重点针对采用人工智能技术的数字抄写系统。
TGA强调,具备高级功能的AI抄写系统可能需要作为医疗器械进行监管。该机构已启动专项审查,针对部分系统新增诊断建议和治疗方案推荐等功能的情况,这类系统在上市或推广前需通过正式监管审批。
技术特性与监管争议
典型的AI抄写系统使用大语言模型快速转录并总结医患对话内容。部分先进系统已具备建议治疗方案、撰写转诊信件、自动跟进随访、优化计费方案及制定医疗计划的能力。
医疗专家呼吁将先进AI抄写系统纳入医疗器械监管框架,因其处理敏感医疗数据并具备医疗决策支持功能。TGA 7月发布的审查报告显示,部分系统"可能已违反治疗用品法",这些具备诊断或治疗建议功能的系统存在监管合规风险。
该机构表示已开始受理投诉并调查违规报告,将重点处理"非法广告和供应"问题。"我们可能对涉嫌违规行为采取针对性措施",监管机构发言人指出,"虽然目前收到的投诉数量有限,但单个软件可能被大量医疗从业者使用,少量违规产品可能对患者和医疗系统造成重大影响"。
本土企业积极回应
澳大利亚本土企业如海蒂健康(Heidi Health)和莱尔布德健康(Lyrebird Health)已在AI抄写领域取得显著成果,面对监管升级,这些企业普遍持支持态度。
海蒂健康联合创始人兼CEO托马斯·凯利博士表示,虽然当前产品功能尚未达到TGA定义的医疗器械标准,但"若未来新增治疗建议功能,将主动与监管机构对接"。他强调"基于风险比例的执法可保护患者权益,同时为合规开发者创造公平环境"。
i-scribe系统开发公司Akuru表示,尽管其产品不构成医疗器械,但欢迎监管机构对提供诊断建议或治疗方案的未注册产品采取行动。医疗总监艾米丽·鲍威尔博士指出:"我们知道市场存在乱象,部分解决方案已突破合规边界,我们期待更清晰的监管指引帮助临床医生选择安全合规的软件"。
监管滞后引发行业讨论
昆士兰大学商业信息系统副教授赛义德·阿克巴普尔指出,TGA的监管强化是"积极举措"。他引用行业调查数据称,"近半数澳洲医生已在使用或计划使用AI抄写系统,这种快速普及要求立即建立监管框架,而非拖延"。
这位研究AI抄写应用的学者指出,美欧英监管机构也在将具备超越基础转录功能的系统归类为临床技术。他强调,监管框架需要包含动态审查机制,特别是在系统升级、功能扩展或数据保护策略变更时。
专家建议动态监管体系
澳洲AI治理专家科比·莱茵斯博士提出,需建立持续行业审查机制,确保数据收集、存储和共享的安全性。她强调这类系统可能涉及遗传信息和家庭健康数据,泄露风险可能波及未参与治疗的家属。
莱茵斯博士建议建立多维度审查体系,涵盖网络安全、AI伦理、法律合规、医疗安全等要素,并制定医疗从业者持续培训计划。她特别指出,供应商需承担系统变更通知义务,医疗从业者应定期评估软件更新可能引入的新风险。
TGA同时提醒,医疗AI系统除需符合医疗器械监管要求外,还应遵守隐私法、网络安全法和澳大利亚消费者法等法规。
【全文结束】