监管缺失且不安全:专家警告物质使用减少应用的风险Unregulated and unsafe: Expert warns of risks in substance use reduction apps

环球医讯 / AI与医疗健康来源:medicalxpress.com美国 - 英语2025-11-18 22:24:42 - 阅读时长3分钟 - 1272字
专家指出当前物质使用减少类移动健康应用市场存在严重监管真空,多数应用未经科学验证却因广告收益优先而误导用户,系统性综述显示其普遍采用夸大宣传和伪科学语言;生成式人工智能的快速集成进一步加剧风险,导致大量未测试产品涌入市场,可能提供错误健康信息、在危机情境中响应失当或正常化危险行为,严重威胁物质使用障碍患者的治疗与康复;呼吁强制实施食品药品监督管理局审批制度,要求应用通过随机临床试验验证,并建立清晰标注体系与严格执法机制(如罚款或下架),以确保应用科学性、安全性和可靠性,切实保护公众健康权益。
健康物质使用减少移动健康应用生成式人工智能监管缺失循证应用安全风险误导内容FDA审批透明度
监管缺失且不安全:专家警告物质使用减少应用的风险

由佩奇·格拉尔兹撰写,罗格斯大学新不伦瑞克分校

萨迪·哈雷编辑,罗伯特·伊根审阅

《美国医学会杂志》发表的一篇评论文章中,罗格斯健康中心、哈佛大学和匹兹堡大学的研究人员探讨了声称辅助减少物质使用的移动健康及生成式人工智能应用所带来的影响。乔纳·帕特里克·阿勒姆作为罗格斯尼古丁与烟草研究所成员、罗格斯大学公共卫生学院副教授兼该评论主要作者,强调必须加强对移动健康和生成式人工智能等新兴未验证技术的监管,并阐明公共应用市场亟需更完善的规则体系。

阿勒姆指出,提升透明度与实施严格监管可有效防止公众被伪装成可验证公共卫生信息的误导内容所欺骗。

物质使用减少移动健康应用存在哪些问题?

研究表明,部分移动健康应用在受控实验中能帮助用户减少酒精等物质使用,但在现实场景中效果有限。应用商店往往优先推广依赖广告创收的产品而非科学验证的应用,导致最显眼的应用常未经测试或具有误导性。正因广告收益优先的机制,基于证据的应用反而更难被发现。对物质使用减少应用的系统性综述一致表明,绝大多数未能采用经验证的循证方法,反而频繁夸大效果并使用伪科学术语以营造虚假可信度。

如何判断一个应用是否基于证据?

消费者可通过特定指标识别循证应用:是否引用同行评审科学研究、是否由领域专家开发(如与大学、持证临床医生或专业组织合作)、是否经独立评估并在科学期刊发表结果、是否遵循严格数据标准(明确说明数据存储方式并符合HIPAA等法规),以及是否避免"保证效果"等过度承诺。

应用市场中监管和执行的现状如何?

当前监管执行严重缺位。由于移动应用提出的大量健康声明未经证实,庞大用户群体易受错误信息侵害,这将直接阻碍物质使用障碍患者的治疗进程与康复机会。

对在物质使用减少应用中使用生成式人工智能有哪些担忧?

生成式人工智能的快速集成正使健康应用市场充斥未经监管的未测试产品。尽管ChatGPT等通用模型可能提升获取准确健康信息的途径,但存在重大安全漏洞:从提供错误健康指导、在危机情境中响应失当,到将危险行为正常化,均可能对用户造成实质伤害。

消费者如何保护自己免受未监管健康应用侵害?

消费者应避免使用含"临床验证"等模糊表述却无具体依据的应用,或采用过度简化、效果夸大得不切实际的方法的应用。

如何加强生成式人工智能的监管?

监管健康应用市场的有效途径之一是强制要求食品药品监督管理局审批,即应用上市前须通过随机临床试验并达到既定标准。在此之前,清晰标注至关重要——公众需明确区分循证应用与非循证应用。通过建立罚款、暂停服务或强制下架等执法机制,方能确保移动健康应用具备准确性、安全性与责任性。

更多信息: Alex M. Russell 等人,《物质使用减少应用的监管需求》,《美国医学会杂志》(2025)。DOI: 10.1001/jama.2025.19143

期刊信息: 《美国医学会杂志》

由罗格斯大学新不伦瑞克分校提供

引用: 监管缺失且不安全:专家警告物质使用减少应用的风险 (2025年11月17日)

【全文结束】

大健康
大健康