本月初,莱拉健康(Lyra Health)宣布推出一款"临床级"AI聊天机器人,帮助用户应对倦怠、睡眠障碍和压力等"挑战"。其新闻稿中出现了十八次"临床"一词,包括"临床设计"、"临床严谨"和"临床培训"等表述。对大多数人(包括作者本人)而言,"临床"一词暗示着"医疗"。但问题在于,它并不等同于"医疗"。事实上,"临床级"根本没有任何实际意义。
"临床级"是营销浮夸的一个典型例子,旨在借用医学权威,却无需承担相应责任或接受监管。它与其他热门营销短语并列,如用于钢铁、硅胶和补充剂的"医用级"或"制药级",暗示产品质量;用于乳霜和药膏的"处方强度"或"医生配方",表示效力;以及"低致敏性"和"不致痘"等术语——分别表示降低过敏反应几率和不堵塞毛孔——但这些都没有标准定义或测试程序。
莱拉高管已证实,他们认为美国食品药品监督管理局(FDA)的监管不适用于其产品。他们声称,新闻稿中的医学语言——将聊天机器人称为"临床设计的对话式AI指南"和"首个用于心理健康的临床级AI体验"——只是为了帮助其在竞争中脱颖而出,并展示开发过程中的严谨态度。
莱拉将其AI工具定位为由治疗师和医生等人类员工提供的心理健康服务的补充,让用户在咨询间隙获得全天候支持。据Stat新闻报道,该聊天机器人可以调用之前的临床对话,提供放松练习等资源,甚至使用未指明的治疗技术。
这种描述引出了一个显而易见的问题:这里的"临床级"到底意味着什么?尽管大量使用这一术语,莱拉并未明确说明。该公司未回应The Verge的置评请求,也未提供"临床级AI"的具体定义。
"术语'临床级AI'没有特定的监管含义,"加州大学旧金山法学院的医生兼法学教授乔治·霍瓦特(George Horvath)表示,"我找不到任何提及该术语的FDA文件。它肯定不在任何法规中,也不在任何条例里。"
与其他热门营销术语一样,这似乎是公司自己创造或借用的。"这显然是一个来自行业的术语,"霍瓦特说,"在我看来,它似乎没有单一的含义……每家公司可能都有自己的定义。"
尽管"该术语本身意义不大",美国心理学会医疗创新办公室高级主管、持证心理学家韦尔·赖特(Vaile Wright)表示,莱拉为何想依赖它显而易见。"我认为这是某些公司创造的术语,旨在拥挤的市场中作为差异化标志,同时有意避免落入美国食品药品监督管理局的管辖范围。"FDA负责监管药品和植入物等食品和医疗产品的质量、安全性和有效性。有些心理健康应用确实属于其管辖范围,开发者必须通过严格的临床试验等步骤,证明其产品安全有效地实现所声称的功能,才能获得批准。
赖特表示,FDA审批流程对开发者来说既昂贵又耗时,这种"模糊语言"成为脱颖而出的有用方式。她表示,这对消费者来说是个挑战,但这是允许的。她说,FDA的监管途径"并非为创新技术而设计",这使得一些用于营销的语言显得不协调。"在心理健康领域你确实看不到这种情况,"赖特说,"没有人到处说'临床级认知行为疗法',对吧?我们谈论它的方式并不是这样的。"
除了FDA,联邦贸易委员会(FTC)的使命包括保护消费者免受不公平或欺骗性营销的影响,可以决定某些语言过于模糊并误导公众。FTC主席安德鲁·弗格森(Andrew Ferguson)今年早些时候宣布对AI聊天机器人展开调查,重点关注其对未成年人的影响——尽管仍优先考虑"确保美国在这一令人兴奋的新行业中保持全球领导地位"。FDA和FTC均未回应The Verge的置评请求。
"尽管公司'绝对想要两全其美',"德国德累斯顿工业大学医疗设备监管科学教授斯蒂芬·吉尔伯特(Stephen Gilbert)表示,"但监管机构应简化要求并明确执法。如果公司能够合法地(或非法地逃避责任)提出这类主张,他们就会这么做。"
这种模糊性并非AI独有——心理健康领域也有众多科学听起来很"专业"的"健康"产品,承诺严谨但不受监管。语言模糊性像面包上的霉菌一样遍布消费文化。"临床测试"的化妆品、"增强免疫力"的饮料以及承诺包罗万象的维生素,都生活在一个监管灰色地带,让公司可以做出广泛、听起来科学的声明,但不一定经得起推敲。AI工具只是继承了这种语言上的障眼法。
公司谨慎措辞,以使应用程序避开FDA的监管范围,并传达一定程度的法律豁免权。这种现象不仅出现在营销文案中,也出现在细则中。大多数AI健康工具在其网站或条款条件中强调,它们不是专业护理的替代品,也不旨在诊断或治疗疾病。从法律上讲,这阻止它们被归类为医疗器械,尽管越来越多的证据表明人们正在将它们用于治疗,并且可以在没有临床监督的情况下访问这些工具。
Slingshot AI的消费者治疗应用Ash明确而模糊地针对"情绪健康"进行营销,而莱拉在雇主健康领域的竞争对手Headspace则将其"AI伴侣"Ebb吹捧为"你心灵的新朋友"。所有这些都强调其作为健康产品而非可能使其符合医疗器械资格的治疗工具的地位。即使是ChatGPT等通用机器人也带有类似的免责声明,明确否认任何正式医疗用途。信息是一致的:表现得像治疗,但坚称它不是。
监管机构开始关注。FDA计划于11月6日召集一个咨询小组,讨论AI赋能的心理健康医疗器械,尽管鉴于政府关门,尚不清楚这是否会如期进行。
然而,莱拉在"临床级AI"方面可能正在玩一场危险的游戏。"我认为他们将非常接近诊断、治疗以及所有可能将其踢入医疗器械定义的界限,"霍瓦特说。
与此同时,吉尔伯特认为AI公司应该直截了当。"在试图假装不提供临床工具的同时谈论'临床级'是没有意义的,"他说。
【全文结束】


