一位Bluesky用户最近发现，其医生一直在使用AI聊天机器人查询治疗信息并转录预约记录。用户的反应并非愤怒——而是一种更为矛盾的情绪。该用户指出，这款工具至少是"专为医疗用途设计"的，据称会引用来源，并点名OpenEvidence为相关系统。[¹] 帖子末尾的":("表情发挥了很大作用。这个单一字符捕捉到了围绕医疗AI的广泛讨论一直在绕圈却难以明确表达的内容：即"正在发生"与"可以接受"之间的区别已经消失，而患者是在事后才得知这一情况。
时机令人不安。研究人员在研究主要AI聊天机器人时发现，它们会编造疾病，提供不可靠的癌症治疗建议，甚至会将患者引离已批准的疗法；至少有一个记录在案的案例显示，西雅图一名男子因根据Perplexity AI的错误建议而延误治疗，最终死于癌症。[²] 据一项在讨论中流传的研究显示，聊天机器人对医疗问题的回答中近一半被描述为"有问题"。[³] 这些发现并非新事物——这一模式已记录超过一年——但它们不断浮出水面，因为研究显示的情况与实际临床环境中部署的现实之间的差距正在扩大。正如围绕医疗AI形象问题的讨论所表明的，最响亮的争论通常不是关于技术本身，而是关于失败时谁应该负责。
这种不和谐感是双向的。一篇广为流传的帖子认为，在专业会议上，AI模型在医学知识测试中表现超过了医生——这促使专家警告系统性缺陷，保险公司寻求责任豁免。[⁴] 一位放射科医生的转变故事也在流传：从"我不需要这个"的怀疑者变成了"无法想象没有它"的拥护者，据说这种情况"几乎每次都会发生"。这两个极端——聊天机器人导致癌症患者死亡，AI在知识测试中得分超过医生——代表了当前讨论的真实形态。两者都是真实的。社区尚未找到一种方法，能够同时容纳这两者而不让其中一个抵消另一个。
使讨论更加尖锐的是另一个并行的争论：究竟在讨论哪种AI。讨论中有一种声音反对将临床级工具与消费聊天机器人混为一谈，认为严肃的医疗应用使用的是"离散的小型数据库"，而非建立在"肯尼亚低薪工人"基础上的大型生成模型。[⁵] 这一区别在实践中至关重要，却几乎从未进入媒体报道——媒体往往将"医疗AI"视为单一类别。关于AI在医疗工具中编码偏见的研究，以及AI临床记录的问题记录，都指向同一个缺口：真正能保护患者的精细化、系统特定的责任体系，恰恰是宏观报道所缺失的。有人致电心理治疗师办公室却得到AI应答服务——这一场景本周引发了真正的愤怒，伴随着"给我一个人类"的恳求[⁶]——这与放射科AI发现主治医生漏诊的肿瘤是不同的问题。将这两件事混为一谈，使得两者都更容易被忽视。
这里的趋势并非走向解决。开发者将AI临床工具发布到r/medicine论坛时被版主移除，而这些工具本身却通过实际临床实践不断扩散。发现医生使用AI聊天机器人的患者不会阻止这种部署——他们只会稍微减少对医生的信任，并可能独立转向使用同样的聊天机器人，结果更糟。讽刺的是几乎过于完美：临床环境中AI产生的不信任正驱使患者转向那些明显更差的消费级AI工具。这种循环就是故事本身，而且它不会放缓。
【全文结束】
