过去几年，科技行业一直让人们相信，人工智能聊天机器人输入的数据越多，就会变得越好。下一步是让用户分享他们最敏感的信息：健康记录。
会出什么问题呢？
微软本周推出了一款工具，允许用户将来自多家医疗机构的记录分享给其聊天机器人Copilot。这些记录可以与用户健身设备（如Apple Watch）收集的数据结合。分析所有信息后，聊天机器人会为用户生成一份健康问题的宏观概览。
微软的这一声明与亚马逊、OpenAI和Anthropic的举措相呼应，这些公司今年也开始测试类似工具——Health AI、ChatGPT Health和Claude for Healthcare。这些公司通过收集健康数据并提供直接反馈，正在踏入危险区域。它们的AI聊天机器人此前曾因导致部分用户出现精神病、孤立和不健康习惯而登上新闻头条。
（《纽约时报》已起诉OpenAI和微软，指控其AI系统侵犯新闻内容的版权。两家公司否认了诉讼中的指控。）
在接受采访时，医生们表示，聊天机器人辅助医疗护理可能有好处，例如在医疗越来越昂贵的时候帮助人们了解自己的健康状况。但与科技公司分享健康记录会带来大量隐私风险。和过去那些让人们过度担忧健康的技术一样，聊天机器人也可能导致不必要的就医。
以下是您需要了解的内容。
这将如何运作？
在微软的Copilot网站和移动应用中，用户可以点击“健康”标签，通过回答年龄和性别问题来创建个人资料。然后，用户可以选择分享自己的健康记录以及来自Apple Watch、Fitbit和Oura睡眠追踪器等设备的数据。
用户可以通过说“我最近睡得不好”之类的话来向聊天机器人提问或描述症状。聊天机器人随后分析健康记录和可穿戴设备数据，做出观察，例如自最近一次住院以来的睡眠趋势。
聊天机器人还可以生成一个“底线”摘要，列出需要注意的健康问题，如睡眠不足、糖尿病和体力活动不足。
Copilot Health今年推出时，用户最初可以免费试用。微软表示计划对该工具收取订阅费，但未透露价格。
潜在的好处有哪些？
患者导航医疗记录时混乱而繁琐，因为信息可能分散在不同医疗机构使用的各种数据库中。（例如，如果患者的足科医生使用了不同的记录系统，初级保健医生可能难以对足部受伤提供反馈。）微软的人工智能可以帮助连接来自许多不同医疗提供者的信息，以及用户的健身设备数据。
微软表示，医生可能需要数小时才能手动审查完一个人的所有医疗记录和健身设备数据，从而得出健康方面的宏观概览。它称Copilot Health可以在几秒钟内完成。
微软AI部门健康业务副总裁Dominic King博士说：“这是为了给消费者和患者提供对其自身记录的惊人洞察和智能，帮助他们驾驭我们为他们创造的非常复杂的挑战和系统。”
随着医疗成本上升，许多美国人正在放弃医疗保险。AI聊天机器人可以成为一种低成本的方式，帮助人们更关注自己的健康并研究症状信息，类似于在WebMD等网站上进行网络搜索。
风险是什么？
近年来，网络攻击已攻破医院和医疗系统。约翰霍普金斯大学计算机科学副教授Matthew Green表示，将健康记录集中在一个地方，会使这些信息成为更有吸引力的犯罪目标。受害者的健康数据可能暴露其希望保密的情况。
Green博士说：“这是一个高价值数据的金矿，集中在一处，人们可以获取。”
同样，电子前哨基金会数据隐私律师Mario Trujillo表示，想要获取个人健康记录的执法机构可以去找微软，而不用去找多家医疗机构。他补充说，在禁止堕胎的州寻求生殖健康护理的女性可能面临更高风险。
此外，严格保护患者隐私的《健康保险流通与责任法案》（HIPAA）并不适用于提供聊天机器人的科技公司。因此，这些公司——即使提供类似服务也并非医疗机构——可以随意处理健康记录，例如利用这些信息训练AI或展示与用户健康状况相关的广告。
微软表示，人们的健康数据将被加密，不会用于改进其AI或投放定向广告。该公司还表示，只有在收到合法请求时才会向执法机构提供客户数据。
聊天机器人的健康建议可信吗？
微软表示，Copilot Health旨在帮助人们了解自己的健康并准备就诊，而不是取代医生的专业知识。其新闻稿中包含免责声明，称该聊天机器人“不旨在诊断、治疗或预防疾病”。
西奈山医疗系统首席AI官Girish Nadkarni博士表示，认为用户不会向可以访问其所有医疗记录的聊天机器人寻求诊断和建议，这是一种天真的想法。
“当然，你可以附上免责声明，告诉人们不要那样使用，”他说。“但人们还是会那样做。这就是人性。”
迄今为止，研究表明聊天机器人尚未准备好承担这一责任。
上个月发表的一项研究分析了包括OpenAI和Meta在内的多个聊天机器人，发现它们在引导用户获得正确诊断或帮助其决定下一步行动方面，并不比网络搜索更好。而且该技术带来了独特风险，有时会呈现虚假信息，或者因问题措辞的细微变化而大幅改变建议。
这些弱点已经导致了一些引人注目的错误。例如，一名60岁男子在ChatGPT建议通过食用溴化钠来减少盐摄入后，被关在精神科病房数周，导致出现偏执和幻觉。
OpenAI表示，当前版本的ChatGPT在回答健康问题方面比研究中测试的（现已淘汰的）模型要好得多。Meta未回应置评请求。
一些新研究表明，即使是针对用户健康问题定制的模型（如ChatGPT Health）也存在风险。当Nadkarni博士及其同事将假设的医疗案例细节输入该模型（该模型于1月发布）时，它遗漏了高风险紧急情况，在一个案例中未能建议即将发生呼吸衰竭的人前往急诊室。
田纳西州前卫生专员Lisa Piercey博士表示，另一个风险是聊天机器人对健康问题的基本总结可能会产生焦虑。这个季节的鼻窦头痛很可能是过敏症状，但聊天机器人可能会提出更严重疾病的可能性，导致不必要的就医。
“它很有可能会告诉你得了脑瘤，”她说。“这会引起大量焦虑。”
Copilot Health也尚未接受独立研究员的研究。微软的King博士表示，该聊天机器人旨在即使在面对尖锐问题时也能避免提供医疗建议，而是提供“指导和支持”。它不会告诉用户患有特定疾病，而是可能提供一系列可能的诊断。或者，它不会推荐药物，而是提供一些用户可以向医生提问的问题。
该公司还表示，正在逐步推出Copilot Health，每一步都用少量用户测试新功能，以确保体验安全可靠。
Brian X. Chen是《纽约时报》首席消费科技记者。他评测产品并撰写“Tech Fix”专栏，探讨科技使用的社会影响。
Teddy Rosenbluth是《纽约时报》记者，报道健康新闻，特别关注医疗虚假信息。
【全文结束】