也许您已经使用过"人工智能"，又或者您可能无法接受这一概念。在登录聊天机器人之前，尤其是在涉及您的健康与人工智能时，有许多利弊需要考虑。
什么是人工智能？
当我们谈论当今应用中的"人工智能"时，有许多不同的技术都属于这一总称。过去几年的许多兴奋点都集中在一种称为大语言模型（LLM）的技术上（例如OpenAI的ChatGPT或Anthropic的Claude）。这些计算机系统扫描大量数据，并利用数据中的模式来创建响应。
可以这样理解大语言模型。想象一下，您进入一个图书馆，阅读所有的书籍，聆听所有的音频光盘，或观看图书馆内的所有电影，然后被问及相关主题的问题。您的回答会从您所读、所听或所看的内容中提取，将大量知识总结为简短的回答。
现在想象一下，对世界上大多数图书馆都进行同样的操作。大语言模型（或AI）程序已被赋予大量数据，供人们在向当前可用的众多AI系统之一输入提示时随时参考。人们已经并将继续将这些系统用于广泛的应用，科技公司也在不断寻找将AI整合到现有传统产品中的方法——例如，微软已将其AI助手CoPilot引入Microsoft 365套件的各个程序中，包括Word、Excel、PowerPoint和Outlook。
这项技术及其使用方式有许多利弊。人工智能正在快速发展——很难预测它在长期内会有多大帮助或危害。
人工智能在医疗保健中的应用方式
AI编程已进入医疗保健领域。一项对早期研究评估AI在医疗保健中应用的综述指出，AI已被用于改进手术、在医疗保健系统内做出更好的数据驱动决策、增强患者能力，并通过早期诊断节省资金。在一项早期测试中，研究人员发现，经过训练的AI程序可以帮助临床医生诊断表现出阿尔茨海默病或中重度抑郁症的老年患者。在实际应用中，这意味着认知能力下降的患者可能更快获得诊断和治疗，从而带来更好的结果。
AI与医疗保健的一个例子最近出现在电视上。在HBO Max剧集《匹兹堡医院》第二季的开头，一位医生建议使用一种名为"环境记录员"的AI工具，该工具可以聆听医生与患者在就诊期间的对话，并自动生成临床记录。虽然提供者必须彻底审查生成的文档，但医生可以在就诊期间专注于患者，而不是在电脑上输入笔记。这个场景基于已在一些医疗机构中可用的技术。
布朗大学健康如何使用AI改善患者护理
"作为一个组织，我们正在采用安全、负责任的AI使用方式，使患者更容易获得护理并改善护理团队的工作流程，"布朗大学健康人工智能总监马修·巴特勒（Matthew Butler）表示。"我们已创建了强大的跨职能工作组来审查任何AI用例，确保有适当的保护措施和保障措施到位，以保护患者和员工的安全。"
患者可能开始受益于AI使用的一些方式包括环境记录技术，他们可能很快会在布朗健康医疗集团初级保健就诊中遇到。该技术使提供者能够更加专注——在与患者互动时，提供者可以专注于面前的人，而不是将注意力集中在将文档输入计算机上。就诊后，提供者将审查环境记录工具生成的文档，以确保其准确性——始终将临床和专业判断纳入考虑，同时在患者与其医疗提供者之间建立更个性化的联系。
AI还可能帮助患者获得尖端治疗——目前仍处于早期阶段，但一些团队成员正在研究将AI纳入临床试验过程的方法。这些程序可用于将患者与临床试验匹配，快速确保他们符合任何必要标准，并可能加快诊断与治疗之间的时间线，这可能会通过新型治疗显著改善患者结果。
未来，使用MyChart的患者可能会发现一个AI虚拟助手——类似于许多网站上的帮助聊天功能——可以帮助他们轻松找到有关即将进行的预约、处方续签或获取简单问题的实时回答的信息。对于医院里的患者，AI帮助聊天可以为他们提供有关停车、探视时间、餐饮等信息。
提高患者获取和理解能力
布朗大学健康最早且最广泛使用的AI之一极大地帮助了患者。每位患者——不仅是在布朗大学健康，而是美国每家诊所的患者——都必须签署患者同意书，概述他们正在接受的治疗、该治疗的风险和益处以及治疗的替代选择。这些同意书也可能难以阅读。柯蒂斯·多伯斯坦（Curtis Doberstein）博士、罗海德·阿里（Rohaid Ali）博士和法蒂玛·米尔扎（Fatima Mirza）博士领导了布朗大学健康的一组提供者，他们使用AI分析了来自不同医疗中心的十多个同意书，并创建了一个更易于阅读的同意书，使患者更容易理解所要求的内容并提供知情同意。新的表格以八年级水平编写，而不是之前的大学水平，并且显著更短，同时仍然包含患者所需的所有必要信息。
让患者真正使用他们的声音
阿里博士和米尔扎博士还与同事合作，在一位年轻女性失去声音后帮助她恢复了声音。亚历克西斯·博根（Alexis Bogan）在大脑后部有一个危及生命的肿瘤；在手术切除肿瘤后，亚历克西斯必须接受数月的康复治疗以帮助她恢复吞咽能力，而她的声音从未完全恢复。
通过使用来自视频的亚历克西斯声音的短片段和"AI"程序，该团队能够生成一个听起来相似的声音，亚历克西斯可以用她的手机控制。这项技术使亚历克西斯以及其他因疾病、中风或其他原因失去声音的患者能够以一种与其自我意识相连接的方式进行交流，而不是使用她可能不得不使用的机器人声音。
人工智能如何对健康有害
尽管AI技术有许多积极用途，但也有许多理由需要谨慎对待。
幻觉和错误诊断
AI的一个主要批评，不仅限于医疗保健领域，是其倾向于"产生幻觉"，或提供基于事实甚至现实的回答。这些程序通常以一种使用户想要保持参与的方式进行编码，在这样做的过程中，它们有时会"创造"最有可能获得用户信任的答案——即使该答案非常错误。杜克大学医学院的一位研究人员正在研究AI聊天机器人如何在技术上正确但危险地缺乏上下文。他们发现，被编程为"讨好用户"的聊天机器人会提供危险的回应——一位用户询问如何在家中执行医疗程序，聊天机器人解释了如何操作——即使它警告说这应该仅由训练有素的专业人员进行。在其他情况下，聊天机器人提供了错误的诊断或药物信息。通过分析患者与聊天机器人进行的真实世界对话，研究人员发现，"患者提问的方式与聊天机器人的测试方式完全不同——真实患者提出的问题可能是情感化的、引导性的，有时甚至是危险的。"
缺乏监管和代表性不足
AI聊天机器人是在提供给它们的数据上进行训练的——每次使用聊天机器人都可能向它们提供额外数据。如果用户提供敏感数据，如他们的健康史，该聊天机器人及其母公司可能现在可以访问这些信息——而且没有关于如何保护这些数据、存储多长时间或公司未来如何使用这些数据的监管。
也无法确定母公司可能会做出什么改变。几年前，国家饮食失调协会与一家公司合作开发了一个基于规则的聊天机器人，该机器人仅旨在为用户提供预编程答案。在国家饮食失调协会不知情的情况下，该公司推出了包含生成式AI功能的升级——因此，旨在帮助和支持饮食失调患者的聊天机器人开始做完全相反的事情，为已经挣扎的人创建强调减肥和极端节食的答案。
人们可能转向聊天机器人寻求医疗关注有一些可以理解的原因——缺乏负担得起的医疗选择，或者在更偏远地区的医疗选择根本就很少。最可能难以获得护理的人也是聊天机器人数据集中最可能被代表不足的人。一般聊天机器人的数据取决于提供给程序的信息，历史上，医学研究主要集中在白人男性身上。这在医学研究中正在改变，更多的研究被设计为包括所有背景的人，但旧数据的总量远远超过更新、更具包容性的数据。一份报告估计，数十亿人在诊断模型、风险评估和治疗算法中基本上是"隐形的"。
人工智能与心理健康
迄今为止，AI使用的最广为人知的负面效应之一可能是其对心理健康的影响。根据国家心理健康联盟的一项调查，12%的成年人可能在接下来的六个月内使用AI聊天机器人进行心理健康护理，1%的成年人表示他们已经在使用。然而，许多AI聊天机器人没有提供心理健康护理的培训。
这可能带来危险的后果。布朗大学的一个团队研究了大型语言模型对心理健康提示的反应，发现与这些模型相关的几个伦理风险，包括缺乏安全性和危机管理。研究团队还指出，聊天机器人经常加剧用户的孤立感或抑郁感。在AI和心理健康方面缺乏护栏可能会加剧一个人的心理健康危机，而不会提供任何适当的支持。
如何安全使用人工智能
AI程序有许多有益的方式，也有许多有害的方式。使用AI来自动化重复性任务或分析大量数据可以节省我们的时间，使我们能够将生活用于与我们关心的人一起做我们喜欢的事情。如果您选择使用AI聊天机器人讨论您的健康问题，请注意其缺点、风险和局限性——但请务必先致电您的初级保健提供者或前往急诊中心寻求可信的医疗服务。
内容由布朗大学健康首席数字官亚当·兰德曼（Adam Landman）博士和布朗大学健康人工智能总监马修·巴特勒（Matthew Butler）审核。
【全文结束】
