（《以为在和医生聊天？再想想吧》）Think you’re chatting with a doctor? Think again.

我们不仅在谈论机器人，还在谈论技术，特别是医生正在获得一些帮助，以更好地与患者沟通。这是一种很好的表述方式。我相信医疗行业会对此表示赞赏。我在这件事上可能会说得更直白一点。我们在这里谈论的是 Mychart 应用程序。自疫情以来，您无疑已经通过这个应用程序与您的医生进行了沟通。您看，实际上全国的每家医院都使用 Mychart 作为医生和患者之间的沟通手段。您可能不知道的是，最近，Mychart 在程序中加入了一个聊天机器人，这样忙碌不堪的医生（他们真的非常忙）在回复大量需要处理的消息和电子邮件时就能走个捷径。在理想情况下，您给医生发送消息，聊天机器人会给出一个回复的草稿，然后您的医生会进行检查、修改和校对等工作。但不幸的是，很多医生没有那么多时间，所以您可能会从一个软件程序中获得纯粹的医疗建议。更糟糕的是，并非所有医院都披露消息可能是由人工智能生成的。有些医院会说明，但并非全部。更糟糕的是，这个聊天机器人能够学习和模仿您医生的声音。所以您不一定知道回复是由聊天机器人还是您的医生写的，因为它是以他或她的声音和语调呈现的。这就更麻烦了。这现在已经成为一个问题，因为很明显，医生的情况不会变得更容易。他们已经不堪重负了。这个聊天机器人和所有聊天机器人一样，提供了一种提高生产力的工具，有助于缓解这些压力。但现在我们谈论的是医疗保健。《纽约时报》举了一个例子，一名女子联系她的医生问一个简单的问题：我需要接种乙型肝炎疫苗吗？她的医生回复说不需要。但她不知道的是，这不是她的医生发的。是聊天机器人回复的，聊天机器人说您不需要乙型肝炎疫苗，因为您最近已经接种了足够的针剂，已经有保障了。结果发现这完全是编造的。聊天机器人无法访问该女子的疫苗记录。它没有说也许需要，也许不需要，而是简单地说不需要。我已经查看了记录，您没问题。再说一次，这完全是虚构的。现在我们谈论的是医疗保健。所以这些事情，也许在这个案例中不是，但在其他案例中可能代表着生死抉择。这显然非常非常令人不安。对此有解决方案吗？我不确定，但我认为至少我们需要一项法律，并且需要尽快规定，如果在医疗保健场景中使用了人工智能，就必须披露。此外，至少应该要求医生校对以他或她的名义发出的任何消息，否则最终谁来负责？医疗事故的责任在哪里？是在算法上？是在采用这种技术的医院？还是可能看到或没看到消息的医生？目前所有这些都是未知领域。这让患者处于风险之中。我的意思是，首先，您描述的这种特殊情况太糟糕了。这种情况不应该发生。聊天机器人不应该在没有查看医疗记录的情况下编造说您没问题。但是，难道没有一种观点认为，这种技术，尤其是在医疗保健方面的人工智能，实际上可以帮助医生花更多时间与患者在一起，因为它可以帮助他们完成诸如患者记录之类的事情，以便他们能够与患者在房间里多待一会儿？或者换一种说法，通过减轻现在医生发送消息和处理所有电子邮件的压力，您希望他们能够与患者面对面工作。所以我明白您的观点。这毫无疑问。然而，同时，在医疗保健方面，医疗建议应该由上过医学院并且经过多年培训来提供医疗建议的人来给出。认为一个算法可以基于任何东西来做这件事，如果他们没有任何依据就编造东西，这是很可怕的。自疫情以来，我们一直在使用 Mychart 与我们的医生沟通。我经常这样做。我从来不知道这里涉及到聊天机器人。现在我非常非常紧张。是啊。这也是很大的责任。您认为我们刚刚报道的那家因未支付勒索软件而不得不支付 6500 万美元的医院的故事怎么样？我的意思是，医院一个错误的举动就可能遭受重创。您会认为这将是一个巨大的法律责任，就像您说的那样。但我们不知道。但在这种情况下，我们不知道责任在哪里。是的，这是真的。这也是好事过头了。我们喜欢 Mychart。这是获取您自己的医疗保健信息的一种非常简单的方式。现在出现了这个问题。好的，娱乐界的大牌们给纽森州长传达了一个信息。这个信息就是签署这个该死的法案。我们再次谈到了人工智能。在这种情况下，这是一份现在放在纽森州长办公桌上的加州法案。好莱坞对此非常关注。在昨天发表的一封信中，数十位知名人士在信上签名，呼吁纽森将该法案签署成为法律。我们说的是非常非常知名的人物，比如珊达·瑞姆斯、艾娃·德约列、佩德罗·帕斯卡和马克·哈米尔。我的意思是，看在上帝的份上，连卢克·天行者（马克·哈米尔饰演）都在。他们在这里谈论的是一项法案，SB 1047，该法案将要求人工智能开发者在程序中加入更多的保障措施，包括，这很重要，一个紧急停止开关，以防事情完全失控。现在，在好莱坞发给州长的信中说，“人工智能带来的严重威胁曾经是科幻小说的素材，但现在不再是了。”好莱坞的这些人所指的是他们非常熟悉的事情，《终结者》以及我们推出的所有其他描绘人工智能和计算机系统完全失控的作品。这正是好莱坞在这里所指的。他们说我们已经走过这条路，我们已经讲述了这些故事，现在这已经成为一种现实生活中的现象，我们需要能够保护自己。他们在这里是完全正确的。州长怎么说？嗯，他上周表示，他还不确定是否要签署该法案。他指出，这个法案似乎有点引起分歧。显然，硅谷的一些人认为这没有必要，但科技界的其他人则表示，不，这可能是个好主意。情况仍然有点混乱，但这肯定会对人工智能行业施加比目前更多的监管。这似乎就是现在很多分歧所在的地方。但简单的事实是，人工智能，嗯，《终结者》就是一个很好的例子。在人工智能完全像“天网”那样失控之前，在其中建立一个紧急停止开关可能是个好主意。可以这样想。这就像是要求汽车制造商在车辆中安装安全带的技术版本。您每次开车可能都不需要它，但如果需要，您会很高兴它在那里。如果我们需要这个紧急停止开关和其他保障措施，情况大致相同。我们可能永远都不需要它，但如果需要，您会很高兴它在那里。目前在人工智能方面似乎没有很多防护措施。那么，为什么州长不愿意倾向于，比如说，安装一些这样的防护措施呢？您明白我的意思吗？很简单，钱的问题，科技行业是加利福尼亚州的一个主要经济驱动力。虽然科技行业中有一些人支持这个法案，但也有其他人认为这是对创新过程的不必要干涉，他们宁愿自己开发这些东西，并根据现实生活中的情况做出反应，而不是应对詹姆斯·卡梅隆可能提出的那些幻想情景。也就是说，我们每天都被告知人工智能将改变世界，也许不是以积极的方式。嗨，Mychart。我本来想说，我很高兴看到有这种保护娱乐业的努力，然而我们的医疗信息呢，不，我相信在这方面也会有事情发生的。我只是觉得这个关于人工智能的故事发展得如此之快，出现的事情简直令人难以置信。我很高兴我们在其中的一些问题上走在了前面。