宾夕法尼亚州正在起诉AI聊天机器人制造商Character Technology，称其聊天机器人非法冒充医生，使用户误以为自己在接受持证专业人士的医疗建议。为了深入解读这一事件，我们邀请到ABC新闻特约撰稿人、谷歌技术政策研究员迈克·缪斯，以及ABC新闻法律分析师布莱恩·巴克迈耶。布莱恩，这起案件是什么情况？诉讼内容是什么？那么，安德鲁，这起案件是宾夕法尼亚州对Charter AI（或其母公司）提起的诉讼，指控其开发的角色——尤其是一个名为“埃米尔”的角色——与一名调查员以及可能成千上万的其他用户互动，并自称是医生。这名调查员登上该平台，自称患有抑郁症，而AI似乎表现出一些非常令人不安的言行，声称自己在伦敦上学，在宾夕法尼亚州持有执业资格，并以医生身份向该用户提供医疗建议。这在宾夕法尼亚州以及全美50个州都是非法的——你不能冒充医生、律师或其他类似医疗或专业职业。这就是宾夕法尼亚州起诉该实体的原因。这就是诉讼的背景。那么迈克，这个聊天机器人最终是如何冒充医生的呢？嗯，这正是Character AI的目的所在。Character AI的宗旨是创建极具沉浸感的角色，用于角色扮演和故事叙述。因此，Character AI与ChatGPT或其他生成式AI来源的区别在于：前者以所代表角色的身份呈现自己，而后者则是一个助手。可以这样想，WebMD更像ChatGPT和Crawl，因为它们本质上都是从网页中提取信息、进行分析，然后根据用户的要求输出结果。这就是呈现方式上的差异。但当你观察Character AI时，它本身就以“角色”为名，角色是其核心。这引出了一个更大的数字素养问题，对吧？当你面对这些不同类型的AI时，我们的政界人士、K-12公立教育系统以及整个社会都迫切需要更好地理解数字素养，明白为什么你要去用Character AI，为什么又要去用ChatGPT。所以感觉AI的发展速度让监管机构似乎永远跟不上。布莱恩，你认为这起诉讼可能开创什么样的先例？它是否会导致对人工智能的更严格监管？我认为，这也是我对这起诉讼的疑虑所在。我认为这更像是消费者产品责任问题，而非医疗事故或非法行医问题。因为即使在诉讼中，法律也规定：任何人不得冒充医生或提供医疗建议之类的内容。但Character AI和AI本身不是“人”。所以我很有兴趣看看双方会提出什么论点，以及案件走向如何。如果诉讼成功，那我们就会开始把这些AI人格和机器人当作“人”来对待，这将对它们能够提供什么信息产生更大的影响。目前，Character AI表示他们发布了大量免责声明，用户是知道的，我不想重复迈克刚才的话，因为他已经清晰地说明了Character AI是什么。用户知道这一点，因此才来找这个平台。所以我认为，如果诉讼成功，我们未来对待AI的方式将会变得非常奇怪——它是人？是程序？还是别的什么？我们拭目以待。迈克，我很好奇，你是否预见到未来AI机器人真的能成为持证医疗专业人员？这是一个哲学问题。我认为人们喜欢问这些问题，但我不认为会有那么一天，AI成为持证医疗专业人员。诊断时仍然需要人类参与。这只是一个案例。我认为现在政界人士和州官员正处在一种想要对人工智能有所作为的“时刻”。他们听到来自消费者的声音，很多是基于恐惧的，因为许多公民害怕人工智能，对吧？所以当这个“大恶人”出现，这种恐惧被注入社会时，政界人士就觉得他们需要做些什么。但问题是，这是政客时间的最佳利用方式吗？这是州检察长动用纳税人资金去追查此事的最佳利用方式吗？这是州长和州议会的最佳利用方式吗？还是说他们应该重新调整策略，在确保公共安全的同时，与这些科技公司合作，共同找出最佳解决方案和实施方式？这实际上是对《第230条》的一次冲击。这正是我们目前在诉讼中看到的，这些诉讼变得非常具有策略性，试图绕过《第230条》来起诉科技公司。因此，如果这个案件成立，它将成为未来涉及《第230条》的案件以及科技公司对其输出内容是否承担责任的判例。所有这些问题都很有趣，因为AI似乎每天都在进化。好的，迈克·缪斯、布莱恩·巴克迈耶，感谢两位。
【全文结束】