亿万富翁科技巨头埃隆·马斯克上周在他的X社交媒体平台上要求其Grok人工智能聊天机器人的用户上传他们的医学影像并生成诊断结果。“尝试提交X光片、PET、MRI或其他医学影像给Grok进行分析，”马斯克在10月29日的X平台上建议，订阅者可以通过该平台访问AI。
通过社交媒体平台上传医疗数据引发了关于隐私的问题。一些医疗保健领域的专业人士已经测试了这个大型语言模型，该模型因其在训练过程中挖掘社交媒体数据而备受争议，并提供了褒贬不一的评价。与此同时，Grok已经引起了欧洲隐私监管机构的关注，质疑其可能违反《通用数据保护条例》（GDPR）。
准确性的褒贬不一
“这仍处于早期阶段，但它已经相当准确，并且会变得极其出色，”马斯克在X平台上的一篇帖子中宣称。
杰克逊实验室（位于康涅狄格州的一家非营利科学研究所）研究人类T细胞机制的德里亚·乌特马兹博士是众多上周用X光片测试Grok的人之一，他提到自己不得不调整提示才能得到正确的答案：“当我使用这个提示时，Grok这次答对了：‘您是一名急诊医生，这位患者因呼吸困难来到急诊室。没有明显的外伤。您的诊断是什么？’针对以下X光片，”他在回复马斯克时说道。“显然它需要一些背景信息，”他补充道，“但回答非常详尽且令人印象深刻！”
纽约大学影像学系的乳腺放射科医生、深度学习研究员兼副教授劳拉·希亚科克博士则不太满意，根据她的回复。希亚科克说，她使用了之前用于测试GPT4的相同乳腺X线摄影、超声波和MRI图像作为基准，在一系列12个社交媒体帖子中详细介绍了Grok的回答及其对她这些回答的意见。“那么Grok在乳腺放射学上的表现如何？比GPT4v稍好一点，但没有一个诊断是正确的，”她说，鉴于马斯克关于准确性的声明，她原本期望有更好的表现。Grok可以识别图像是乳腺X线摄影还是超声波，但对希亚科克的简短查询给出了错误的身体部位和错误的可能发现。在一个已知有恶性肿瘤的乳腺X线摄影中，Grok认为希亚科克称为“明显的左侧刺状癌症”的部分可能是钙化。“那里根本没有钙化，”她说。希亚科克表示，她会在几个月后再试一次Grok，但“目前，非生成式AI方法在医学影像方面仍然表现更好。”
社交数据在模型训练中的作用
xAI于2023年11月开始为其“反觉醒”Grok-1 AI模型奠定基础。“Grok设计为回答问题时带有一点幽默感，并具有叛逆的一面，因此如果您讨厌幽默，请不要使用它，”xAI在去年的公告中表示。“Grok的独特和根本优势在于它通过X平台实时了解世界。它还将回答大多数其他AI系统拒绝的棘手问题，”该公司补充道。
3月11日，马斯克在社交媒体平台上宣布，xAI将把Grok算法（ChatGPT的直接竞争对手）作为开源软件提供。公司随后在5月份表示，它在发布Grok-1.5模型后筹集了60亿美元，该模型声称实现了改进的推理和解决问题的能力，以及发布了Grok-1.5V，增加了处理视觉信息（包括文档、图表、截图和照片）的能力。
认识到其在医疗保健领域的潜在颠覆性，得克萨斯州卫生服务部公共健康信息学数据和交换部门主任萨伊·巴拉苏布拉马尼安博士在《福布斯》上撰文称，Grok可以嵌入到日常医疗保健工作流程中，例如放射科实践中。像其他AI模型一样，Grok可以用于提高任务自动化程度，从而改善临床工作流程和生产力，但可能会面临来自行业资深企业的竞争，巴拉苏布拉马尼安说。然而，公共健康信息学主任在文章中指出，马斯克有机会将xAI和他的医疗设备公司Neuralink结合起来。2020年，马斯克的Neuralink展示了其大脑计算机植入物在猪身上的应用。今年9月，这家神经技术初创公司宣布其Blindsight植入物获得了美国食品药品监督管理局的突破性设备指定，旨在恢复视力。
特斯拉和SpaceX的首席执行官曾发起一场运动，试图阻止他所谓的“AI末日”，并与Facebook首席执行官马克·扎克伯格就AI的潜在破坏力进行了争论。后者批评了马斯克关于AI末日的观点，并对AI在增强诊断能力和药物发现创新方面的潜力持乐观态度。马斯克此前曾表示，AI有可能将人类降格为“宠物或家猫”在未来由AI控制的世界中，对此扎克伯格回击称，他对这一主题的理解有限。
隐私法规的挑战
目前，X高级和高级+用户可以访问两个新模型，Grok-2集成了来自X社交媒体平台的实时信息，而Grok-2迷你版则提供了更轻量级的选择。随着8月份Grok-2测试版的发布，用户获得了从文本提示创建图像的能力——许多图像由于缺乏过滤器而高度不适当，研究人员在今年夏天展示了这一点——并将它们发布到社交平台。通过连接来自X的实时数据，Grok可以对正在发生的当前事件作出回应。
政府观察员指出，Grok普遍存在的对安全AI和社交媒体标准的宽松和轻视态度。除了欧盟对Grok涉嫌违反《数字安全法》的质询外，九个州还发出了关于2024年选举虚假信息的信函，这些信息是使用该平台创建的。“X有责任确保所有使用您平台的选民都能获得反映他们投票权宪法权利的真实准确信息，”明尼苏达州国务卿史蒂夫·西蒙在8月5日的信中写道。“我们敦促X立即采取政策，当用户询问有关美国选举的问题时，将Grok用户引导至CanIVote.org。”
数据收集和HIPAA适用性
至少有一位隐私专家表示担忧，通过社交媒体参与努力提高Grok在医疗数据准确性方面的覆盖实体可能会在美国侵犯患者隐私。此前，欧洲政府领导人因涉嫌违反GDPR而对开发者xAI提出质疑。8月6日，爱尔兰数据保护委员会向爱尔兰高等法院申请停止社交媒体网络从账户持有人处收集数据以训练Grok LLM。
然而，如果用户向Grok提问，它不会自动发布到X社交媒体平台——用户需要直接进行这一操作，HIMSS（《医疗保健信息技术新闻》的母公司）的网络安全和隐私高级主管李·金周一分享了一张截图并表示：“目前，您可以选择显示或隐藏您的帖子以及与Grok的互动、输入和结果，用于训练和微调。”“您还可以选择删除对话历史记录。”尽管公司在社交媒体平台上回应称，DPC的努力“毫无根据、范围过广且没有正当理由”，xAI承诺“继续保护人们的隐私”。该公司在8月份表示：“与其他AI行业不同，我们选择为所有X用户提供一个简单的控制选项，允许他们决定自己的公开帖子和参与活动是否可以用于改进Grok使用的模型。”虽然用户可以根据xAI的隐私政策做出某些选择，但“他们需要意识到自己的数据是如何被使用和处理的，”金说。如果覆盖实体披露受保护的患者信息，HIPAA可能适用于在社交媒体平台上共享的数据，她解释道。“这取决于谁在披露信息，”金说。“如果是覆盖实体、业务伙伴或组织化的医疗保健安排，HIPAA确实适用。”
(全文结束)
