安全提示:不要将医疗影像上传到AI聊天机器人PSA: You shouldn’t upload your medical images to AI chatbots

环球医讯 / AI与医疗健康来源:techcrunch.com美国 - 英语2024-11-20 05:24:00 - 阅读时长2分钟 - 785字
TechCrunch提醒用户不要将私人医疗数据上传到AI聊天机器人,因为这可能导致敏感信息泄露
医疗影像AI聊天机器人医疗数据隐私保护安全风险GrokHIPAA医疗隐私
安全提示:不要将医疗影像上传到AI聊天机器人

在您继续日常事务之前,这里有一个快速提醒:在将您的私人医疗数据上传到AI聊天机器人之前,请三思而后行。

人们经常转向生成式AI聊天机器人,如OpenAI的ChatGPT和Google的Gemini,询问有关其医疗问题的问题,以更好地了解自己的健康状况。有些人依赖于使用AI来判断某人的生殖器是否无疾病的可疑应用程序。最近,自10月以来,社交媒体网站X的用户被鼓励将他们的X光片、MRI和PET扫描上传到平台的AI聊天机器人Grok,以帮助解释结果。

医疗数据是一个具有联邦保护的特殊类别,大多数情况下,只有您可以选择绕过这些保护。但仅仅因为您可以这样做并不意味着您应该这样做。安全和隐私倡导者长期以来一直警告说,任何上传的敏感数据都可能用于训练AI模型,并且存在未来暴露您的私人和敏感信息的风险。生成式AI模型通常会基于接收到的数据进行训练,前提是上传的数据有助于构建模型输出的信息和准确性。但并不总是清楚上传的数据如何以及出于什么目的被使用,或者数据与谁共享——公司可以改变主意。您必须主要相信公司的说法。

人们已经在AI训练数据集中找到了自己的私人医疗记录——这意味着其他人也可以找到,包括医疗保健提供者、潜在的未来雇主或政府机构。而且,大多数消费者应用程序不受美国医疗隐私法HIPAA的保护,这意味着您的上传数据没有任何保护。X的所有者埃隆·马斯克在一篇帖子中鼓励用户将医疗影像上传到Grok,他承认Grok的结果“仍处于早期阶段”,但AI模型“将会变得非常出色”。通过要求用户提交医疗影像给Grok,目标是随着时间的推移改进AI模型,使其能够一致准确地解释医学扫描。至于谁可以访问这些Grok数据并不明确;正如其他地方所指出的,Grok的隐私政策称X会与数量不详的“相关”公司分享一些用户的个人信息。

最好记住,互联网上的事情永远不会离开互联网。


(全文结束)

大健康
大健康