医学领域使用的人工智能可能会以意想不到的方式损害人们的隐私，专家们发现。
这类医疗AI系统有多种用途，许多人声称它可能极大地改善医疗保健。在那些专业医疗知识稀缺的地方，这些系统可能特别有用，人们可能会转而依赖人工智能，例如使用它来通过医学影像诊断问题。
但一项新研究表明，同样的技术可能会损害用于训练它的数据提供者的隐私——而他们可能永远不会知道。这是可能存在于这种变革性新技术中的各种安全漏洞之一。
新研究警告称，恶意用户可能对医疗AI系统进行隐私攻击，使黑客能够了解某人是否正在接受特定疾病的治疗。
与其他人工智能系统一样，医疗AI工具通过向计算机提供各种数据（如患者影像）并告诉它哪些影像指示特定结果来工作。系统随后可以学习寻找这些模式，从而能够发现潜在症状。
在该研究中使用数据的人们应该保持匿名。但新研究表明，可能可以确定特定患者的数据是否用于训练该模型。
然后，这可能被用来获取有关特定患者的敏感医疗信息。例如，在这项新研究中，研究人员描述了一种可用于确定某人是否患有癌症的攻击方式。
研究关注一种名为"成员推断攻击"的特定黑客手段，它允许黑客确定特定患者的数据是否用于训练给定模型。他们发现，这种攻击对某些个体患者可以达到"近乎完美的成功率"，而且对代表性不足的群体风险更大。
研究人员警告称，网络犯罪分子可能会利用这一点侵犯人们的隐私，并可能将获取的数据用于其他类型的攻击。
研究人员警告说："鉴于这一漏洞，医疗AI模型及其部署环境应该评估攻击者通过成功推断训练数据集成员身份可能获取的敏感信息。"该研究应该证明医疗AI系统需要防范此类攻击。
这项工作发表在《自然》杂志上的一篇新论文"医疗AI的差异化隐私风险"中。
【全文结束】