使用AI检测皮肤癌的应用程序可能会被操纵，从而可能错过恶性黑色素瘤病例。日本九州工业大学的小田纯成和竹本和弘领导的一项新研究表明，商用的基于AI的皮肤癌应用程序可以通过在摄像头上贴上几乎不可见的透明贴纸来被操纵。这种物理“对抗性攻击”导致了新的患者安全和可靠性问题。
该研究团队专注于三种使用深度神经网络的应用程序，这些复杂的AI系统分析图像以寻找癌症迹象。他们的目标是测试一种基于物理摄像头的攻击（而不是数字黑客或访问应用程序代码）是否能在现实环境中影响结果。
“皮肤癌是最常见的恶性肿瘤之一，早期检测对患者的预后至关重要，因此开发了移动应用程序作为筛查工具，”作者写道。虽然深度神经网络“已经展示了卓越的能力”，但它们也“被认为容易受到对抗性攻击，其中精心设计的扰动可以操纵模型预测。”
为了进行这项研究，研究人员使用了一个公开可用的数据集，其中包括10,000张皮肤病变图像来训练AI模型。为了模拟攻击，他们创建了带有小点图案的透明贴纸，这些贴纸几乎肉眼看不见，并将这些贴纸附着在运行三种流行皮肤癌应用程序的移动设备摄像头上。
结果显示，对于恶性黑色素瘤（最致命的皮肤癌类型）的图像，攻击成功率达到了50%到80%。这些攻击在用户没有明显线索的情况下生效，并且只要贴纸附着就会持续。这种脆弱性在恶性黑色素瘤图像中最为明显，而良性痣的图像则受影响较小。
“我们的结果显示，这些攻击成功地操纵了应用程序的预测，特别是对于恶性黑色素瘤图像，”作者写道。
研究警告说，“这种操纵可能会影响诊断过程”，可能导致漏诊癌症或不必要的医疗随访。这种攻击不需要技术技能，而且难以检测，因为透明贴纸通常用作手机摄像头的保护膜。
“这些漏洞可能被用于各种恶意目的，”作者指出，从保险欺诈和竞争破坏到简单的个人滥用。假阴性可能会延迟诊断，而假阳性可能会增加患者的焦虑和不必要的咨询。
根据美国癌症协会的数据，今年美国将有超过10万例新的恶性黑色素瘤被诊断出来，预计将有超过8,400人死于这种疾病。尽管平均诊断年龄为66岁，但恶性黑色素瘤是30岁以下人群中最常见的癌症之一。如果早期发现，几乎所有患者都能存活，但如果恶性黑色素瘤转移，5年生存率会降至35%。
使用AI诊断癌症的移动应用程序被建议作为一种扩大医疗服务的方式，特别是对于那些生活在专科医生稀缺地区或难以预约的人群，即使一些医生担心假阳性和漏诊的问题。
这项新研究的结果“强调了在临床环境中部署此类应用程序时进行安全评估的重要性，”作者写道。
(全文结束)
