针对乳腺 X 线图像分类器的实用快速梯度符号攻击

人工智能（AI）多年来一直是主要的研究课题。尤其是随着深度神经网络（DNN）的出现，这些研究取得了巨大成功。如今机器能够做出比人类更快、更准确的决策。得益于机器学习（ML）技术的巨大发展，ML 已被用于许多不同领域，如教育、医学、恶意软件检测、自动驾驶汽车等。尽管有如此程度的关注和许多成功的研究，ML 模型仍然易受对抗攻击。攻击者可以操纵干净数据以欺骗 ML 分类器从而达到其预期目标。例如，一个良性样本可被修改为恶意样本，或一个恶意样本可被改为良性，而此种修改无法被人类观察者识别。这可能导致许多财务损失，或严重伤害甚至死亡。本文背后的动机是我们强调这一问题并希望提高意识。因此，展示了乳腺 X 线图像分类器在对抗攻击下的安全漏洞。我们使用乳腺 X 线图像训练我们的模型，然后评估我们模型在准确率方面的性能。之后，我们污染原始数据集并生成被模型误分类的对抗样本。然后我们使用结构相似性指数（SSIM）分析干净图像与对抗图像之间的相似性。最后，我们展示了通过使用不同污染因子在误用方面取得的成功程度。