皮肤癌分类中的对抗攻击与防御

近年来，用于辅助诊断的医学图像以及执行分类、检测和分割等任务的机器学习技术性能同时取得了显著进步。结果，此类系统在医疗行业中的使用迅速增加，例如以医学图像分类系统的形式，这些模型已达成与人类医生相当的诊断水平。可观察到的一个此类应用是在皮肤镜图像中皮肤病变分类的计算机视觉任务中。然而，随着保险医疗行业利益相关者（如保险公司）持续大量投资机器学习基础设施，理解此类系统的漏洞变得愈发重要。由于这些机器学习模型所执行任务的极高关键性，有必要分析可用于利用这些漏洞的技术以及防御它们的方法。本文探讨常见的对抗攻击技术。快速符号梯度法和投影下降梯度被用于攻击一个训练用于分类皮肤病变皮肤镜图像的卷积神经网络（Convolutional Neural Network）。此后，它还讨论了最流行的对抗防御技术之一，即对抗训练。随后在先前提及的攻击下测试经对抗样本训练的模型的性能，并基于实验结果给出提升神经网络鲁棒性的建议。