引导卷积神经网络针对对抗样本的重训练
软件工程
2024-01-12 v2 人工智能
机器学习
摘要
背景：在使用深度学习模型时存在诸多潜在漏洞，其中最令人担忧的之一是对抗样本，其可通过微小扰动导致错误决策。因此，作为应对此类输入漏洞的软件测试过程的一部分，有必要针对对抗样本对这些模型进行重训练。此外，为实现节能的测试与重训练，数据科学家需要关于最佳引导指标与最优数据集配置的支持。目标：我们考察了用于卷积神经网络重训练的四种引导指标与三种重训练配置。我们的目标是从数据科学家的视角，在图像分类背景下，就准确率、资源利用与耗时方面提升模型对抗对抗样本的能力。方法：我们在两个图像分类数据集上开展了实证研究。我们探究：(a) 以四种不同引导指标（神经元覆盖率、基于似然的惊奇充分性、基于距离的惊奇充分性、随机）对新训练集排序来重训练卷积神经网络的准确率、资源利用与耗时；(b) 以三种不同配置（从头与增强数据集、使用权重与增强数据集、使用权重与仅对抗样本）重训练卷积神经网络的准确率与资源利用。结果：我们揭示，从原始权重出发并使用对抗样本、且以惊奇充分性指标排序进行重训练，就所用指标而言给出了最佳模型。结论：尽管尚需更多研究，我们建议数据科学家采用上述配置与指标来应对深度学习模型对对抗样本的漏洞，因其可在不使用大量输入的情况下提升模型对抗对抗样本的能力。
引用
@article{arxiv.2207.03689,
title = {Guiding the retraining of convolutional neural networks against adversarial inputs},
author = {Francisco Durán López and Silverio Martínez-Fernández and Michael Felderer and Xavier Franch},
journal= {arXiv preprint arXiv:2207.03689},
year = {2024}
}