基于去噪自编码器的防御性蒸馏对抗鲁棒性算法
机器学习
2023-03-29 v1 人工智能
密码学与安全
摘要
对抗攻击严重威胁深度神经网络（DNNs）的鲁棒性。尽管已采用多种防御方法，它们仍易受投毒攻击，即攻击者篡改初始训练数据。为防御此类对抗攻击，本工作提出一种将防御性蒸馏机制与去噪自编码器（DAE）相结合的新方法。该技术试图通过识别并重建训练数据中的有毒对抗输入，降低蒸馏模型对投毒攻击的敏感性。我们在初始训练数据中加入精心制作的对抗样本以评估所提方法的性能。实验结果表明，我们的方法成功识别并重建了有毒输入，同时考虑增强 DNN 的鲁棒性。所提方法为存在数据投毒攻击顾虑的多种应用中的 DNN 提供了一种强有力且鲁棒的防御机制，从而克服了防御性蒸馏技术因有毒对抗攻击而面临的局限。
引用
@article{arxiv.2303.15901,
title = {Denoising Autoencoder-based Defensive Distillation as an Adversarial Robustness Algorithm},
author = {Bakary Badjie and José Cecílio and António Casimiro},
journal= {arXiv preprint arXiv:2303.15901},
year = {2023}
}
备注
This paper have 4 pages, 3 figures and it is accepted at the Ada User journal