面向动态风险评估的深度学习对抗样本防御方法
机器学习
2022-07-20 v1 密码学与安全
机器学习
摘要
深度神经网络早在几十年前便已提出，但由于其计算能力需求，直到最近才开始被广泛应用。此后，它们正越来越多地应用于诸多领域并取得了深远影响的发展。更重要的是，它们已被用于关键事务，如医疗程序或自动驾驶中的决策，其中风险管理至关重要。这些领域中的诊断或决策任何错误都可能导致严重事故甚至死亡。这令人担忧，因为已有反复报道表明攻击此类模型轻而易举。因此，必须研究这些攻击以评估其风险，并需要开发防御手段使模型更鲁棒。本工作中，我们选取了最广为人知的攻击（对抗攻击）并针对其实现了若干防御（即对抗训练、降维和预测相似性）。所得结果在保持相近准确率的同时使模型更鲁棒。该思路使用乳腺癌数据集以及VGG16和稠密神经网络模型开发，但这些解决方案可应用于其他领域的数据集以及不同的卷积和稠密深度神经网络模型。
引用
@article{arxiv.2007.01017,
title = {Deep Learning Defenses Against Adversarial Examples for Dynamic Risk Assessment},
author = {Xabier Echeberria-Barrio and Amaia Gil-Lerchundi and Ines Goicoechea-Telleria and Raul Orduna-Urrutia},
journal= {arXiv preprint arXiv:2007.01017},
year = {2022}
}
备注
11 pages, 10 figures, CISIS2020 conference