通过可迁移对抗样本增强深度学习网络的鲁棒性
机器学习
2020-05-28 v1 密码学与安全
机器学习
摘要
人工神经网络尤其是深度学习网络已成为流行且强大的机器学习算法。尽管这些网络庞大的规模（通常十分巨大）有利于解决复杂任务，但海量的参数也导致此类网络易受对抗扰动等恶意行为的影响。这些扰动可改变模型的分类决策。此外，虽然单步对抗样本易于在网络间迁移，但更强大的多步对抗样本的迁移通常一直相当困难。本文中，我们提出一种生成强对抗样本的方法，其可轻松且频繁地在不同模型间迁移。随后利用该方法生成大量对抗样本，并基于这些样本实验评估了若干选定防御方法的效果。最后，我们提出一种新颖、简单却有效的途径来增强神经网络对抗对抗样本的鲁棒性，并与已有防御方法进行基准对比。与现有方法不同，我们提出的防御方法更高效，仅需一次额外的前向传播即可取得相当的性能结果。
引用
@article{arxiv.2005.13293,
title = {Enhancing Resilience of Deep Learning Networks by Means of Transferable Adversaries},
author = {Moritz Seiler and Heike Trautmann and Pascal Kerschke},
journal= {arXiv preprint arXiv:2005.13293},
year = {2020}
}
备注
This version has been accepted for publication at the International Joint Conference on Neural Networks (IJCNN) 2020, which is part of the IEEE World Congress on Computational Intelligence (IEEE WCCI) 2020