智能超参数选择能否提升对对抗样本的抵抗能力？
机器学习
2019-02-18 v1 密码学与安全
计算机视觉与模式识别
机器学习
摘要
卷积神经网络及一般的深度学习分类系统已被证明易受 specially crafted 数据样本的攻击，这些样本看似属于某一类，却被分类为另一类，通常称为对抗样本。已提出多种攻击策略来构造这些样本；然而，目前没有用于比较各类攻击成功与否的标准模型。此外，现有文献尚未评估常见超参数和优化策略如何影响模型抵抗这些样本的能力。本研究弥补了这一认知空白，并为未来针对卷积神经网络的规避攻击研究提供了训练与模型参数的选择方法。本工作的发现表明，模型超参数的选择确实会影响模型抵抗攻击的能力，尽管仅凭它们无法杜绝对抗样本的存在。
引用
@article{arxiv.1902.05586,
title = {Can Intelligent Hyperparameter Selection Improve Resistance to Adversarial Examples?},
author = {Cody Burkard and Brent Lagesse},
journal= {arXiv preprint arXiv:1902.05586},
year = {2019}
}
备注
37 pages, 11 figures, 9 tables