通过嵌入式特征选择缓解对抗攻击
密码学与安全
2018-08-20 v1 机器学习
摘要
机器学习已成为许多应用领域任务自动化的主要组成部分之一。尽管机器学习取得了进展和令人印象深刻的成就，但已有研究表明，学习算法在训练时和测试时均可能受到攻击者的破坏。机器学习系统尤其易受对抗样本的攻击，其中在原始数据点添加微小扰动可在测试时使学习算法产生不正确或意外的输出。由于对抗样本难以检测，缓解这些攻击十分困难。现有相关工作指出，当应用特征选择以降低系统复杂度时，机器学习系统对抗对抗样本的安全性会被削弱。本文中，我们通过实验反驳了这一观点，表明当目标使用精简的特征集时，攻击者为成功实施攻击所需引入的相对畸变更大。我们还表明，在特征数较少时，最小对抗样本与真实样本的统计差异更强。然而，减少特征数量会对系统性能产生负面影响。我们用具体示例说明了安全性与准确性之间的权衡。我们提出了一种设计方法，用于评估采用嵌入式特征选择的机器学习分类器针对使用不同攻击策略精心构造的对抗样本的安全性。
引用
@article{arxiv.1808.05705,
title = {Mitigation of Adversarial Attacks through Embedded Feature Selection},
author = {Ziyi Bao and Luis Muñoz-González and Emil C. Lupu},
journal= {arXiv preprint arXiv:1808.05705},
year = {2018}
}