论领域约束的鲁棒性
密码学与安全
2021-11-09 v2 机器学习
计算机科学中的逻辑
摘要
机器学习易受对抗样本（旨在使模型表现不佳的输入）的攻击。然而，对抗样本是否代表所建模领域中的真实输入尚不清楚。网络与钓鱼等多样化领域存在领域约束——除任何攻击者特定目标外，攻击者为达成攻击所必须满足的特征间复杂关系。本文探讨领域约束如何限制对抗能力，以及攻击者如何调整策略以生成真实（符合约束）的样本。为此，我们开发了从数据中学习领域约束的技术，并展示如何将习得的约束整合进对抗样本生成过程。我们在网络入侵与钓鱼数据集上评估了方法有效性，发现：(1) 最先进生成算法产生的对抗样本中高达 82% 违反领域约束；(2) 领域约束对对抗样本具有鲁棒性；强制施加约束使模型准确率提升高达 34%。我们观察到，攻击者不仅必须修改输入以满足领域约束，而且这些约束使得有效对抗样本的生成变得远比以往困难。
引用
@article{arxiv.2105.08619,
title = {On the Robustness of Domain Constraints},
author = {Ryan Sheatsley and Blaine Hoak and Eric Pauley and Yohan Beugin and Michael J. Weisman and Patrick McDaniel},
journal= {arXiv preprint arXiv:2105.08619},
year = {2021}
}
备注
Accepted to the 28th ACM Conference on Computer and Communications Security. Seoul, South Korea