利用守恒特征提升机器学习分类器针对可现实化规避攻击的鲁棒性
密码学与安全
2019-05-14 v5 机器学习
摘要
机器学习(ML)技术在安全应用(如恶意软件和入侵检测)中日益普遍。然而,ML模型常易受规避攻击,即攻击者为了不被检测而对输入(如恶意软件)进行修改。评估ML对此类攻击的鲁棒性以及设计鲁棒ML的传统方法,是考虑简化的攻击特征空间模型,其中攻击者直接改变ML特征以实现规避,同时最小化或约束该改变的量级。我们研究了这种设计鲁棒ML的方法在面对实际恶意软件中可实现的攻击(可现实化攻击)时的有效性。我们证明,在基于结构的PDF恶意软件检测背景下,此类技术似乎效果有限,但它们对基于内容的检测器有效。无论哪种情况,我们表明用守恒特征(那些不能单方面修改而不损害恶意功能的特征)扩充特征空间模型可显著提升性能。最后,我们表明,与针对特定可现实化攻击调优的分类器相比,特征空间模型在面对多种可现实化攻击时实现了泛化鲁棒性。
引用
@article{arxiv.1708.08327,
title = {Improving Robustness of ML Classifiers against Realizable Evasion Attacks Using Conserved Features},
author = {Liang Tong and Bo Li and Chen Hajaj and Chaowei Xiao and Ning Zhang and Yevgeniy Vorobeychik},
journal= {arXiv preprint arXiv:1708.08327},
year = {2019}
}
备注
1. v5.0; 2. To appear at the 28th USENIX Security Symposium, 2019