贝叶斯学习模型可免费检测对抗性恶意软件
密码学与安全
2024-03-28 v1
摘要
基于机器学习的恶意软件检测器对对抗性攻击的脆弱性促使了对稳健解决方案的需求。对抗训练是一种有效的方法，但在扩展到大型数据集时计算成本高昂，并且是以牺牲模型性能来换取稳健性为代价的。我们假设对抗性恶意软件利用了模型的低置信度区域，并且可以使用机器学习方法的认识不确定性来识别——基于机器学习的恶意软件检测器中的认识不确定性是问题空间区域中缺乏相似训练样本的结果。具体而言，贝叶斯公式可以捕获模型参数的分布，并在不牺牲模型性能的情况下量化认识不确定性。为了验证我们的假设，我们考虑了具有基于互信息公式的贝叶学习方法，以量化不确定性并检测 Android、Windows 领域和 PDF 恶意软件中的对抗性恶意软件。我们发现，通过贝叶斯学习方法量化不确定性可以防御对抗性恶意软件。具体而言，贝叶斯模型：(1) 通常能够在特征空间和问题空间中识别对抗性恶意软件，(2) 可以通过测量不确定性来检测概念漂移，以及 (3) 结合促进多样性的方法（或更好的后验近似），使得来自后验的参数实例能够显著增强检测器的能力。
引用
@article{arxiv.2403.18309,
title = {Bayesian Learned Models Can Detect Adversarial Malware For Free},
author = {Bao Gia Doan and Dang Quang Nguyen and Paul Montague and Tamas Abraham and Olivier De Vel and Seyit Camtepe and Salil S. Kanhere and Ehsan Abbasnejad and Damith C. Ranasinghe},
journal= {arXiv preprint arXiv:2403.18309},
year = {2024}
}
备注
Accepted to the 29th European Symposium on Research in Computer Security (ESORICS) 2024 Conference