通过（去）随机平滑对基于深度学习的恶意软件检测器的对抗攻击进行鲁棒防御
密码学与安全
2024-04-30 v2 人工智能
摘要
基于深度学习的恶意软件检测器已被证明易受对抗性恶意软件样本的攻击，即恶意软件作者故意操纵以逃避检测的样本。鉴于深度学习检测器对细微输入文件修改的脆弱性，我们提出了一种受（去）随机平滑启发的针对对抗性恶意软件样本的实用防御方法。在这项工作中，我们通过选择相关的字节子集，而不是像计算机视觉（CV）领域那样使用高斯噪声来随机化输入，从而减少了采样恶意软件作者注入的对抗性内容的机会。在训练期间，我们基于消融的平滑方案训练一个基分类器，使其对连续字节子集或字节块进行分类。在测试时，基分类器随后对大量块进行分类，这些分类之间的一致性被报告为最终预测。我们提出了两种策略来确定用于分类的块的位置：(1) 随机选择块的位置，(2) 选择连续的相邻块。为了展示我们方法的有效性，我们在 BODMAS 数据集上使用基于块的消融方案训练了两个分类器。我们的研究结果表明，基于块的平滑分类器对使用最先进规避攻击生成的对抗性恶意软件样本表现出更强的弹性，大幅优于非平滑分类器和基于随机平滑的分类器。
引用
@article{arxiv.2402.15267,
title = {A Robust Defense against Adversarial Attacks on Deep Learning-based Malware Detectors via (De)Randomized Smoothing},
author = {Daniel Gibert and Giulio Zizzo and Quan Le and Jordi Planes},
journal= {arXiv preprint arXiv:2402.15267},
year = {2024}
}
备注
arXiv admin note: text overlap with arXiv:2308.08906