面向恶意软件误分类的可解释性导向攻击

近年来，恶意软件攻击频发，针对恶意软件检测与分类的响应与补救策略亟需研发。多数研究使用机器学习模型对恶意软件进行分类，深度神经网络显示出良好的性能。然而，这些模型对刻意构造的对抗攻击存在脆弱性，导致恶意文件被误分类。本文探讨了基于神经网络的恶意软件分类系统在动态在线分析环境中的对抗脆弱性。为评估方法，我们训练了基于动态在线分析环境特征的前馈神经网络（FFNN）对恶意软件类别进行分类。我们采用最先进的方法SHapley Additive exPlanations（SHAP）进行特征归因，以指导对抗攻击者识别分类决策中具有重要性的特征。利用可解释性导向的特征，我们使用Fast Gradient Sign Method（FGSM）和Projected Gradient Descent（PGD）对抗性白箱攻击针对训练好的分类器。我们的结果显示，某些攻击实例具有高成功率，表明恶意软件分类器对此类攻击存在明显脆弱性。我们提出建议，为未来针对恶意软件分类器的攻击研究提供基准，并开发更可靠可信的解决方案。