基于可解释性引导的恶意软件检测对抗逃逸攻击
密码学与安全
2024-05-06 v1
摘要
随着人工智能安全的重要性日益凸显，构建和插入最优对抗扰动的研究变得越来越关键。在恶意软件领域，这种对抗样本生成依赖于对训练分类器的精确度和扰动位置 placement，以实现逃避检测。本文聚焦于将可解释性技术应用于针对基于机器学习的 Windows PE 恶意软件检测器进行对抗逃逸攻击。可解释工具识别恶意软件文件中对给定恶意软件检测器决策过程影响最大的区域，因而可利用这些区域注入对抗扰动以实现最大效率。基于对恶意软件文件各区域对检测器决策影响的轮廓分析，使我们能够推导出高效的策略，以识别扰动注入的最优位置。该策略应结合区域对影响检测器决策的显著性以及对修改该区域对 Windows PE 恶意软件文件完整性的敏感性。为评估可解释人工智能在构建 Windows PE 恶意软件对抗样本中的效用，我们利用 SHAP 的 DeepExplainer 模块确定恶意软件每个区域对其被 CNN 基恶意软件检测器 MalConv 检测贡献。进一步，我们通过将 Windows PE 的每个章节划分为小子段来分析 SHAP 值的显著性。随后，我们根据字节序列对应的 SHAP 值，对子段执行对抗逃逸攻击。
引用
@article{arxiv.2405.01728,
title = {Explainability Guided Adversarial Evasion Attacks on Malware Detectors},
author = {Kshitiz Aryal and Maanak Gupta and Mahmoud Abdelsalam and Moustafa Saleh},
journal= {arXiv preprint arXiv:2405.01728},
year = {2024}
}