针对恶意软件分类器的解释引导后门投毒攻击
密码学与安全
2021-01-12 v3 机器学习
摘要
基于机器学习（ML）的恶意软件分类训练流程通常依赖众包威胁情报源，这暴露了一个天然的攻击注入点。在本文中，我们研究了基于特征的 ML 恶意软件分类器对后门投毒攻击的易感性，特别关注具有挑战性的“干净标签”攻击，即攻击者不控制样本标注过程。我们提出利用可解释机器学习中的技术，以模型无关的方式引导相关特征与取值的选择，从而创建有效的后门触发器。使用多个用于恶意软件分类的参考数据集（包括 Windows PE 文件、PDF 和 Android 应用），我们展示了对多种机器学习模型的有效攻击，并评估了施加于攻击者的各种约束的影响。为证明我们的后门攻击在实践中的可行性，我们为 Windows PE 文件创建了一个保持二进制文件功能的水印工具，并利用类似的保持行为不变的修改方法处理 Android 和 PDF 文件。最后，我们尝试了潜在的防御策略，并展示了完全防御这些攻击的困难性，尤其是当攻击与合法样本分布相混合时。
引用
@article{arxiv.2003.01031,
title = {Explanation-Guided Backdoor Poisoning Attacks Against Malware Classifiers},
author = {Giorgio Severi and Jim Meyer and Scott Coull and Alina Oprea},
journal= {arXiv preprint arXiv:2003.01031},
year = {2021}
}
备注
18 pages, 5 figures. To appear in USENIX Security 2021