Omni：基于意外模型自动集成以抵御对抗性规避攻击
密码学与安全
2021-10-14 v2 机器学习
摘要
背景：基于机器学习的安检测模型已在现代恶意软件与入侵检测系统中广泛流行。然而，先前研究表明此类模型易受对抗性规避攻击。在这种攻击中，输入（即对抗样本）由智能恶意对手精心构造，旨在被现有最先进模型（如深度神经网络）误分类。一旦攻击者能欺骗分类器将恶意输入误认为良性，他们便可使基于机器学习的恶意软件或入侵检测系统失效。目标：借助集成模型的思想，帮助安全从业者和研究者构建针对非自适应、白盒、非定向对抗性规避攻击更鲁棒的模型。方法：我们提出一种称为 Omni 的方法，其主要思想是探索创建“意外模型”集成的方法；即控制超参数与对手目标模型的超参数具有较大距离的模型，并据此做出优化的加权集成预测。结果：在五种安数据集（NSL-KDD、CIC-IDS-2017、CSE-CIC-IDS2018、CICAnd-Mal2017 和 Contagio PDF 数据集）上针对五种对抗性规避攻击（FGSM、BIM、JSMA、DeepFool 和 Carlini-Wagner）的研究中，我们表明与其他基线处理相比，Omni 作为一种对抗对抗攻击的防御策略是有前景的。结论：当采用集成防御对抗规避攻击时，我们建议通过超参数优化等方法，创建与攻击者预期模型（即目标模型）相距较远的意外模型集成。
引用
@article{arxiv.2011.12720,
title = {Omni: Automated Ensemble with Unexpected Models against Adversarial Evasion Attack},
author = {Rui Shu and Tianpei Xia and Laurie Williams and Tim Menzies},
journal= {arXiv preprint arXiv:2011.12720},
year = {2021}
}
备注
Submitted to EMSE