面向基于图像的恶意软件检测的可解释集成学习
机器学习
2021-01-14 v1 密码学与安全
计算机视觉与模式识别
摘要
用于基于图像的恶意软件检测的深度学习（DL）模型已展现出产生高预测精度的能力。但模型可解释性对其在安全与安全性关键应用领域的广泛应用提出了挑战。本文旨在设计一种用于基于图像的恶意软件检测的可解释集成学习（IEMD）方法。我们首先提出一种基于选择性深度集成学习（SDEL）的检测器，然后设计一种集成深度泰勒分解（EDTD）方法，可对 SDEL 检测器输出给出像素级解释。此外，我们推导了用于计算像素级热力图的保真度、鲁棒性与表现力的公式，以评估 EDTD 解释的质量。借助 EDTD 解释，我们开发了一种新颖的可解释丢弃（IDrop）方法，通过训练 SDEL 检测器来构建 IEMD。实验结果表明，我们的 EDTD 相比先前基于图像的恶意软件检测解释方法具有更好的解释性。此外，实验结果表明 IEMD 达到了高达 99.87% 的更高检测精度，同时展现出具有高质量预测结果的可解释性。而且，实验结果表明在 IEMD 构建过程中，IEMD 的可解释性随检测精度的提高而增强。这种一致性表明 IDrop 能够缓解模型可解释性与检测精度之间的权衡。
引用
@article{arxiv.2101.04889,
title = {Towards Interpretable Ensemble Learning for Image-based Malware Detection},
author = {Yuzhou Lin and Xiaolin Chang},
journal= {arXiv preprint arXiv:2101.04889},
year = {2021}
}