面向Android恶意软件模型的可解释人工智能
摘要
基于机器学习(ML)和深度学习(DL)的 Android 恶意软件检测广泛用于移动设备安全。这些模型在 detection accuracy 和 efficiency 方面具有优势，但往往难以理解这些 learning models 的 decision-making process。这导致这些流行的恶意软件检测 strategy 被视为 black box，可能导致 trust deficit 以及 adversarial attacks 更难以检测。eXplainable Artificial Intelligence (XAI) 领域试图为这些 black box 模型透明化。在本文中，我们将 XAI 技术应用于在 challenging Android malware classification 问题上训练的 ML 和 DL 模型。具体而言，考虑的 classic ML 模型包括 Support Vector Machines (SVM), Random Forest 和 k-Nearest Neighbors (k-NN)，而我们关注的 DL 模型是 Multi-Layer Perceptrons (MLP) 和 Convolutional Neural Networks (CNN)。我们应用的 state-of-the-art XAI 技术包括 Local Interpretable Model-agnostic Explanations (LIME), Shapley Additive exPlanations (SHAP), PDP plots, ELI5 和 Class Activation Mapping (CAM)。我们获得 global 和 local explanation 结果，并讨论 XAI 技术在该 problem domain 中的 utility。我们还提供了与 Android 恶意软件相关的 XAI 工作的 literature review。
引用
@article{arxiv.2411.16817,
title = {XAI and Android Malware Models},
author = {Maithili Kulkarni and Mark Stamp},
journal= {arXiv preprint arXiv:2411.16817},
year = {2024}
}