面向 Android 恶意软件检测的可解释 AI：探明模型为何表现如此之好？
密码学与安全
2022-09-05 v1 软件工程
摘要
基于机器学习（ML）的 Android 恶意软件检测一直是移动安全领域最热门的研究课题之一。越来越多的研究证明机器学习是一种有效且有前景的恶意软件检测方法，部分工作甚至声称其提出的模型可达到 99% 的检测准确率，几乎无进一步提升空间。然而，大量先前研究指出，不切实际的实验设计会带来显著偏差，导致恶意软件检测中过于乐观的性能。与以往通过考察 ML 分类器检测性能来定位原因的研究不同，本研究采用可解释 AI（XAI）方法探究基于 ML 的模型在训练过程中学到了什么，审视并解释为何基于 ML 的恶意软件分类器在不切实际的实验设定下表现如此之好。我们发现训练数据集中的时间样本不一致带来了过于乐观的分类性能（F1 分数和准确率高达 99%）。重要的是，我们的结果表明 ML 模型是基于恶意软件与良性软件之间的时间差异而非实际恶意行为来进行分类的。我们的评估还证实了不切实际的实验设计不仅导致不真实的检测性能，也导致可靠性差，对实际应用构成重大障碍。这些发现表明，应使用 XAI 方法来帮助从业者/研究人员更好地理解 AI/ML 模型（即恶意软件检测）如何工作——而非仅关注准确率提升。
引用
@article{arxiv.2209.00812,
title = {Explainable AI for Android Malware Detection: Towards Understanding Why the Models Perform So Well?},
author = {Yue Liu and Chakkrit Tantithamthavorn and Li Li and Yepang Liu},
journal= {arXiv preprint arXiv:2209.00812},
year = {2022}
}
备注
Accepted by the 33rd IEEE International Symposium on Software Reliability Engineering (ISSRE 2022)