“它如何检测恶意应用？”——基于 AI 的 Android 恶意软件检测器预测解释
密码学与安全
2022-11-21 v1 人工智能
机器学习
摘要
AI 方法已被证明在 Android 恶意软件检测上取得了令人印象深刻的性能。然而，大多数基于 AI 的方法以黑盒方式对可疑样本进行预测，模型推理过程缺乏透明性。网络安全与 AI 从业者对模型可解释性与透明性的期望，以确保可信度，正在增加。在本文中，我们提出了一种用于 Android 恶意软件检测的 AI 模型的新型模型无关解释方法。我们提出的方法通过两步识别并量化与预测相关的数据特征：i) 通过操纵特征值生成合成数据的数据扰动；以及 ii) 优化特征归因值，以在最小特征值变化下寻求扰动数据上预测分数的显著变化。所提方法通过三个实验进行了验证。我们首先证明，我们提出的模型解释方法有助于定量发现 AI 模型如何被对抗样本规避。在随后的实验中，我们分别将所提方法的可解释性与保真度与现有最优方法进行了比较。
引用
@article{arxiv.2111.05108,
title = {"How Does It Detect A Malicious App?" Explaining the Predictions of AI-based Android Malware Detector},
author = {Zhi Lu and Vrizlynn L. L. Thing},
journal= {arXiv preprint arXiv:2111.05108},
year = {2022}
}