我们能信任你的解释吗？安卓恶意软件分析中解释器的合理性检验
密码学与安全
2020-08-14 v1 软件工程
摘要
随着安卓恶意软件的快速增长，许多基于机器学习的恶意软件分析方法被提出以缓解这一严峻现象。然而，此类分类器是不透明的、非直观的，且分析人员难以理解其内在决策原因。为此，人们提出了多种解释方法，通过提供重要特征来解释预测结果。遗憾的是，在恶意软件分析领域获得的解释结果通常无法达成共识，这使得分析人员对于能否信任此类结果感到困惑。在这项工作中，我们提出了原则性指南，通过设计三个关键的量化指标来衡量五种解释方法的稳定性、鲁棒性与有效性，以评估其质量。此外，我们收集了五个广泛使用的恶意软件数据集，并在包括恶意软件检测与家族识别在内的两项任务上应用这些解释方法。基于生成的解释结果，我们依据这三个指标对这类解释方法进行了合理性检验。结果表明，我们的指标能够评估解释方法，并帮助我们获取用于恶意软件分析的最典型恶意行为知识。
引用
@article{arxiv.2008.05895,
title = {Can We Trust Your Explanations? Sanity Checks for Interpreters in Android Malware Analysis},
author = {Ming Fan and Wenying Wei and Xiaofei Xie and Yang Liu and Xiaohong Guan and Ting Liu},
journal= {arXiv preprint arXiv:2008.05895},
year = {2020}
}