面向恶意软件分析的可解释人工智能（XAI）：技术、应用与开放挑战综述
密码学与安全
2025-04-09 v3 人工智能
摘要
机器学习（ML）在近年来迅速发展，正在革新金融、医疗和网络安全等领域。在恶意软件检测中，基于 ML 的方法显示出高准确率；然而，其缺乏透明度构成了重要挑战。传统的黑箱模型往往无法提供其预测依据的可解释解释，限制了其在安全关键环境中的采用，因为在威胁缓解和响应中，理解检测背后的推理原因至关重要。可解释人工智能（XAI）通过提升模型可解释性同时保持强大的检测能力来弥补这一差距。本综述提供了关于恶意软件分析中最新 ML 技术的全面回顾，特别关注可解释性方法。我们审阅了现有 XAI 框架，其在恶意软件分类和检测中的应用，以及在使恶意软件检测模型更具可解释性方面的挑战。此外，我们探讨了最近的进展，概述了可解释恶意软件分析领域的开放研究挑战。通过提供 XAI 驱动的恶意软件检测方法的结构化概览，本综述为寻求在网络安全领域桥接 ML 性能与可解释性之间的研究者和实践者提供了宝贵资源。
引用
@article{arxiv.2409.13723,
title = {Explainable Artificial Intelligence (XAI) for Malware Analysis: A Survey of Techniques, Applications, and Open Challenges},
author = {Harikha Manthena and Shaghayegh Shajarian and Jeffrey Kimmell and Mahmoud Abdelsalam and Sajad Khorsandroo and Maanak Gupta},
journal= {arXiv preprint arXiv:2409.13723},
year = {2025}
}