网络安全中基于DNN的白盒可解释AI方法的比较分析
密码学与安全
2025-01-15 v1 人工智能
摘要
新研究致力于为网络入侵检测系统（NIDS）创建人工智能（AI）解决方案，其灵感源于联网系统上日益增多的入侵事件，以及其不断上升的复杂性和可理解性。因此，在真实世界的入侵检测系统中使用可解释AI（XAI）技术，源于安全分析师对理解和阐释黑盒AI模型的需求。为了满足这些需求，本文重点通过端到端的神经网络模型框架，应用并评估NIDS的白盒XAI技术（特别是LRP、IG和DeepLift），使用三个广泛使用的网络入侵数据集（NSL-KDD、CICIDS-2017和RoEduNet-SIMARGL2021），评估其全局和局部范围，并考察六种不同的评估指标（描述准确性、稀疏性、稳定性、鲁棒性、效率和完整性）。我们还比较了白盒XAI方法与黑盒XAI方法的性能。结果表明，使用白盒XAI技术在鲁棒性和完整性方面得分很高，而这些是IDS的关键指标。此外，我们为XAI评估框架开发的程序源代码可供研究社区改进和使用。
引用
@article{arxiv.2501.07801,
title = {A Comparative Analysis of DNN-based White-Box Explainable AI Methods in Network Security},
author = {Osvaldo Arreche and Mustafa Abdallah},
journal= {arXiv preprint arXiv:2501.07801},
year = {2025}
}