可解释入侵检测系统(X-IDS):当前方法、挑战与机遇综述
密码学与安全
2022-07-14 v1 人工智能
摘要
人工智能(AI)和机器学习(ML)在网络安全挑战中的应用已在工业和学术界获得关注,部分原因是针对云基础设施和政府机构等关键系统的广泛恶意软件攻击。使用某些形式AI的入侵检测系统(IDS)因能够处理海量数据且预测精度高而得到广泛采用。这些系统部署于组织的网络安全运营中心(CSoC)中,作为监控和检测恶意网络流量的防御工具,否则将影响机密性、完整性和可用性(CIA)。CSoC分析师依赖这些系统对检测到的威胁做出决策。然而,使用深度学习(DL)技术设计的IDS常被视为黑盒模型,不提供其预测的依据。这为CSoC分析师造成了障碍,因为他们无法基于模型预测改进决策。该问题的一个解决方案是设计可解释的IDS(X-IDS)。本综述回顾了用于IDS的可解释AI(XAI)的最新进展、当前挑战,并讨论了这些挑战如何延伸至X-IDS的设计。我们尤其全面讨论了黑盒和白盒方法。我们还从性能和生成解释的能力方面给出了这些方法间的权衡。此外,我们提出了一种考虑人在回路的通用架构,可用作设计X-IDS的指南。从三个关键视角给出了研究建议:需要界定IDS的可解释性、需要创建面向不同利益相关者的解释,以及需要设计评估解释的度量指标。
引用
@article{arxiv.2207.06236,
title = {Explainable Intrusion Detection Systems (X-IDS): A Survey of Current Methods, Challenges, and Opportunities},
author = {Subash Neupane and Jesse Ables and William Anderson and Sudip Mittal and Shahram Rahimi and Ioana Banicescu and Maria Seale},
journal= {arXiv preprint arXiv:2207.06236},
year = {2022}
}