可视化分析 SHAP 图以诊断基于机器学习的入侵检测中的误分类
密码学与安全
2024-11-06 v1 机器学习
摘要
入侵检测是一种广泛采用的侦探式安全措施，用于保护系统和网络免受各种威胁。健壮的入侵检测系统（IDS）本质上可以通过提供警报来缓解威胁。在基于网络的 IDS 中，我们通常处理分布式拒绝服务（DDoS）、欺骗、侦察、暴力破解、僵尸网络等网络威胁。为检测这些威胁，已提出了各种机器学习（ML）和深度学习（DL）模型。然而，这些预测方法面临的一个关键挑战是存在误报（FP）和漏报（FN）实例。这些误报和漏报存在于任何黑箱入侵检测系统中，使分析师的决策任务更加复杂。本文提出了一种基于可解释人工智能（XAI）的可视化分析方法，利用重叠的 SHAP 图呈现特征解释，以识别 IDS 中的潜在误报和漏报。我们的方法可以进一步为安全分析师提供有效决策的指导。我们以多个公开可用的网络流量数据集进行了案例研究，展示了我们的方法在识别误报和漏报实例方面的有效性。我们的用例场景为分析师如何使用可视化分析方法应对此类威胁提供了明确的指导。
引用
@article{arxiv.2411.02670,
title = {Visually Analyze SHAP Plots to Diagnose Misclassifications in ML-based Intrusion Detection},
author = {Maraz Mia and Mir Mehedi A. Pritom and Tariqul Islam and Kamrul Hasan},
journal= {arXiv preprint arXiv:2411.02670},
year = {2024}
}
备注
10 pages, 14 figures, accepted in the MLC Workshop of the International Conference on Data Mining Conference (ICDM 2024)