面向网络安全在线学习的内在可解释且不确定性感知模型
机器学习
2024-11-15 v1
摘要
本文针对高风险行业（特别是网络安全）在线学习场景中，对可解释且具备不确定性量化能力的机器学习模型的迫切需求展开研究。尽管深度学习等复杂模型展现出卓越的预测性能，但其不透明性和缺乏不确定性量化引发了对其可信度的严重质疑。我们提出了一种面向网络安全在线监督学习问题的新颖流水线，利用加性高斯过程（AGP）模型的内在可解释性和不确定性感知能力。该方法旨在在预测性能与透明度之间取得平衡，同时改进 AGP 的可扩展性——这正是其主要缺陷——从而有望帮助安全分析师更好地验证威胁检测、排查故障并减少误报，总体上做出可信、明智的决策。本工作为可解释 AI 领域贡献了一类模型，可显著受益于网络安全领域典型的高风险决策问题。源代码已公开。
引用
@article{arxiv.2411.09393,
title = {Inherently Interpretable and Uncertainty-Aware Models for Online Learning in Cyber-Security Problems},
author = {Benjamin Kolicic and Alberto Caron and Chris Hicks and Vasilios Mavroudis},
journal= {arXiv preprint arXiv:2411.09393},
year = {2024}
}