Illuminati：面向网络安全分析的图神经网络解释框架
机器学习
2023-03-28 v1 密码学与安全
摘要
图神经网络（GNNs）已被用于为从欺诈检测到软件漏洞分析的一系列网络安全应用构建多层图模型。不幸的是，与传统神经网络一样，GNNs 也存在缺乏透明性的问题，即模型预测难以解释。已有工作聚焦于 GNN 模型的特定因子解释。在本工作中，我们设计并实现了 Illuminati，一个用于基于 GNN 模型的网络安全应用的全面且准确的解释框架。给定一个图和一个预训练的 GNN 模型，Illuminati 能够识别对预测有贡献的重要节点、边和属性，且无需 GNN 模型的先验知识。我们在两个网络安全应用中评估 Illuminati，即代码漏洞检测和智能合约漏洞检测。实验表明，Illuminati 比最先进的方法取得了更准确的解释结果，具体而言，Illuminati 识别的子图中有 87.6% 能够保留其原始预测，比其他的 77.3% 提高了 10.3%。此外，领域专家能够轻松理解 Illuminati 的解释，表明其对网络安全应用开发具有显著效用。
引用
@article{arxiv.2303.14836,
title = {Illuminati: Towards Explaining Graph Neural Networks for Cybersecurity Analysis},
author = {Haoyu He and Yuede Ji and H. Howie Huang},
journal= {arXiv preprint arXiv:2303.14836},
year = {2023}
}
备注
EuroS&P 2022