可解释人工智能在网络安全中的应用：研究现状
密码学与安全
2022-09-07 v1
摘要
本综述对当前关于面向网络安全应用的可解释人工智能（XAI）方法的文献进行了全面回顾。由于近年来互联网连接系统与人工智能的快速发展，包括机器学习（ML）与深度学习（DL）在内的人工智能已广泛应用于入侵检测、恶意软件检测和垃圾邮件过滤等网络安全领域。然而，尽管基于人工智能的网安攻击与威胁检测防御方法相较传统基于签名与基于规则的策略更为先进高效，大多数基于ML与基于DL的技术以黑盒方式部署，意味着安全专家与客户无法解释此类过程如何得出特定结论。现有人工智能技术透明性与可解释性的缺失会降低人类用户对用于网安防御模型的信心，尤其在当前网络攻击日益多样复杂的情形下。因此，在网络安全模型构建中应用XAI以创建更具可解释性的模型，同时保持高精度并让人类用户理解、信任和管理下一代网络防御机制至关重要。尽管已有论文综述人工智能在网络安全领域的应用以及XAI在医疗、金融服务和刑事司法等诸多领域的广泛应用文献，但令人惊讶的事实是，目前尚无聚焦于XAI在网络安全中应用的综述研究文章。
引用
@article{arxiv.2208.14937,
title = {Explainable Artificial Intelligence Applications in Cyber Security: State-of-the-Art in Research},
author = {Zhibo Zhang and Hussam Al Hamadi and Ernesto Damiani and Chan Yeob Yeun and Fatma Taher},
journal= {arXiv preprint arXiv:2208.14937},
year = {2022}
}
备注
Accepted by IEEE Access