面向网络安全的 XAI：现状、挑战、开放问题与未来方向
密码学与安全
2022-06-09 v1 人工智能
摘要
过去几年中，人工智能（AI）技术已应用于人类生活的几乎所有垂直领域。然而，AI 模型生成的结果常缺乏可解释性。AI 模型常表现为黑盒，开发者无法解释或追溯特定决策背后的推理过程。可解释 AI（XAI）是一个快速发展的研究领域，有助于提取信息并以最优透明度可视化生成的结果。本研究对 XAI 在网络安全中的应用进行了广泛综述。网络安全保护系统、网络与程序免受各类攻击。XAI 在预测此类攻击方面具有巨大潜力。本文简要概述网络安全及各种攻击形式。随后讨论了传统 AI 技术的应用及其相关挑战，这为 XAI 在各应用中的使用开辟了道路。文中还介绍了多个研究项目与产业界的 XAI 实现。最后，总结了从这些应用中获得的经验，以指导未来研究范围。
引用
@article{arxiv.2206.03585,
title = {XAI for Cybersecurity: State of the Art, Challenges, Open Issues and Future Directions},
author = {Gautam Srivastava and Rutvij H Jhaveri and Sweta Bhattacharya and Sharnil Pandya and Rajeswari and Praveen Kumar Reddy Maddikunta and Gokul Yenduri and Jon G. Hall and Mamoun Alazab and Thippa Reddy Gadekallu},
journal= {arXiv preprint arXiv:2206.03585},
year = {2022}
}
备注
Submitted to peer review